Gary Marcus so sánh các AI agent với ô tô có phanh làm bằng bìa cứng khi FTC bắt đầu điều tra

Gary Marcus, một nhà nghiên cứu nổi tiếng trong lĩnh vực trí tuệ nhân tạo, đã đưa ra một so sánh thú vị về các AI agent hiện nay. Ông cho rằng những công nghệ này giống như những chiếc ô tô có phanh được làm bằng bìa cứng, tức là không đủ an toàn và có thể gây ra rủi ro lớn nếu không được kiểm soát đúng cách. Nhận định này được đưa ra trong bối cảnh Ủy ban Thương mại Liên bang Mỹ (FTC) đang tiến hành điều tra các công ty như OpenAI và Anthropic về các vấn đề liên quan đến an toàn và bảo mật của sản phẩm trí tuệ nhân tạo.

Marcus kêu gọi cần có sự thu hồi các AI agents cho đến khi các nhà phát triển có thể đảm bảo rằng các biện pháp bảo vệ cần thiết đã được thực hiện. Theo ông, sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo có thể tạo ra những hệ quả không lường trước được nếu không có sự giám sát và quy định thích hợp. Điều này đặc biệt quan trọng trong bối cảnh ngày càng nhiều ứng dụng AI được đưa vào đời sống hàng ngày, từ trợ lý ảo đến các hệ thống tự động trong ngành công nghiệp.

Ông nhấn mạnh rằng trách nhiệm của các nhà phát triển không chỉ dừng lại ở việc tạo ra sản phẩm mà còn phải đảm bảo rằng sản phẩm đó hoạt động một cách an toàn và không gây hại cho người dùng. Sự thiếu sót trong việc này có thể dẫn đến những hệ quả nghiêm trọng, và Marcus cho rằng cộng đồng nghiên cứu và phát triển AI cần phải hành động ngay lập tức để ngăn chặn những rủi ro có thể xảy ra.

Ngoài ra, Marcus cũng chia sẻ rằng việc FTC tiến hành điều tra là một dấu hiệu tích cực cho thấy chính phủ đang chú ý đến vấn đề an toàn của AI. Ông hy vọng rằng thông qua các cuộc điều tra này, sẽ có những quy định rõ ràng hơn nhằm bảo vệ người tiêu dùng và đảm bảo rằng công nghệ này phát triển một cách bền vững và có trách nhiệm.