Anthropic ngăn chặn nghiên cứu vũ khí sinh học trên Claude, nhà khoa học chuyển sang mô hình khác

Anthropic gần đây đã công bố rằng họ đã chặn một nghiên cứu liên quan đến vũ khí sinh học tiềm ẩn trên nền tảng AI của mình, Claude. Quyết định này được đưa ra sau khi phát hiện ra rằng một số nhà nghiên cứu đã tìm cách sử dụng công nghệ AI để phát triển các ứng dụng có thể gây hại.

Trong vòng vài ngày sau khi việc chặn này diễn ra, các nhà khoa học đã tìm cách chuyển sang một mô hình đối thủ khác để tiếp tục nghiên cứu. Điều này cho thấy sự cạnh tranh giữa các nền tảng AI cũng như nhu cầu của các nhà nghiên cứu trong việc khai thác công nghệ mới, bất chấp những rủi ro có thể xảy ra.

Sự việc này đã làm dấy lên những lo ngại về việc sử dụng AI trong các lĩnh vực nhạy cảm như nghiên cứu vũ khí sinh học. Việc các nhà khoa học có thể dễ dàng chuyển đổi sang mô hình khác cho thấy rằng việc quản lý và giám sát công nghệ AI đang trở nên cần thiết hơn bao giờ hết.

Bên cạnh đó, việc ngăn chặn nghiên cứu vũ khí sinh học trên Claude cũng đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc bảo vệ công chúng khỏi những ứng dụng tiềm ẩn nguy hiểm của AI. Điều này không chỉ liên quan đến việc phát triển công nghệ mà còn đến việc đảm bảo rằng nó được sử dụng một cách an toàn và có trách nhiệm.