Cựu nhà nghiên cứu Anthropic cảnh báo về siêu trí tuệ AI đe dọa nhân loại

Jacob Coxon, một nhà nghiên cứu vừa rời khỏi Anthropic, đã đưa ra những cảnh báo nghiêm trọng về việc phát triển trí tuệ nhân tạo. Anh cho rằng cả Anthropic và OpenAI đang tham gia vào một cuộc đua mạo hiểm trong việc phát triển siêu trí tuệ tự cải tiến, mà theo anh, có thể đặt mạng sống của con người vào tình thế nguy hiểm. Trong ba năm làm việc tại Anthropic, Coxon đã chứng kiến những nỗ lực của công ty trong việc tạo ra các hệ thống AI tiên tiến hơn.

Coxon nhấn mạnh rằng sự phát triển không kiểm soát của trí tuệ nhân tạo có thể dẫn đến những hậu quả không thể tưởng tượng nổi. Anh cho rằng các phòng thí nghiệm AI đang phải đối diện với mối lo ngại ngày càng tăng về khả năng mà công nghệ này có thể vượt qua tầm kiểm soát của con người. Điều này không chỉ liên quan đến khả năng trí tuệ mà còn đến các quyết định có thể ảnh hưởng tới cuộc sống của hàng triệu người.

Coxon cũng cho biết, trong quá trình làm việc, anh đã cảm thấy rằng mục tiêu của những công ty như Anthropic và OpenAI không chỉ đơn giản là phát triển AI mà còn là tạo ra một siêu trí tuệ có khả năng tự cải thiện. Điều này khiến anh lo ngại về việc những công nghệ này có thể không chỉ phục vụ con người mà còn đặt ra những thách thức lớn đối với sự tồn tại của chúng ta.

Cuộc tranh luận về an toàn AI ngày càng trở nên cấp bách hơn khi ngày càng nhiều nhà nghiên cứu và chuyên gia trong lĩnh vực này bày tỏ sự lo ngại về tiềm năng của AI. Các nhà nghiên cứu như Coxon đang kêu gọi một cách tiếp cận cẩn trọng hơn trong việc phát triển và triển khai công nghệ này, nhằm đảm bảo rằng những rủi ro tiềm ẩn không trở thành hiện thực.