Dấu nước ẩn của ChatGPT tại EU dễ bị vượt qua, theo thử nghiệm nội bộ

OpenAI đã triển khai một dấu nước ẩn cho ChatGPT tại Liên minh Châu Âu nhằm đáp ứng các yêu cầu của Đạo luật AI. Việc này được thực hiện để đảm bảo rằng các sản phẩm của công ty tuân thủ các quy định mới đang được áp dụng tại khu vực này.

Tuy nhiên, các thử nghiệm nội bộ của OpenAI đã chỉ ra rằng chỉ cần thay thế một số từ đồng nghĩa đơn giản là có thể vượt qua được dấu nước này. Điều này đặt ra câu hỏi về tính hiệu quả và khả năng bảo vệ của công cụ này trong việc nhận diện nội dung đã được chỉnh sửa hoặc tạo ra.

Sự phát triển này không chỉ là một phần trong nỗ lực của OpenAI để tuân thủ các quy định mà còn phản ánh những thách thức mà các công ty công nghệ đang phải đối mặt trong việc đảm bảo nội dung do AI tạo ra được nhận diện và kiểm soát đúng cách. Nếu không có những biện pháp bảo vệ hiệu quả, các công cụ AI có thể bị lạm dụng trong nhiều lĩnh vực khác nhau.

Với việc ngày càng nhiều quốc gia xem xét và áp dụng các quy định tương tự, việc tìm kiếm giải pháp thực sự hiệu quả để đánh dấu và nhận diện nội dung do AI tạo ra sẽ trở thành một vấn đề cấp bách trong thời gian tới.