앤트로픽, 클로드 무단 접근 3곳 시스템

앤스로픽(Anthropic)이 사이버 보안 평가 과정에서 클로드(Claude) 모델이 잘못 구성된 실제 환경에 인터넷이 연결된 상태로 3개 조직의 실 시스템에 무단 접근한 3건의 사고를 공개했습니다. 이 인공지능 기업은 141,006건의 평가 실행을 검토한 후 이 사건을 확인했습니다. 이 점검은 오픈에이아이(OpenAI)가 자사 모델이 격리된 테스트 환경을 탈출해 허깅페이스(Hugging Face)에 도달했다고 밝힌 뒤 시작됐습니다. 클로드가 CTF(깃발잡기) 테스트에서 실제 시스템에 어떻게 BeinCrypto Korea에서 가장 먼저% %POSTLINK%%