디지서트, AI 에이전트·모델·콘텐츠 ‘상시 검증’ AI 트러스트 공개

디지털 보안 기업 디지서트가 최근 기업의 인공지능(AI) 시스템과 그 결과물을 검증할 수 있는 ‘AI 트러스트’ 프레임워크를 발표했습니다. 이는 AI의 도입이 급격히 진행됨에 따라 생기는 신뢰 문제를 해결하기 위한 시도로, 자율형 에이전트와 AI 모델, 디지털 콘텐츠 전반에 걸쳐 신뢰를 관리하려는 목표를 가지고 있습니다.

AI 기술이 기업의 혁신을 가속화하고 있지만, 동시에 기존의 신뢰 체계를 위협하고 있다는 점을 디지서트는 주목하고 있습니다. AI 시스템이 기계 속도로 작업을 처리하면서 발생하는 문제들과, AI 모델이 공급망과 지식재산권의 위험을 증가시키는 상황은 기업들에게 큰 도전이 되고 있습니다. 또한, 디지털 콘텐츠의 진위를 판단하기 어려워지는 상황에서 기업들은 더욱 복잡한 신뢰 문제에 직면하고 있습니다.

디지서트의 CEO 아미트 신하는 “AI는 새로운 신뢰 과제를 만들었다”고 언급하며, 이러한 과제를 해결하기 위한 체계적 접근이 필요하다고 강조했습니다. AI 트러스트 프레임워크는 기업들이 자율형 에이전트와 AI 모델의 신뢰성을 검증하고, 생성된 콘텐츠의 진위를 확인할 수 있도록 돕는 역할을 하게 됩니다. 이를 통해 기업들은 AI를 보다 안전하게 활용할 수 있는 기반을 마련하게 될 것입니다.

AI 트러스트는 단순히 기술적인 검증을 넘어서, 기업이 AI를 활용할 때 발생할 수 있는 다양한 윤리적 문제와 법적 이슈를 해결하는 데에도 초점을 맞추고 있습니다. 이는 AI의 발전이 가져오는 새로운 사회적, 경제적 도전에 대응하기 위한 필수적인 요소로 작용할 것입니다. 디지서트는 이러한 프레임워크가 기업들이 AI를 더욱 신뢰할 수 있는 도구로 활용할 수 있도록 하는 데 기여할 것으로 기대하고 있습니다.

이제 기업들은 AI 트러스트 프레임워크를 통해 신뢰할 수 있는 AI 환경을 조성하고, 기술의 진화를 활용하여 경쟁력을 높일 수 있는 기회를 얻을 수 있습니다. 디지서트의 이 같은 노력은 향후 AI 기술의 발전과 함께 신뢰 기반의 생태계를 구축하는 데 중요한 역할을 할 것으로 보입니다.