포털26, 기업 AI 에이전트 ‘토큰 과소비’ 막는 비용 통제 모듈 출시

최근 기업의 AI 운영에서 예기치 않은 비용 증가 문제가 심각하게 대두되고 있습니다. 이러한 문제를 해결하기 위해 포털26이 출시한 새로운 비용 통제 모듈은 기업용 AI 에이전트의 ‘토큰 과소비’를 방지하는 데 초점을 맞추고 있습니다. 이 모듈은 자율형 AI 에이전트가 불필요하게 작업을 반복하거나 작업 범위를 확장할 때 발생할 수 있는 비용 급증을 예방하기 위해 설계되었습니다.

포털26은 24일(현지시간) 개별 AI 에이전트뿐만 아니라 특정 워크플로, 나아가 조직 전체에 걸쳐 토큰 예산을 설정할 수 있는 기능을 도입했습니다. 이를 통해 기업은 AI 에이전트의 사용량을 보다 효과적으로 관리할 수 있습니다. 설정된 한도에 가까워지면 AI 에이전트는 자동으로 작동 속도를 조절하고, 한도를 초과할 경우 일시 중지하거나 완전히 종료하는 방식으로 비용을 통제합니다.

토큰은 대형언어모델(LLM)이 텍스트를 처리하고 생성하는 데 소모되는 연산 단위로, 이 사용량이 많아질수록 기업의 비용 부담이 커지게 됩니다. 따라서 이 모듈은 기업들이 예산 내에서 AI 기술을 활용하도록 돕는 중요한 역할을 합니다. 비용 초과를 방지하는 이 시스템은 AI의 효율성을 높이고, 기업의 운영 안정성을 강화하는 데 기여할 것으로 기대됩니다.

포털26의 이번 발표는 기업이 AI를 도입함에 있어 직면하는 비용 관리 문제를 해결하기 위한 혁신적인 접근을 보여줍니다. AI 기술이 발전함에 따라 기업들은 이를 효과적으로 활용하기 위해 지속적으로 관리와 통제가 필요합니다. 새로운 비용 통제 모듈은 이러한 요구에 부응하며, AI 운영의 경제적 효율성을 높이는 데 중요한 도구가 될 것입니다.

AI 에이전트를 통한 업무 효율성을 극대화하고자 하는 기업들에게 이번 모듈은 꼭 필요한 솔루션으로 자리 잡을 가능성이 큽니다. 앞으로 이러한 기술적 발전이 기업의 AI 운영을 보다 안정적이고 경제적으로 만들어 나갈 것이라 기대됩니다.