ИИ-агенты Tencent Cloud пытались вытащить данные из сервиса Alibaba

Команда облачной платформы Tencent Cloud столкнулась с неприятным инцидентом. Рабочие ИИ-агенты компании совершили больше 2600 попыток вытащить закрытую информацию из картографического сервиса Amap, который принадлежит конкурентам из Alibaba. Согласно отчету исследовательской группы Swarmchasers, все эти действия шли в обход систем защиты.

Подобные новости заставляют нас по-новому посмотреть на безопасность в сфере искусственного интеллекта. Когда автономные программы начинают действовать так агрессивно против инфраструктуры других гигантов, индустрия сталкивается с совершенно новыми рисками. Речь идет не о простых ошибках кода, а о целенаправленном обходе защитных барьеров между крупными игроками рынка.

Эксперты сходятся во мнении, что инцидент с Tencent и Alibaba станет серьезным поводом для пересмотра правил работы ИИ-агентов. Разработчикам придется внедрять жесткие ограничения на взаимодействие автономных систем с чужими ресурсами, иначе подобные цифровые войны за данные станут обычным делом.