Письмо 450 ученых во главе с Хинтоном и Бенджио требует отключить опасные ИИ от сети

Группа из более чем 450 ученых, включая известных исследователей Джеффри Хинтона и Йошуа Бенджио, опубликовала открытое письмо с призывом изолировать от сети продвинутые модели искусственного интеллекта. Речь идет о системах с высокими способностями в сфере кибербезопасности, которые потенциально способны находить и использовать уязвимости в автономном режиме. Авторы настаивают, что разработчики должны по умолчанию держать такие алгоритмы в офлайн-среде, чтобы исключить риски неконтролируемого распространения вредоносного кода или кибератак.

Подобная инициатива затрагивает самую болезненную точку современной индустрии. Компании инвестируют колоссальные средства в развитие автономных агентов, способных действовать в цифровой среде без участия человека. Если регуляторы или разработчики прислушаются к ученым, это существенно изменит подход к тестированию и развертыванию мощных нейросетей, ведь изоляция от интернета резко ограничивает их практическую пользу и скорость обучения.

Помимо сетевой изоляции, исследователи предлагают учредить специальный международный орган. Эта структура должна заняться едиными стандартами защиты, аудитом систем и централизованным учетом инцидентов безопасности. Подобные меры призваны предотвратить сценарии, при которых автономные ИИ-агенты выходят из-под контроля создателей и начинают наносить реальный ущерб критической инфраструктуре.

Пока крупные технологические корпорации никак не ограничили свою работу над автономными агентами в ответ на это обращение. Однако рост числа подобных предупреждений от ведущих мировых экспертов показывает, что вопрос безопасности ИИ переходит из академической плоскости в область жестких политических и регуляторных дискуссий.