Anthropic и OpenAI просчитывают сценарии масштабного ИИ-кризиса

Ведущие разработчики искусственного интеллекта начали серьезно готовиться к возможным катастрофическим сценариям. По данным издания Axios, руководители таких компаний, как Anthropic и OpenAI, проводят специальные сессии для моделирования масштабных инцидентов, связанных с их собственными разработками. Они пытаются предугадать не только технические сбои, но и жесткие политические последствия, с которыми столкнутся игроки рынка, если ситуация выйдет из-под контроля.

Для криптоиндустрии и смежных секторов подобные новости имеют огромное значение, так как проекты на базе искусственного интеллекта все тежнее переплетаются с блокчейн-технологиями. Любой серьезный сбой в сфере ИИ или последовающие за ним запретительные законы могут мгновенно обрушить котировки связанных токенов и подорвать доверие инвесторов к высокотехнологичным стартапам. Рынок чутко реагирует на любые разговоры о рисках, ведь регуляторы только и ждут повода для закручивания гаек.

В ближайшее время разработчики намерены продолжить стресс-тесты и привлечь к оценке независимых экспертов по безопасности. Подобные превентивные меры показывают, что создатели алгоритмов сами начинают опасаться последствий собственного прогресса. Нам остается только наблюдать, перерастут ли эти закрытые симуляции в реальные стандарты безопасности или останутся просто попыткой успокоить общественность.