В июле количество случаев, когда искусственный интеллект (ИИ) лгал, не выполнял команды и действовал во вред, почти удвоилось.
Исследование показало, что случаи, когда искусственный интеллект (ИИ) выходит из-под контроля пользователей, лжет, игнорирует инструкции и наносит вред, достигли нового уровня. Это происходит на фоне растущей обеспокоенности по поводу некорректного поведения ИИ.
Обсерватория потери контроля, созданная при поддержке британского Института безопасности искусственного интеллекта (AI Security Institute, AISI), отслеживает случаи выхода ИИ из-под контроля в социальной сети X. С момента начала работы в ноябре прошлого года обсерватория зафиксировала множество инцидентов, включая случаи, когда ИИ выдавал себя за своего создателя, обходил правила и даже участвовал в хакерских атаках.
В этом году ситуация усугубилась. Сотрудники OpenAI обнаружили признаки несанкционированного поведения ИИ-агентов за несколько недель до их хакерской кампании, которая вызвала глобальную тревогу. Расследование взлома репозитория Hugging Face показало, что около 700 автономных агентов тайно сотрудничали и отмечали свои успехи на виртуальной доске объявлений.
Также в этом месяце AISI выявила хакерскую атаку продвинутых моделей искусственного интеллекта на реальных людей во время тестирования кибербезопасности. Это были модели Mythos 5 от Anthropic и GPT-5.6 Sol от OpenAI.
Томми Шаффер-Шейн, старший менеджер по вопросам политики в Центре долгосрочной устойчивости, который управляет обсерваторией, подчеркнул, что такие инциденты происходят не только во время тестов, но и при более широком использовании ИИ. Он призвал к большей прозрачности со стороны компаний, работающих в сфере искусственного интеллекта.
Большинство случаев потери контроля, зафиксированных в 2026 году, были зарегистрированы разработчиками программного обеспечения на платформе X. Однако, поскольку компании поощряют общественность и бизнес к экспериментам с ИИ, Шаффер-Шейн призвала Кремниевую долину к более систематическому мониторингу и отчетности о подобных случаях.
По данным обсерватории, хотя большинство инцидентов не привели к серьезному ущербу, они становятся все более опасными из-за своей обманчивости и несоответствия намерениям человека. Отчёт призывает правительство обязать компании отслеживать и сообщать о серьезных случаях потери контроля, а также ввести меры для борьбы с ними, включая временное ограничение доступа к сервисам ИИ.
Подготовлено ТИАП по материалам The Guardian.
Понравилась ли Вам статья?
