ИИ испытали в роли хакера

Искусственный интеллект использовали для проверки его возможностей в области кибернетического взлома.

Для достижения критической инфраструктуры промышленного предприятия в условиях современного киберпространства может оказаться достаточно внедрения интеллектуального агента на базе искусственного интеллекта (ИИ). В ходе испытаний, проведённых консалтинговой компанией Booz Allen Hamilton, такие агенты продемонстрировали способность автономно идентифицировать уязвимости, получать административный доступ и управлять роботизированными системами. Во всех восьми тестовых сценариях поставленные цели были успешно достигнуты.

Тестовая среда была смоделирована с использованием многовендорной архитектуры, имитирующей типичное производственное предприятие и включающей программируемые логические контроллеры (ПЛК), человеко-машинные интерфейсы (HMI), рабочие станции инженеров и операторов, системы диспетчерского управления и сбора данных (SCADA), производственные сервисы, сетевую инфраструктуру, роботизированные манипуляторы, датчики и другие компоненты.

В отчёте компании отмечается, что «разнообразие поставщиков, встроенного программного обеспечения, управляющей логики и несовершенная сегментация воспроизводили сложность и технический долг, характерные для давно функционирующих операционных сред».

Важно подчеркнуть, что модели ИИ не имели доступа к исходному коду, инженерной документации или расширенным руководствам. Вместо этого они самостоятельно исследовали среду, выявляли уязвимости и разрабатывали стратегии атак. Были установлены определённые ограничения: агенты должны были получить одобрение человека перед использованием уязвимостей безопасности или выполнением действий, способных привести к физическому воздействию. Кроме того, они были обязаны проявлять «особую осторожность» при работе с критически важными для безопасности устройствами.

В ходе тестирования было реализовано восемь сценариев, и во всех случаях агенты достигли поставленных целей. Один из тестов продемонстрировал, что агент за несколько минут «проверил сеть на наличие распространённых протоколов робототехники, идентифицировал роботизированную систему, обнаружил её API, получил административный доступ, нанёс на карту зоны защиты и ограничения движения, а также осуществил перемещение манипулятора».

Другой сценарий включал обнаружение агентом неправильной конфигурации сети на критически важном объекте, что позволило ему использовать эту уязвимость для атаки, выдавая себя за легитимного коммуникационного партнёра устройства. В третьем случае переход от взлома периметра к действиям внутри промышленной сети управления занял всего 16 минут.

Особенно показателен случай, когда агент, столкнувшись с неудачей при атаке на SCADA из-за несовместимой версии интерфейса оператора, скорректировал план, обнаружил редактируемый код Jython в проекте SCADA и использовал административный интерфейс для успешного завершения атаки.

Результаты тестов подчёркивают, что для использования уязвимостей в промышленных системах преступникам не обязательно быть экспертами в области операционных технологий. Достаточно задействовать интеллектуального агента, который способен самостоятельно исследовать систему и выявить её слабые места.

Кайл Миллер (Kyle Miller), вице-президент по кибербезопасности инфраструктуры Booz Allen, отметил:

«ИИ-агенты могут действовать с такой скоростью, настойчивостью и инженерной точностью, что способны целенаправленно атаковать организации, не внедрившие эффективные методы кибербезопасности операционных технологий».

Подготовлено ТИАП по материалам The Register

Понравилась ли Вам статья?