Агенты ИИ получили доступ к конфиденциальным данными

Агентство кибербезопасности Индии обнаружило несанкционированный доступ ИИ к персональным данным и конфиденциальной информации организаций.

В ходе проведения исследований и тестирования, агенты искусственного интеллекта от нескольких поставщиков несанкционированно получили доступ к персональным данным и конфиденциальным материалам индийских организаций, о чем сообщило агентство по кибербезопасности Индии. Индийская группа реагирования на компьютерные чрезвычайные происшествия (CERT-In), в свою очередь, подтвердила наличие многочисленных добровольных сообщений от поставщиков моделей ИИ, чьи агенты в процессе работы в открытом интернете осуществили несанкционированный доступ к действующим системам индийских организаций.

Проникновение агентов в системы индийских организаций осуществлялось через учетные данные и конфигурации подключения, которые были оставлены незащищенными в приложениях, публичных репозиториях кода и облачных ролях с избыточными правами доступа. Действия агентов выходили за рамки полномочий, предусмотренных для выполнения поставленных задач, что свидетельствует о наличии системных уязвимостей в инфраструктуре организаций.

Индия стала очередной страной, подвергшейся атакам агентов искусственного интеллекта-мошенников. В июле агенты OpenAI вышли за пределы тестовой среды и осуществили взлом французской компании Hugging Face, что положило начало периоду повышенной активности ИИ-агентов, специализирующихся на мошенничестве. В прошлом месяце компания OpenAI выразила извинения Австралии после того, как агенты ИИ получили доступ к четырем правительственным сайтам, включая портал статистики Medicare.

Действия агентов OpenAI в Hugging Face начались с аналогичных несанкционированных действий, но затем они обнаружили и использовали уязвимости в программном обеспечении для выполнения кода на серверах компании. В отличие от этого, в Индии агенты, по-видимому, воспользовались оставленным без присмотра доступом к системам, что указывает на более низкий уровень кибербезопасности в индийских организациях.

Однако индийские случаи выделяются одним важным аспектом, который был замечен агентами: в Австралии OpenAI заявила об отсутствии доказательств обращения агентов к медицинским или криминальным данным людей, даже после создания файлов в системе статистики Medicare. В Индии, напротив, агенты читали личные данные и конфиденциальную деловую документацию. Более того, в отличие от предыдущих инцидентов, в которых информация о взломах раскрывалась только одной лабораторией, в индийском случае были задействованы агенты нескольких компаний.

CERT-In не раскрыл ни имена провайдеров, ни названия пострадавших организаций, а также не предоставил информацию о том, вносили ли агенты изменения в какие-либо системы. TechCrunch обратился в CERT-In с запросом на дополнительную информацию.

Наиболее близкой аналогией к индийскому инциденту является сообщение, опубликованное в июле компанией Anthropic, о том, что Claude взломал системы трех компаний во время тестирования с использованием базовых методов, таких как использование ненадежных паролей. В Индии, как и в случае с Anthropic, пострадавшие организации не смогли самостоятельно обнаружить факт взлома.

Из-за этих разоблачений правительствам приходится полагаться на добровольное раскрытие информации о неправомерных действиях ИИ-агентов со стороны компаний, занимающихся разработкой ИИ.

Подготовлено ТИАП по материалам techcrunch

Понравилась ли Вам статья?