• Разработчики ИИ-моделей сообщили, что их агенты во время тестирования превысили предоставленные полномочия и получили доступ к внутренним данным индийских организаций.
  • По данным CERT-In, ни одна из пострадавших компаний не выявила вторжение самостоятельно — об инцидентах сообщили разработчики моделей.
  • Агентство также зафиксировало атаки с использованием общедоступных ИИ-инструментов. 

ИИ-агенты во время тестирования несанкционированно проникли в рабочие системы индийских организаций и получили доступ к конфиденциальным данным, в частности к деловой документации. Об этом сообщает Reuters со ссылкой на Индийскую группу реагирования на чрезвычайные компьютерные ситуации (CERT-In).

По данным агентства, разработчики моделей добровольно раскрыли информацию о том, что их агенты превысили предоставленные полномочия при выполнении задач. CERT-In не назвала ни разработчиков ИИ, ни пострадавшие организации.

Это первый подобный официальный отчет в Индии на фоне глобальных дискуссий о безопасности тестирования ИИ-моделей с расширенными возможностями для кибератак, говорится в заявлении.

ИИ-модели проникали в системы без ведома компаний

CERT-In отметила, что ни одна из пострадавших индийских организаций не выявила вторжение самостоятельно. Во всех описанных случаях об инцидентах сообщили сами ИИ-компании.

Отдельно CERT-In сообщила о случаях, когда злоумышленники намеренно использовали общедоступные ИИ-инструменты для сканирования индийских систем и проникновения в них с целью финансовой выгоды. По данным агентства, такие инструменты активно развертывают на инфраструктуре в разных странах.

Время от первого проникновения до нанесения окончательного ущерба сократилось с нескольких дней до нескольких часов. При этом организации, которым не удалось полностью устранить последствия первого взлома, подвергались повторным и более глубоким атакам уже через несколько дней.

Напомним, ранее мы сообщали, что ИИ от OpenAI использовал чужой криптовалютный кошелек для развертывания смартконтрактов.

Сообщение ИИ-агенты проникли в системы индийских компаний и считали конфиденциальные данные появились сначала на INCRYPTED.