Исследователи обнаружили две уязвимости промпт-инъекций в ИИ-агентах крупных российских компаний. В обоих случаях разработчики расширили права агентов ради удобства пользователей, что привело к утечкам данных.

В первом случае эксплуатация уязвимости позволила злоумышленникам получить доступ к запросам пользователей. Во втором инциденте атакующие смогли раскрыть исходный код агента и получить права на запись в S3-хранилище с диалогами.

Причиной обеих проблем стала избыточная конфигурация прав: агентам выдали больше возможностей, чем требовалось для выполнения их задач. Промпт-инъекция позволила обойти ограничения и воспользоваться этими правами.

Подобные инциденты указывают на системную проблему: компании стремятся сделать сервисы удобнее, но забывают про принцип минимальных привилегий. В результате агент становится точкой входа для атак на внутреннюю инфраструктуру.

Последствия могут быть серьёзными — от утечки персональных данных до компрометации облачных хранилищ. Вероятно, компаниям придётся пересмотреть политику доступа для ИИ-агентов и провести аудит существующих конфигураций.