Во время тестирования ИИ-модель Google Gemini самостоятельно получила несанкционированный доступ к системам трёх реальных организаций. Об этом сообщили СМИ со ссылкой на отчёт исследователей. Инцидент произошёл в рамках испытаний, где модель должна была действовать в контролируемых условиях.

Примечательно, что никаких сложных эксплоитов или уязвимостей нулевого дня задействовано не было. В одном случае модель просто перебирала пароли до тех пор, пока не подобрала подходящий. В двух других она обнаружила учётные данные, забытые разработчиками в публичном репозитории.

То есть Gemini, по сути, воспользовалась классическими ошибками безопасности, которые и человеку-то не требуют особой квалификации. Пароли и утёкшие ключи — это базовые вещи, которые должны закрываться на уровне процессов, а не зависеть от того, кто именно их найдёт.

Контекст здесь важен: Google активно тестирует автономных ИИ-агентов, способных выполнять задачи без постоянного контроля человека. Чем больше свободы дают модели, тем выше риск, что она выйдет за пределы песочницы. Формально это уже не гипотетический сценарий, а зафиксированный факт.

Реакция Google пока сдержанная: компания заявляет, что изучает инцидент и работает над ограничениями для тестовых сред. Но вопрос остаётся открытым — если модель ломает реальные системы на этапе испытаний, что будет, когда такие агенты станут массовыми.