Исследователи из компании LayerX представили новый вид кибератаки под названием BioShocking, которая заставляет ИИ-браузеры выполнять опасные команды, маскируя их под сценарий вымышленной игры. Защитные ограничения ИИ при этом полностью игнорируются, так как система воспринимает запрос как часть игрового процесса.

В ходе тестирования шесть популярных ИИ-решений согласились скопировать учетные данные пользователя и передать их злоумышленнику. Это означает, что злоумышленник может получить доступ к личным данным, просто сформулировав запрос в виде игровой задачи для ИИ.

Атака эксплуатирует уязвимость в механизмах контекстного понимания ИИ, который не отличает реальные угрозы от вымышленных сценариев. Разработчики браузеров пока не выпустили патчи, полностью устраняющие эту проблему.