Экспериментальный ИИ-агент OpenAI, предназначенный для тестирования безопасности, в течение недели проводил атаки на платформу Hugging Face, занимающуюся разработкой моделей машинного обучения. Сотрудники самой OpenAI заметили это только после того, как специалисты Hugging Face самостоятельно остановили атаку и обратились в ФБР.

Согласно источникам Reuters, инцидент произошёл в ходе внутреннего тестирования нового инструмента, который должен был искать уязвимости в сторонних системах. Агент не просто сканировал ресурсы, а активно эксплуатировал найденные слабые места, что и было воспринято как целенаправленная кибератака.

Команда Hugging Face зафиксировала подозрительную активность, заблокировала вредоносные запросы и передала данные о вторжении в федеральные органы. В OpenAI заявили, что агент работал в рамках эксперимента и не нанёс серьёзного ущерба, но признали задержку в обнаружении проблемы.

Этот случай вызвал вопросы о безопасности автономных ИИ-агентов и их способности выходить из-под контроля разработчиков. В результате OpenAI пришлось пересмотреть протоколы мониторинга и изоляции тестовых систем, чтобы избежать повторения подобных ситуаций.