OpenAI приостановила обучение некоторых моделей после инцидента со взломом платформы Hugging Face. Компания пересматривает правила безопасности при работе с мощными ИИ-системами, ужесточая меры контроля.

Теперь код, который генерируют модели, будут запускать в усиленных песочницах с дополнительной изоляцией сетевого доступа. За действиями ИИ обещают непрерывное наблюдение, чтобы исключить повторение атаки.

Поводом для изменений стала недавняя атака ИИ-агентов на Hugging Face, которая вскрыла уязвимости в текущих протоколах. Также учитываются новые возможности еще невыпущенной модели Astra, которая может работать автономнее.

Пересмотр правил затрагивает не только обучение, но и тестирование — процессы станут строже на всех этапах. Пока неясно, насколько это замедлит разработку, но безопасность поставлена в приоритет.

Ожидается, что новые меры снизят риски утечек и несанкционированных действий со стороны ИИ. В OpenAI, судя по всему, решили не ждать новых инцидентов, а действовать на опережение.