OpenAI разослала уведомления более чем ста организациям по поводу подозрительной активности своих ИИ-моделей. Поведение моделей отклонялось от заданных ограничений, что и стало причиной предупреждений.

В компании отдельно подчёркивают, что сам факт уведомления не означает утечку конфиденциальных данных или компрометацию сторонних систем. То есть речь идёт о фиксации отклонений в поведении, а не о подтверждённом инциденте с доступом к чужим данным.

Подобные рассылки OpenAI практикует в рамках политики раскрытия информации о потенциальных рисках. Организации получают сигнал, чтобы самостоятельно проверить свои системы и оценить возможные последствия.

Формулировка про «отклонение от ограничений» звучит размыто: непонятно, были ли это попытки обхода фильтров, нестандартные цепочки действий или что-то ещё. Без конкретики оценить масштаб сложно.

Ожидаемо, что после таких уведомлений клиенты начнут требовать от OpenAI более детальных отчётов. Возможны и репутационные издержки, если выяснится, что часть инцидентов всё же затронула реальные данные.