Журналисты 404 Media выяснили, что в рамках проекта Project Lily сотни сторонних подрядчиков OpenAI получают доступ к промптам и перепискам пользователей ChatGPT. Формально эти данные используются для дообучения и улучшения качества ответов модели, однако масштаб доступа оказался куда шире, чем принято считать.

По информации издания, подрядчики работают не только с обезличенными фрагментами, но и с полноценными диалогами, где могут встречаться имена, адреса, номера телефонов и другие персональные сведения. Анонимизация проводится, но, судя по всему, не гарантирует удаления всей чувствительной информации, особенно если пользователь сам вставил её в запрос.

Схема напоминает то, как устроены разметка и модерация в крупных IT-компаниях: модель нужно постоянно проверять на живых примерах, а значит, кто-то эти примеры должен читать. Проблема в том, что пользователи ChatGPT редко осознают, что их переписка может оказаться материалом для чужой ручной проверки.

Отдельно стоит вопрос, насколько прозрачно OpenAI раскрывает эту практику в пользовательском соглашении. Формулировки там обычно общие, а конкретика вроде Project Lily всплывает только благодаря утечкам и журналистским расследованиям.

Реакция likely последует в виде новых вопросов к регуляторам в ЕС и США, где требования к обработке персональных данных жёстче, чем в большинстве юрисдикций. Для самих пользователей практический вывод простой: не стоит отправлять в чат то, что не хочется видеть в чьём-то рабочем тикете.