В России планируют ввести обязательную проверку больших языковых моделей на соответствие законодательству и традиционным духовно-нравственным ценностям. По данным «Ведомостей», сейчас обсуждается процедура такой экспертизы с участием Минцифры и представителей отрасли.

Проверкой займутся несколько независимых испытательных лабораторий, которые получат аккредитацию. Тестирование будет проходить через специальные бенчмарки, а также проверку на устойчивость к промпт-инжектам — попыткам обойти ограничения модели.

Инициатива возникла на фоне ужесточения регулирования ИИ в стране. Ранее обсуждались требования к маркировке контента, созданного нейросетями, и ответственность разработчиков за генерацию запрещённых материалов.

Пока неясно, станет ли такая экспертиза обязательной для всех моделей или только для тех, что используются в значимых сферах. Также нет информации о сроках внедрения и критериях оценки «духовно-нравственных ценностей», что вызывает вопросы у участников рынка.

Если процедуру утвердят, разработчикам придётся встраивать дополнительные фильтры и тратить ресурсы на прохождение тестов. Ожидается, что финальные параметры проверок будут определены после публичного обсуждения с индустрией.