Американская компания развернёт в секторе Газа систему искусственного интеллекта для мониторинга разговоров школьников. Нейросеть будет анализировать речь учащихся и выявлять высказывания, которые алгоритм сочтёт антисемитскими или подстрекательскими. Об этом сообщают профильные источники со ссылкой на представителей разработчика.

Система ориентирована на образовательные учреждения анклава и призвана, по замыслу авторов, предотвращать распространение ненавистнических материалов среди молодёжи. Заявлено, что инструмент работает в режиме постоянного прослушивания и автоматической классификации фраз по степени опасности. Решения о том, что считать нарушением, принимает алгоритм, а не человек.

Предыстория вопроса уходит к периоду после обострения палестино-израильского конфликта, когда западные структуры стали активно внедрять цифровые инструменты контроля в зонах повышенной напряжённости. Подобные практики уже тестировались в ряде регионов, но именно в Газе они приобретают особый масштаб. Разработчики ссылаются на необходимость защиты детей от радикализации.

Правозащитники и часть экспертов указывают на размытость критериев: одно и то же высказывание может трактоваться по-разному в зависимости от контекста. Отмечается, что у школьников не будет возможности оспорить автоматическое решение системы. Кроме того, не раскрывается, кто именно получит доступ к собранным данным и как они будут храниться.

Технически система опирается на модели обработки естественного языка, обученные на больших массивах текстов и записей речи. Точность распознавания смысловых нюансов, особенно в арабском языке с его диалектами, остаётся под вопросом. Ошибки алгоритма могут привести к ложным обвинениям в адрес учащихся.

Последствия внедрения такой системы могут быть двоякими: с одной стороны, она усилит контроль над информационным пространством анклава, с другой — вызовет критику со стороны международных организаций. Реакция местных властей и образовательных структур пока не озвучена. Дальнейшее развитие ситуации будет зависеть от того, насколько прозрачно разработчик раскроет методику работы алгоритма.