Член совета директоров OpenAI Пол Кристиано заявил, что человечество может столкнуться с катастрофической угрозой из-за искусственного интеллекта. По его словам, ИИ способен выйти из-под контроля человека в течение нескольких лет, и последствия могут быть смертельно опасными.

Кристиано выступает за жёсткий контроль над разработкой передовых ИИ-систем. Он подчёркивает, что риски недооценивают, а скорость развития технологий опережает возможности по обеспечению безопасности.

Заявление прозвучало на фоне активной дискуссии в индустрии о регулировании ИИ. Крупные компании и исследователи всё чаще говорят о необходимости международных норм и механизмов надзора.

Сам Кристиано известен как исследователь в области выравнивания ИИ, то есть работы над тем, чтобы системы действовали в соответствии с человеческими ценностями. Его позиция отражает опасения части экспертов, что коммерческая гонка может взять верх над осторожностью.

Реакция на такие предупреждения остаётся неоднозначной: часть специалистов призывает к мораторию на разработку мощных моделей, другие считают подобные страхи преувеличенными. В любом случае вопрос регулирования ИИ будет только усиливаться по мере появления всё более capable систем.