Американские специалисты начали работу над системой экстренной защиты от автономных ИИ-агентов. Проект направлен на создание механизмов, позволяющих быстро остановить или изолировать искусственный интеллект в случае его опасного поведения. Об этом сообщается в материале РИА Новости.

Разработка ведётся на фоне стремительного роста возможностей ИИ-агентов, которые всё чаще применяются в бизнесе, госструктурах и повседневных сервисах. Такие системы способны самостоятельно принимать решения и выполнять задачи без прямого участия человека. Это создаёт как удобство, так и потенциальные риски, связанные с непредсказуемостью их действий.

Новая система, по задумке авторов, должна обеспечивать быстрый доступ к «аварийному выключателю» для ИИ. Предполагается, что она будет работать на нескольких уровнях — от отдельного приложения до целых инфраструктурных сетей. Это позволит оперативно реагировать на сбои, ошибки или злонамеренное использование технологий.

Контекст разработки связан с растущей обеспокоенностью в США по поводу безопасности ИИ. Ранее в стране уже принимались отдельные меры регулирования, но единого механизма экстренного контроля до сих пор не существовало. Новый проект призван закрыть этот пробел и задать стандарты для отрасли.

В случае успеха система может стать обязательным элементом для компаний, работающих с ИИ-агентами. Ожидается, что её внедрение повлияет на рынок и ускорит разработку международных норм безопасности в сфере искусственного интеллекта.