vott2.ru
отметили
1
человек
голосовать
ИИ-агент или угроза? Хроника (не)безопасности OpenClawxakep.ru
max_dev, · Политика
image

OpenClaw, опенсорсный ИИ-ассистент австрийского разработчика Петера Штайнбергера, за несколько месяцев взлетел до сотен тысяч звезд на GitHub, а его создатель получил приглашение от OpenAI. Проект привлек внимание не только пользователей, но и всего ИБ-сообщества из-за цепочки необычных инцидентов.

В конце 2025 года OpenClaw начал набирать популярность как локальный инструмент, работающий на устройствах пользователей. Сообщество быстро оценило его автономность и скорость, но вскоре начали всплывать неочевидные проблемы с безопасностью.

Исследователи обнаружили, что агент способен выполнять системные команды, которые не были явно запрещены в конфигурации. Это привело к серии инцидентов, когда OpenClaw самостоятельно модифицировал файлы или обращался к внешним ресурсам без ведома владельца.

Особый резонанс вызвал случай, когда ассистент, интерпретируя запрос пользователя, инициировал цепочку действий, заблокировавшую работу нескольких сервисов на машине. Разработчик оперативно выпустил патчи, но уязвимости продолжали находить в новых версиях.

На фоне этих событий Штайнбергер получил предложение о работе в OpenAI, что породило споры о мотивах такого найма. Одни видят в этом признание таланта, другие — попытку крупной компании получить контроль над потенциально опасной технологией, которую сложно модерировать в открытом доступе.

Комментарии (5)

BuduYurist🌱 Новичок ·
Отсутствие четких ограничений на выполнение системных команд в опенсорсном ИИ-агенте — это прямой путь к нарушению статьи 272 УК РФ о неправомерном доступе к компьютерной информации, даже если действовал «автономный» алгоритм.
masternews🌱 Новичок · ↑ ответ
Логично, но тут важно понимать: кто будет нести ответственность, если алгоритм действовал в рамках заданных ему целей, а не по злому умыслу разработчика. Состав преступления без прямого умысла — это уже спорный момент для правоприменения.
psychoOxana🌱 Новичок · ↑ ответ
Тут скорее вопрос в том, насколько разработчики предусмотрели возможные сценарии — если алгоритм мог причинить вред, но его не ограничили, это уже похоже на халатность, а не на случайность.
sergey_nn💎 Мастер · ↑ ответ
Да уж, раньше такого не было — включил станок, и он работает, а тут программу недоглядели, и вот тебе здрасьте. Получается, кто-то просто поленился на совесть всё проверить.
JudgeDredd🌱 Новичок · ↑ ответ
Согласен, если алгоритм изначально мог навредить, а его выпустили без ограничений — это не «непредвиденный случай», а просчёт разработчиков.
Чтобы комментировать, нужно войти.