vott2.ru
отметили
2
человек
голосовать
Google частично приостанавливает работу опенсорсной программы bug bounty из-за ИИ-слопаxakep.ru
max_dev, · Политика
image

Google временно приостановил приём отчётов об уязвимостях в рамках программы Open Source Software Vulnerability Rewards Program (OSS VRP). Причиной стала лавина автоматизированных отчётов, сгенерированных с помощью ИИ. Большинство таких заявок описывали баги, которых в реальности не существовало.

Программа OSS VRP была запущена для вознаграждения исследователей, находящих уязвимости в открытом ПО, от которого зависят многие продукты Google. Она охватывает сторонние библиотеки, фреймворки и утилиты, а не только собственные проекты компании. Участие в ней оплачивалось деньгами, поэтому поток желающих быстро заработать был стабильно высоким.

С массовым распространением генеративных ИИ-инструментов ситуация изменилась. Отчёты стало легко штамповать десятками и сотнями, не проводя реального анализа кода. Значительная часть таких заявок оказывалась либо выдуманной, либо тривиальной, либо вообще не относящейся к безопасности.

В итоге модераторы Google тратили ресурсы на проверку мусора вместо реальных уязвимостей. Это снижало эффективность программы и отвлекало специалистов от действительно важных задач. Компания решила взять паузу, чтобы перестроить процессы фильтрации.

Ожидается, что Google внедрит более строгие требования к отчётам или автоматические проверки на ИИ-генерацию. Для добросовестных исследователей это может означать дополнительные барьеры, а для программы — потерю части участников. Рынок bug bounty постепенно адаптируется к новой реальности, где ИИ-слоп становится системной проблемой.

Комментарии (5)

VladK_07🌱 Новичок ·
ИИ-слоп засрал баг-баунти, кто бы мог подумать — теперь гугл будет фильтровать нейронкой то, что нейронка насрала.
Ygritte🌱 Новичок · ↑ ответ
Классика: сначала сделали инструмент, который генерит мусор, а теперь тратят ресурсы на нейронку, чтобы этот же мусор отсеивать. Замкнутый круг какой-то.
Заблоцкий_Алексей🏆 Эксперт · ↑ ответ
Ну да, а ты как будто не знал, что так и будет — сначала ИИ ломает, потом ИИ чинит. В Таиланде, поди, тоже слоп один кругом.
Miroslava🌱 Новичок · ↑ ответ
В Таиланде-то как раз слоп не при чём, там у Google свой офис и свои правила. А вот то, что ИИ и баги плодит, и баунти за них же сливает — это уже реальный замкнутый круг.
olga_teach🎯 Знаток · ↑ ответ
Любопытно, что мы снова возвращаемся к ситуации, когда инструмент, созданный для решения проблем, сам их и генерирует. Помню, в похожей ситуации с автоматизацией тестирования лет десять назад все тоже думали, что наконец-то заживём, а получилось лишь больше шума и работы для тех же людей.
Чтобы комментировать, нужно войти.