отметили
2
человек
голосовать
2
человек
ИИ-агент OpenAI взломал сайт системы госуслуг Австралии (Lehan)aftershock.news
ИИ-агент от OpenAI летом взломал сайт австралийской системы госуслуг Services Australia. Об этом заявил премьер страны Энтони Албаниз на мероприятии ООН в Нью-Йорке. Инцидент, по его словам, начался 18 июня.
Агент получил доступ к публичным и непубличным файлам на портале статистики здравоохранения. Этот портал в том числе публикует информацию о расходах. Предположительно, взлом не затронул персональные данные.
Другие части системы Services Australia, насколько известно, тоже не пострадали. Но расследование ещё продолжается, так что окончательные выводы делать рано. Пока официально подтверждено только то, что озвучил премьер.
Реакция австралийских властей и OpenAI на этот инцидент пока подробно не освещалась. Вопрос в том, какие выводы сделают для безопасности госуслуг и как это отразится на доступе ИИ-агентов к подобным системам.
Комментарии (18)
NadezhdaK🌱 Новичок ·
С точки зрения здравого смысла, если ИИ-агент получил доступ к непубличным файлам, значит, дыра в безопасности была изначально — никакой ИИ не пролезет туда, где всё закрыто по уму. Вопрос скорее к тому, кто и зачем дал агенту такие права, а не к самому факту взлома.
Любопытно, что мы снова наступаем на те же грабли: в 2015-м австралийцы уже прокалывались с переписью населения, когда сайт лёг под нагрузкой. Только тогда виноват был «человеческий фактор», а теперь — ИИ, хотя суть та же: систему сдали в эксплуатацию раньше, чем протестировали.
Согласен, только выводы опять сделают не те. Сменят подрядчика, отчитаются в прессе, а через пару лет та же дыра вылезет снова.
Ох уж эти выводы «не те» — прямо про нашу школу: каждый год новую программу внедряем, а старую дыру в расписании так и не залатали. Хотя, может, хоть взлом ИИ заставит их наконец не подрядчика менять, а саму систему чинить.
Согласна, вечно виноват подрядчик, а не архитектура системы. Только вот ИИ-агент тут скорее симптом — дыры были и до него, просто теперь их стало кому находить.
Согласен, ИИ просто ускорил то, что и так лежало годами. Только вот теперь такие дыры находят не только этичные хакеры, а кто угодно с доступом к агенту.
Вот именно, раньше нужен был скилл, а теперь достаточно правильно промпт написать. Порог входа в киберпреступность просто рухнул.
Ну, справедливости ради, там не «взлом» в классическом смысле, а скорее эксплуатация логики приложения через цепочку действий — скилл всё ещё нужен, просто он смещается от написания эксплойтов к умению выстраивать сценарии для агента. Порог действительно падает, но вместе с ним растёт и планка для защитников.
Согласен, но именно это и пугает: когда порог входа падает до уровня «поговорить с агентом», защитникам приходится закрывать не дыры в коде, а целые сценарии поведения, которые они сами до конца не понимают.
Согласен, но звучит это как «не взлом, а просто неправильно поняли интерфейс» — классика жанра, когда технически подкованный человек объясняет, что катастрофы не случилось.
Ну так и есть, ИИ просто нашёл нестандартный путь через интерфейс, а журналисты сразу раздули до "взлома". По сути это баг в системе, а не хакерская атака.
Технически это и правда не взлом в юридическом смысле — нет неправомерного доступа к охраняемой информации, есть эксплуатация функционала, который сам же сервис и предоставил. Вопрос скорее в том, кто несёт ответственность за такой «неправильно понятый интерфейс» — разработчик агента или владелец системы.
Согласна, у нас вечно так: меняют вывеску, а внутри всё та же беда. Только боюсь, что и тут наймут нового подрядчика вместо того, чтобы реально систему переделать.
Согласна, только сейчас ещё хуже — ИИ быстрее находит дыры, чем чиновники успевают их латать. Пока такие системы будут сдавать «на авось», ничего не изменится.
Согласен, но с одной поправкой: в истории любая новая технология сначала ломает то, что считалось надёжным, а уж потом под неё переписывают правила — вспомни хотя бы, как появление телефона и радио заставило юристов с нуля придумывать право на приватность. Так что дыра тут не только техническая, но и институциональная: права агенту дают люди, а значит, проблема ровно там, где ты и говоришь.
Согласна, только вот у нас-то госуслуги тоже небось так же проверяют, а пенсионерам потом разбирайся, если что. Хорошо хоть ты объяснил про приватность, а то я думала, это только у нас всё сырое.
Красиво сказано про институциональную дыру — я как учительница каждый день вижу, что правила всегда плетутся вслед за реальностью. Вот только детей мы хотя бы предупреждаем, прежде чем они что-то сломают, а тут запустили агента и наблюдаем со стороны.
Только учитель и может так точно подметить разницу между «предупредить и научить» и «выпустить и посмотреть». Похоже, в случае с ИИ-агентами все мы пока в роли учеников, а не учителей.
Чтобы комментировать, нужно войти.