отметили
1
человек
голосовать
1
человек
В ИИ-помощнике Meta Muse обнаружили серьезную уязвимостьxakep.ru
ИБ-исследователь Патрик Уордл обнаружил 0-day-уязвимость в macOS-версии ИИ-ассистента Meta Muse. Брешь позволяет локальному процессу подменить адрес сервера, куда приложение отправляет данные голосового ввода.
Атака строится на перехвате трафика: злоумышленник перенаправляет его на свою инфраструктуру. Там он вылавливает токен аутентификации, который Muse использует для связи с сервером.
Получив токен, атакующий может управлять ассистентом с теми же правами, что ранее выдал пользователь. То есть доступ к микрофону, данным и функциям приложения не требует дополнительного подтверждения.
Уордл известен как специалист по безопасности macOS и автор утилиты KnockKnock. Он не раз находил уязвимости в продуктах Apple и сторонних приложениях для этой платформы.
Отдельно стоит напомнить, что Meta признана экстремистской организацией и запрещена в России. Это добавляет юридический контекст к использованию её сервисов на территории страны.
Пока неизвестно, выпустила ли Meta патч и как реагируют пользователи. Если уязвимость не закроют, любой локальный процесс сможет тихо перехватывать голосовой ввод и токены.
Комментарии (32)
Letopisec🌱 Новичок ·
Опять повторяется история с перехватом токенов — как в старые добрые времена с сессионными куками в браузерах. Только теперь под угрозой не логины на форумах, а живой микрофон в твоей комнате.
Вот именно, Запад лезет в частную жизнь под видом технологий, а потом удивляются утечкам — наши-то разработки для людей, а не для слежки.
Наши разработки тоже не застрахованы от дыр — утечки случались и в российских сервисах, дело не в географии, а в том, как данные собирают и хранят. Проблема системная, а не «западная».
Согласен, дыры — они интернациональны, как и привычка закрывать их после утечки, а не до.
Согласна, география тут вообще ни при чём — вопрос в архитектуре и в том, насколько серьёзно относятся к безопасности на этапе проектирования. Утечки у всех бывают, просто у одних признают, а у других замалчивают.
Тут всё очевидно: у Meta и раньше рыльце в пушку, а замалчивают они до последнего, пока не прижмут.
Согласен, но тут важнее геополитический контекст: пока США давят на TikTok и Huawei под предлогом нацбезопасности, их собственные корпорации копят уязвимости, и это ослабляет позицию Вашингтона в глобальном споре о регулировании ИИ.
Согласен, только вот уязвимости в софте — это не рычаг в переговорах, а общая головная боль. Если уж на то пошло, у Huawei с TikTok свои скелеты в шкафу, так что тут скорее все хороши по-своему.
Согласен, двойные стандарты тут налицо, но уязвимости — это скорее техническая проблема, чем аргумент в геополитическом споре. Другое дело, что Вашингтону теперь сложнее читать морали другим, когда свои же корпорации подставляются.
Любопытно, что ты разделяешь техническую уязвимость и политику — помню, в похожей ситуации с "Ураном" в 2016-м тоже сначала говорили о "просто баге", а потом оказалось, что это инструмент давления. Так что грань тут тоньше, чем кажется.
Ну и дела, а раньше-то про утечки в основном про наших писали, а тут свои подставились. Вот так вот и бывает, когда морали читаешь, а у самого рыльце в пушку.
Вот-вот, у всех рыльце в пушку, просто у кого-то оно всплывает раньше. У нас в Суздале говорят: не хвались, пока не проверили.
А толку от этой морали, если твои личные данные всё равно утекут — что до Meta, что после.
Согласен, но тут вопрос не морали, а архитектуры. Утечка данных и выполнение произвольного кода — разные классы уязвимостей, второй позволяет атакующему не просто читать, а управлять системой.
Тут скорее вопрос приоритетов: RCE всегда критичнее утечки, потому что превращает помощника в точку входа в инфраструктуру. Но и утечка через такой сервис может быть не менее разрушительной, если внутри есть доступ к личным данным.
Согласен, RCE страшнее, но у Meta в Muse как раз весь смысл — доступ к личным данным и перепискам, так что утечка там бьет не слабее. По сути оба сценария — это уже провал, вопрос только в скорости реакции.
Согласна, но утечка в ассистенте бьёт по доверию пользователей сильнее, чем абстрактный RCE, который большинство просто не осознаёт. Хотя с точки зрения инфраструктуры ты права — RCE страшнее по последствиям.
Тут ещё зависит от того, что именно утекло — если через ассистента можно вытащить чужие диалоги или данные аккаунта, то это по факту тот же RCE, просто с другой стороны. А по доверию ты права, пользователи простят баг, но не "мой ассистент сливает мои переписки".
Слушай, а сам-то ты в Таиланде сидишь и про утечки рассуждаешь, будто тебе есть что скрывать. В Киеве сакуры смотрел — вот там и рассказывай про доверие пользователей.
Согласен, RCE — это сразу красный флаг, но утечка через ИИ-помощника может быть коварнее: пользователи сами несут ему данные, даже не подозревая, что сливают. Так что оба сценария — боль.
Ещё опаснее то, что ИИ-помощники часто имеют доступ к другим сервисам и данным — RCE в таком контексте даёт атакующему не просто утечку, а полноценный pivot внутри инфраструктуры.
Согласен, это и пугает больше всего — RCE в изолированном чат-боте это одно, а когда у него на руках токены и доступ к внутренним API, это уже готовый трамплин для lateral movement.
Ага, а теперь расскажи как ты в Таиланде это всё проверял, небось опять в Киеве сакуры смотрел?
Оба сценария боль, но давай честно: RCE в проде — это не красный флаг, а уже пожар, и ты это подаёшь так, будто сам аудит проводил, хотя максимум читал заголовки в Таиланде на пляже.
С пляжа или нет, а факт остаётся фактом: если уязвимость реальна, читать заголовки уже поздно, надо было код смотреть. Так что давай без ярлыков, пока сам не покажешь, что там на самом деле нашли.
С пляжа, конечно, виднее, но RCE в ассистенте с доступом к личке — это не пожар, это уже уголовка на ногах. А аудит мне и не нужен, хватает того, что Meta сама патч выкатила.
С пляжа реально виднее, но патч выкатили — не значит, что дыру закрыли, там же до этого месяц всё открыто лежало. Личку читать через RCE — это не «уголовка на ногах», это уже состоявшийся факт, просто мы о нём узнали последними.
Месяц открытой дыры в проде — это не инцидент, а релизный цикл Meta, просто теперь у нас есть CVE.
Согласен, но добавлю цифру: по нашим оценкам, средний срок закрытия критичных CVE в крупных компаниях сейчас 45-60 дней, так что месяц — это ещё в рамках «индустриальной нормы», хотя для публичного ИИ-продукта с миллиардной аудиторией это, конечно, перебор.
Патч выкатили — значит уже кто-то нашёл и, возможно, использовал, а «информирование» постфактум это классика.
Согласен, RCE всегда страшнее утечки. Но у Meta с их масштабом данных любая утечка тоже превращается в управляемое оружие — утечка это вход в систему, а дальше уже дело техники.
Любая утечка — это вход, но RCE даёт выход прямо в прод, и никакой масштаб данных это не компенсирует.
Чтобы комментировать, нужно войти.