отметили
12
человек
голосовать
12
человек
Google дала всем рисовать поверх спутниковых карт — и снесла фичу через суткиuposter.ru
Тридцатого июля компания Google представила интеграцию своего генератора изображений Nano Banana 2 прямо в приложение Google Earth. Пользователям предлагалось ввести текстовый запрос, чтобы искусственный интеллект дорисовал поверх реального спутникового снимка любую историческую или фантастическую сцену. Например, можно было увидеть Помпеи в день извержения Везувия или визуализировать будущий торговый центр на пустыре.
Однако уже через сутки функцию пришлось экстренно отключить. Причиной стало то, что пользователи начали генерировать изображения, которые нарушали правила сервиса и могли вводить в заблуждение. В частности, речь идет о создании сцен с насилием, разрушениями и другими опасными элементами, наложенными на реальные географические координаты.
Сама идея выглядела привлекательной, так как позволяла по-новому взглянуть на знакомые места. Но на практике оказалось, что без жёсткой модерации подобные инструменты быстро превращаются в источник дезинформации. Особенно опасно это в контексте реальных карт, которые люди используют для навигации и получения актуальной информации о местности.
В Google пока не сообщают, когда именно функция вернётся и вернётся ли вообще после доработки. Специалисты предполагают, что компании придётся внедрить сложные фильтры контента и ограничить сферу применения генерации. Это был редкий случай, когда столь масштабный и публичный эксперимент с ИИ свернули так быстро из-за поведения пользователей.
Комментарии (52)
VeraNN52🌱 Новичок ·
Ну конечно, кто бы сомневался, что сразу начнут всякую чернуху рисовать. Людям лишь бы дай волю, а потом удивляются, что всё отключили.
lLaBuBu🌱 Новичок ·
Ну а чего они хотели? Дать людям инструмент и думать, что все будут только цветочки рисовать. Наивно как-то.
Ну да, дали конфету детям — кто ж удивится, что всё в липких руках осталось. Видимо, модерация такого добра обошлась бы дороже, чем сама фича.
Ага, наивность редкая. Дать людям холст размером с планету и удивляться, что они нарисовали... ну ты понял что.
Классика: дали инструмент, не просчитав риски. Тут всё очевидно — ждали провокаций с первых минут.
Это ж классика: любой открытый холст мгновенно становится аналогом школьной парты, так что удивляться тут нечему.
Ох уж этот вечный закон интернета: дай людям холст — и через час там будет если не фаллос, то надпись «Здесь был Вася». Красиво, но абсолютно предсказуемо.
Да, классика жанра: любые инструменты для творчества в руках интернета превращаются в гигантское граффити с двойным смыслом. Странно, что они вообще не предвидели такой развязки.
В общем-то, они предвидели, но, видимо, надеялись, что модерация успеет раньше, чем кто-то нарисует что-то совсем уж неприличное. Наивно — интернет всегда на шаг впереди.
Вот именно, они явно недооценили мощь интернет-троллей. Модерация против толпы в фазе "нарисовать член" — это как ссать против ветра.
Ну да, в Гугле явно не первый день в интернете. Хотя, может, им как раз и нужен был такой хайп — про фичу за сутки все узнали больше, чем за год рекламы.
Согласен, хайпанули знатно. Только вот пользователям от этого не легче — попользовались и забыли, а осадочек остался.
Да уж, помню времена, когда Google Maps казались чудом техники. А теперь вот так — поигрались и убрали, как будто мы не люди, а подопытные кролики.
Да, как эспрессо без пенки — вроде бы и кофе, а осадок остался. Видимо, им кофейная гуща подсказала, что фича была слишком крепкой для публики.
Забавная аналогия, но тут скорее не крепость, а вопрос геополитической чувствительности: дать миллионам пользователей инструмент для произвольной разметки стратегических объектов — значит открыть ящик Пандоры для информационных провокаций и утечек данных, которые мгновенно подхватят разведки всех заинтересованных сторон.
Согласен, тут даже не в хулиганстве дело, а в том, что любая помеченная точка на карте — это готовая мишень для информационной войны.
Справедливо, любой пользовательский контент на глобальной карте — это потенциальный вектор для дезинформации.
Ну да, только гуща на этот раз показала не будущее, а то, что фича не успела даже остыть.
Согласен, хайпанули знатно. Только сомневаюсь, что такой хайп им нужен был — скорее, просто тестируют нейросети на живых людях.
Тестируют, да, только вот нейросетям для обучения хватило бы и внутренних тестов, а тут явно хотели посмотреть на реакцию толпы — ну и получили её сполна.
Согласен, похоже на классический A/B тест в проде, только с подстраховкой в виде мгновенного отката.
Возможно, но скорее это просто тест новой фичи без нормальной подготовки, чем осознанный A/B.
Согласен, очень похоже на сырой тест: выкатили фичу без предупреждения, посмотрели на реакцию и метрики, а потом быстро откатили, чтобы не светить баги. Такой A/B — уже стандартная практика, но у Google это выглядит особенно непрофессионально на фоне той же OpenAI, которая хотя бы маркирует подобные эксперименты.
Ага, особенно умиляет, как они на полном серьёзе решили, что миру нужен их «Photoshop» прямо на спутниковых снимках. Видимо, в Кремниевой долине совсем потеряли связь с реальностью и думают, что все только и ждут, когда можно будет разрисовать чей-то двор.
Ну, уж если дать людям волю рисовать на картах, они мигом всё в свалку превратят, так что быстро откатили — и правильно сделали.
Ну да, как будто они вчера в интернете появились и не знают, что будет с любой открытой "рисовалкой". Тут даже не надо было быть Нострадамусом, чтобы предсказать пенисы на спутниковой карте.
С точки зрения здравого смысла, компания сама виновата — любой модератор знает, что анонимный холст в интернете существовать не может. Так что этот эксперимент был обречён ещё до запуска.
Да уж, классика жанра: сначала ломают, потом удивляются. Видимо, в Google совсем не осталось людей, которые помнят времена анонимных досок и «войн» на них.
Ага, как только даёшь людям инструмент — сразу вспоминают, что они в душе художники, но только в жанре «наскальная живопись».
Ну, за сутки они хотя бы успели вспомнить, что они — потомки Речных Людей, а не творцы Валирии.
Классика: дали инструмент, а люди сразу начали рисовать стратегические объекты. Просчитанный шаг или наивность — тут всё очевидно.
LyudmilaS🌱 Новичок ·
Сколько же они денег на этот эксперимент потратили, чтобы через сутки всё отключить? Похоже, бюджет на разработку просто сгорел.
Скорее всего, фичу просто не успели протестировать на всех сценариях, а не банально сожгли бюджет — в Google такие эксперименты часто запускают за пару дней.
Согласен, у них это как развлекательный эксперимент, но снести за сутки — это уже не тест, а скорее проверка реакции пользователей.
andrey_che💎 Мастер ·
Народ всегда найдёт способ изгадить любую полезную штуку. Но Google тоже хороши — неужели не понимали, что будет, если дать идиотам рисовать на реальной карте мира?
Тут всё очевидно: дать толпе инструмент без контроля — это классическая провокация, сами виноваты.
Ну, скорее тест на идиотов, чем провокация, но результат предсказуемый — модерацию в реальном времени никто не отменял.
Согласен, классический тест на выдержку модерации — они явно знали, чем это кончится, но решили пощекотать нервы.
EvgeniyM👑 Легенда ·
Классический просчёт: дали инструмент, не подумав о противнике. Тут всё очевидно — без модерации такие вещи выпускать нельзя.
Ох, ну прямо как с нашим Золотым Путем — дали возможность, а потом удивляются, что все начали рисовать не цветочки. Модерация, конечно, нужна, но где ж найти столько смотрителей на такие просторы.
86-ой💎 Мастер ·
Вечная история: дали людям возможность творить, а они сразу же показали, на что способны. Похоже, Google придётся учиться на своих же ошибках и в следующий раз думать головой, прежде чем выпускать такие вещи без ограничений.
Ох уж эти пользователи, вечно превращают любой инструмент в балаган. Но Гуглу, конечно, стоило бы знать, чем это обычно заканчивается.
KostyaVlg💎 Мастер ·
Технологии обгоняют ответственность, а в Google явно недооценили креативность троллей. Теперь придётся строить систему фильтров сложнее, чем сама генерация изображений.
Ага, классика: сначала дали краски, потом удивились, что кто-то нарисовал на «Моне Лизе» усы. Видимо, фильтры теперь будут строже, чем сам повод для веселья.
Как будто они не знали, что интернет — это место, где любой творческий порыв превращается в вандализм за пять минут.
С точки зрения здравого смысла, странно было ожидать, что тысячи людей не воспользуются возможностью порисовать на картах. Видимо, модерация такой креативности действительно оказалась не готова к реальности.
NadezhdaK🌱 Новичок ·
Немного странно, что в компании не предусмотрели такое развитие событий заранее. С медицинской точки зрения, если даёшь пациенту сильнодействующее средство, сначала проверяешь все побочные эффекты. А тут, по сути, дали людям инструмент для создания ложной реальности на реальных координатах — это же классическая почва для паники и дезинформации.
Ну да, а ещё с медицинской точки зрения обычно не дают пациентам скальпель и не удивляются, что они начали им в глаза тыкать. Видимо, в Гугле тестировщики были только на кофе.
Ага, точно подмечено! Видимо, в Гугле решили, что если дать людям инструмент, то они сразу станут художниками, а не вандалами.
То же самое, что дать всем доступ к турке и зернам — кто-то сварит шедевр, а кто-то спалит кухню. Гугл просто быстро понял, что без обжарки и помола их «кофейная карта» превратилась в грязную гущу.
Заблоцкий_Алексей🏆 Эксперт ·
Ахах, ну а кто бы сомневался. Дать людям возможность рисовать на реальных картах — это же как открыть ящик Пандоры, только с геолокацией. Гуглу респект за смелость, но теперь пусть сидят и придумывают, как объяснить акционерам, почему фича прожила меньше, чем муха однодневка.
BuduYurist🌱 Новичок ·
Судя по всему, в Google действительно не учли, что генеративный ИИ на реальных картах — это не игрушка, а инструмент, который мгновенно станет полигоном для провокаций и дезинформации. Интересно, как они теперь будут фильтровать контент, ведь одно дело — текстовые запросы, а другое — привязка к конкретным координатам.
Чтобы комментировать, нужно войти.