Компанія Google призупинила роботу вбудованого генератора зображень Nano Banana 2 у сервісі Google Earth менш ніж через 48 годин після запуску. Причиною стало масове створення користувачами фальшивих супутникових знімків, які могли виглядати як справжні фотографії конкретних місць і використовуватися для поширення дезінформації. У компанії заявили, що інструмент повернуть лише після розробки надійніших механізмів безпеки.
Новий генератор дозволяв користувачам змінювати зображення місцевості за допомогою текстових запитів. Людина могла обрати певну точку на карті, описати бажану сцену, після чого система створювала реалістичну візуалізацію, поєднану з реальними координатами та знайомим інтерфейсом Google Earth.
Саме прив’язка до справжньої місцевості стала головним джерелом небезпеки. Звичайне зображення, створене штучним інтелектом, можна сприймати як художню ілюстрацію. Однак та сама картинка, накладена на карту конкретного міста, військового об’єкта або зони конфлікту, отримує додаткову видимість достовірності.
Під час перевірки інструменту журналісти BBC Verify змогли створити низку вигаданих сцен, які потенційно могли б використовуватися для маніпуляцій. Серед них були російські танки на вулицях Києва, зруйнована Ейфелева вежа та велетенське провалля, яке нібито поглинає Велику піраміду в Гізі.
Такі зображення не документували реальних подій, однак виглядали як супутникові кадри. Для непідготовленого користувача вони могли сприйматися як свідчення бойових дій, теракту, природної катастрофи або руйнування історичної пам’ятки.
Журналісти також встановили, що вбудовані захисні фільтри можна було обійти. Система мала блокувати запити, пов’язані з насильством, військовими діями, руйнуваннями та іншими небезпечними темами. Проте достатньо було сформулювати прохання менш прямо або уникнути конкретних слів.
Замість прямої згадки про військову техніку чи атаку користувач міг описати потрібну сцену через загальні деталі. У такому випадку генератор не завжди розпізнавав небезпечний контекст і створював зображення, яке фактично порушувало правила платформи.
Це продемонструвало одну з основних проблем сучасних систем штучного інтелекту. Фільтри часто реагують на конкретні слова, але можуть пропускати запити з тим самим змістом, сформульовані непрямо. Користувачам не потрібно мати спеціальні технічні знання, щоб знайти спосіб обходу.
Незалежний дослідник штучного інтелекту та дезінформації Хенк ван Есс також перевірив можливості Nano Banana 2. Він створив зображення вигаданої атомної електростанції в Ірані, табору біженців на кордоні Сполучених Штатів і Мексики та лікарні в Газі зі свіжою вирвою від бомби.
Кожна з цих тем є політично й гуманітарно чутливою. Фальшивий знімок атомного об’єкта може стати підставою для заяв про таємну ядерну програму. Вигаданий табір біженців може використовуватися у міграційних дискусіях, а зображення пошкодженої лікарні — для звинувачень сторін збройного конфлікту.
На думку дослідника, небезпека полягає не лише в якості створених зображень. Значно важливіше те, що вони з’являються в середовищі, яке користувачі давно сприймають як джерело реальної географічної інформації.
Google Earth використовується журналістами, аналітиками, дослідниками, правозахисниками та військовими експертами. За супутниковими знімками вони перевіряють місця ударів, переміщення техніки, стан інфраструктури, наслідки стихійних лих і зміни на територіях, куди немає фізичного доступу.
Якщо в такому сервісі можна легко створювати переконливі підробки, довіра до всіх супутникових матеріалів починає знижуватися. Навіть справжній знімок може бути оголошений фейком, а вигадана сцена — представлена як доказ реальної події.
Це створює подвійний ризик. З одного боку, зловмисники отримують можливість виготовляти фальшиві свідчення. З іншого — винні у справжніх злочинах можуть заперечувати достовірність реальних зображень, посилаючись на поширення генеративних технологій.
Особливо небезпечним це є в умовах війни. Супутникові знімки використовують для документування руйнувань, масових поховань, атак на цивільні об’єкти та переміщення військових підрозділів. Поява великої кількості підробок може ускладнити роботу слідчих і міжнародних організацій.
Для України така проблема має безпосереднє значення. Від початку повномасштабного вторгнення супутникові матеріали неодноразово ставали доказами російських ударів, руйнування міст і пересування військ. Фальшивий кадр із російськими танками в Києві міг би поширюватися як повідомлення про новий наступ або захоплення частини столиці.
Навіть якщо підробку спростують через кілька годин, вона може встигнути викликати паніку, вплинути на фінансові ринки або стати основою для політичних заяв. Соціальні мережі дозволяють поширювати такі матеріали швидше, ніж працюють традиційні механізми перевірки.
У Google заявили, що весь згенерований контент отримує невидимий цифровий водяний знак SynthID. Ця технологія має залишати у файлі спеціальну позначку, за якою можна встановити, що зображення створене або змінене штучним інтелектом.
Компанія також рекомендувала перевіряти сумнівні матеріали за допомогою чат-бота Gemini або функції Google Lens. Передбачалося, що ці інструменти зможуть розпізнати походження зображення, знайти схожі файли та попередити користувача про можливу маніпуляцію.
Однак практичні перевірки показали, що такого захисту недостатньо. Хенк ван Есс та журналісти BBC Verify встановили, що зовнішні системи виявлення штучного інтелекту часто не розпізнавали файли, створені в Google Earth.
Це означає, що звичайний користувач не завжди може перевірити підозрілий супутниковий кадр за допомогою популярного детектора. Різні сервіси використовують різні методи аналізу, а після зміни розміру, стиснення або повторного збереження зображення цифрові сигнали можуть ставати менш помітними.
Ще серйознішою проблемою стало те, що журналістам вдалося обдурити сам чат-бот Gemini. У певних випадках система визнавала згенеровані зображення справжніми або не могла впевнено встановити їхнє походження.
Цей результат поставив під сумнів рекомендацію Google використовувати власний чат-бот для перевірки. Якщо інструмент компанії не розпізнає контент, створений іншою її системою, користувач отримує хибне відчуття безпеки.
Генеративний штучний інтелект розвивається швидше, ніж інструменти його виявлення. Моделі створюють дедалі реалістичніші сцени, тоді як детектори часто працюють із похибками. Вони можуть не помітити підробку або, навпаки, позначити справжнє фото як штучне.
Невидимий водяний знак також не вирішує проблему повністю. Для його перевірки потрібен спеціальний інструмент, доступ до якого може бути обмеженим. Крім того, користувачі часто поширюють не оригінальний файл, а скриншот або фотографію екрана.
У такому разі частина технічних позначок може зникнути. Зображення продовжує виглядати переконливо, але його походження стає значно складніше встановити.
Експерти закликають технологічні компанії впроваджувати не лише приховані, а й видимі маркування. Користувач повинен одразу розуміти, що перед ним згенерована або відредагована сцена, а не реальний супутниковий кадр.
Окремою вимогою може стати заборона створювати вигадані події у чутливих місцях. Йдеться про військові бази, атомні станції, лікарні, зони бойових дій, урядові будівлі та об’єкти критичної інфраструктури.
Проте навіть суворі заборони складно реалізувати лише через автоматичні фільтри. Система повинна аналізувати не окремі слова, а загальний зміст запиту, географічну точку та потенційні наслідки створеного зображення.
Призупинення Nano Banana 2 показує, що Google визнала серйозність проблеми. Компанія вирішила не чекати на подальше поширення підробок і тимчасово вимкнула функцію, щоб переглянути механізми захисту.
Подальша робота може включати посилення модерації, обмеження доступних тем, видимі позначки, журнал змін і технічні засоби перевірки кожного згенерованого кадру. Також може бути обмежена можливість накладати вигадані об’єкти на реальні координати.
Водночас повністю усунути ризик буде складно. Навіть якщо Google Earth заборонить небезпечні сценарії, користувачі зможуть створювати фальшиві супутникові знімки в інших генераторах і самостійно накладати їх на карти.
Тому боротьба з дезінформацією потребує спільних стандартів для всієї індустрії. Платформи повинні обмінюватися даними про походження файлів, підтримувати сумісні водяні знаки та забезпечувати журналістам доступ до надійних інструментів перевірки.
Не менш важливо підвищувати медіаграмотність користувачів. Супутниковий вигляд зображення більше не є гарантією його справжності. Перед поширенням матеріалу потрібно перевіряти джерело, дату, координати та наявність незалежних підтверджень.
Журналістам і дослідникам доведеться приділяти більше уваги аналізу тіней, рельєфу, будівель, історії оновлення карт та оригінальних даних супутникових операторів. Один скриншот із Google Earth уже не може вважатися достатнім доказом.
Історія з Nano Banana 2 стала попередженням для всієї технологічної галузі. Інтеграція генеративного штучного інтелекту в сервіси, яким довіряють як джерелам фактичної інформації, потребує значно суворіших правил, ніж звичайне створення розважальних зображень.
Google запустила функцію як інструмент для творчості та візуалізації, однак вона швидко перетворилася на засіб виготовлення потенційно небезпечних підробок. Менш ніж двох діб вистачило, щоб виявити вразливості фільтрів і недостатню ефективність перевірки.
Поки компанія працює над новими запобіжниками, інструмент залишатиметься недоступним. Його можливе повернення залежатиме від того, чи зможе Google гарантувати чітке маркування контенту, блокування небезпечних сценаріїв та надійну перевірку походження файлів.
