Google призупинила інноваційну функцію ШІ в Earth через зловживання
Нещодавно впроваджена функція штучного інтелекту в Google Earth, яка дозволяла створювати надзвичайно реалістичні фальшиві супутникові знімки, викликала серйозне занепокоєння серед фахівців з кібербезпеки та дослідників OSINT. Існував ризик використання цих зображень для поширення дезінформації, маніпулювання громадською думкою та фальсифікації доказів. Зважаючи на це, Google вимушено відключила інструмент менш ніж за добу після його запуску.
Видання The Financial Times повідомляє, що Google тимчасово припинила роботу нової функції Nano Banana, інтегрованої в Google Earth. Це сталося після того, як стало очевидним, що інструмент має потенціал для генерації переконливих підробок супутникових фотографій.
Під час анонсу компанія заявляла, що цей інструмент дозволить користувачам “переосмислювати” будь-яку локацію на планеті, зокрема додавати до реальних супутникових знімків об’єкти або цілі сцени, створені штучним інтелектом. Проте, майже відразу після запуску, користувачі почали ділитися в соціальних мережах зображеннями з вигаданими кратерами від вибухів, пошкодженими будівлями та іншими неіснуючими подіями, які виглядають як справжні супутникові знімки.
Приклади зловживання функцією
- Після запуску користувачі платформи X (раніше Twitter) почали публікувати приклади роботи функції.
- Серед них були супутникові знімки з вигаданим кратером від вибуху в Газі.
- Також були створені підроблені зображення атомних електростанцій в Ірані.
- Було згенеровано фальшивий знімок автомобільної аварії в Амстердамі.
Фото: X (Twitter)
Фото: X (Twitter)
Саме це стало головною причиною критики. Експерти з розвідки за відкритими джерелами (OSINT) наголосили, що подібна технологія може суттєво ускладнити процес перевірки інформації. Вони вказали на можливість використання фальшивих супутникових знімків для створення неправдивих доказів наслідків ракетних ударів, терактів чи інших військових подій, що, своєю чергою, відкриває нові можливості для інформаційних маніпуляцій.
Особливе занепокоєння викликав той факт, що генератор зображень був інтегрований саме в Google Earth. Цей сервіс протягом багатьох років був одним із ключових інструментів для журналістів, аналітиків та дослідників для перевірки достовірності візуального контенту. На думку експертів, інтеграція генеративного ШІ безпосередньо в таку платформу вже підриває довіру до одного з основних джерел верифікації.
Після хвилі критики Google оголосила про тимчасове відключення функції. У компанії пояснили, що наразі працюють над посиленням системи захисту, після чого планують повернути інструмент у Google Earth.
Фото: X (Twitter)
Фото: X (Twitter)
Водночас у Google зауважили, що згенеровані штучним інтелектом зображення не були доступні всім користувачам у стандартному режимі роботи сервісу і позначалися спеціальними водяними знаками. Однак, як зазначив аналітик-дослідник Американського інституту підприємництва Брейді Афрік, на практиці цього недостатньо. Під час перегляду дописів у соціальних мережах більшість людей не перевіряє, чи було зображення створене за допомогою штучного інтелекту.
“Мало хто перевіряє, чи зображення створене штучним інтелектом, коли гортає його або поширює”, — прокоментував він.
Автор статті Financial Times додав, що цей випадок лише підкреслив зростаючу проблему використання генеративного ШІ для створення неправдивого візуального контенту.
Зокрема, раніше в мережі вже з’являлися фальшиві супутникові знімки, які нібито демонстрували наслідки атак на військові об’єкти на Близькому Сході.
Нагадаємо, що у Львові стався скандал після того, як мешканцю надали згенероване штучним інтелектом фото як підтвердження виконання робіт з обрізки дерева, хоча насправді роботи не проводилися. Міськрада пояснила це помилкою.
Також видання Фокус писало, що Apple подала до суду на OpenAI та двох своїх колишніх співробітників, звинувативши їх у викраденні конфіденційної інформації для розробки власних ШІ-продуктів. В OpenAI спростували ці звинувачення, заявивши, що компанія не використовує чужі комерційні таємниці.
Підсумок від Українське життя:
Ця новина є важливою для користувачів, які активно використовують Google Earth для отримання інформації та верифікації даних. Відключення функції Nano Banana через потенціал для створення фейків підкреслює важливість критичного мислення при роботі з будь-яким контентом, особливо тим, що генерується штучним інтелектом. Це також нагадує про необхідність обережності при поширенні візуальної інформації в мережі.
Подробиці можна знайти на сайті: focus.ua