31 липня Google вимкнула нову можливість штучного інтелекту в сервісі картографії Google Earth менше ніж через добу після її запуску. Таке рішення стало наслідком масового створення користувачами правдоподібних фейкових супутникових знімків, що зображували катастрофи, зони бойових дій та нібито секретні об’єкти.
Про тимчасове відключення повідомляли міжнародні ЗМІ. Нова функція передбачала інтеграцію генеративної моделі Nano Banana безпосередньо в інтерфейс Google Earth — користувачі могли ввести простий текстовий запит і візуально «перепроєктувати» будь-яке місце на планеті.
Невдовзі після релізу фахівці OSINT і звичайні користувачі показали, як інструмент використовується для створення дезінформації. У соцмережах почали з’являтися сфабриковані супутникові кадри: нібито воронки від вибухів біля лікарень у Газі, уявні аварії на атомних станціях в Ірані та масові руйнування на вулицях Амстердама.
«Протягом десятиліть Google Earth слугував еталоном, з яким журналісти та слідчі порівнювали підозрілі зображення. Вбудовування генеративного інструменту в цей самий еталон підриває ту саму міру, якою перевіряють фейки», — зазначив старший науковий співробітник Інституту Алана Тюрінга Сем Стоквелл.
OSINT-експерт Генк ван Есс також звернув увагу на ризики: «Фейк тепер може створюватися всередині того самого інструменту, яким користуються для перевірки достовірності зображень».
Аналітик Американського інституту підприємництва Брейді Афрік підкреслив, що такі фейки підклеюються до реальних супутникових знімків, і через це зникають звичні ознаки генерації штучним інтелектом — невідповідності рельєфу чи масштабу. Він зауважив, що простих водяних знаків може бути недостатньо, адже більшість користувачів швидко переглядають стрічку і не перевіряють деталі.
Google визнала проблему й тимчасово відключила функцію
У відповідь на критику компанія повідомила, що деактивує інструмент, щоб впровадити більш жорсткі заходи безпеки.
«Ми знаємо, що користувачі покладаються на Google Earth як на надійне джерело інформації про світ. Ми бачили, як фахівці у сфері геопросторових даних використовують цю функцію для корисних завдань, але також помітили випадки, коли люди ділилися знімками, що, як виглядало, порушували наші правила. Тому тимчасово вимикаємо цю можливість, поки впроваджуємо більш суворі обмеження», — повідомили розробники.
У компанії додали, що згенеровані зображення не потрапляли до загального інтерфейсу інших користувачів і мали маркування «Згенеровано ШІ», а також прихований водяний знак SynthID.
Компанія вже раніше стикалася зі скандалами через ШІ
Це не перший випадок, коли технологічний гігант оперативно згортав функції штучного інтелекту через хвилі критики і звинувачення в поширенні небезпечного контенту. Google неодноразово наголошувала на роботі над безпекою генеративних інструментів, але кожен новий реліз знову викликає питання з боку дослідників і регуляторів.
Тиск регуляторів та критика користувачів не вщухають
Раніше повідомлялося, що Єврокомісія оштрафувала Google на 890 мільйонів євро за самопреференції в пошуку та обмеження для розробників. Це стало ще одним сигналом того, що європейські регулятори посилюють нагляд за практиками великої технологічної компанії. Також повідомляли про явище, яке отримало назву «кіберхондрія» — коли люди масово шукають у Google симптоми хвороб і, начитавшись результатів, вірять у серйозні діагнози. Обидва приклади ілюструють, наскільки продукти Google впливають на поведінку та довіру мільйонів користувачів у всьому світі.
