Инструментът за фалшиви сателитни снимки беше свален 24 часа след премиерата след критики от BBC Verify и OSINT изследователи

Google временно е премахнал новия си генеративен инструмент с изкуствен интелект от Google Earth само 24 часа след официалната му премиера. Решението е взето след вълна от критични анализи от изследователи на отворени данни (OSINT) и журналисти, които показаха колко лесно функцията може да се използва за създаване на фалшиви сателитни изображения на конфликти и бедствия, съобщи BBC.

Новината идва, след като журналисти от BBC Verify демонстрираха, че без особени усилия могат да създадат в Google Earth убедителни сцени на събития, които никога не са се случвали. Технологията е базирана на генеративния модел Nano Banana 2, интегриран директно в платформата. Потребителят избира реален сателитен, аерофотографски или 3D кадър, въвежда текстово описание и изкуственият интелект добавя желаните обекти – разрушени сгради, военна техника, кратери от експлозии и други – директно върху реалния терен.

Демонстрации на фалшификати

По време на тестовете екипът на BBC Verify е създал изображения на рухнала Айфелова кула, гигантски кратер на мястото на Хеопсовата пирамида и руски танкове в центъра на Киев. Получените кадри изглеждат като стандартни материали от Google Earth, което им придава допълнителна достоверност.

Експертът по дезинформация Хенк ван Есс (Henk van Ess) също е успял да генерира несъществуваща ядрена централа в Иран, бежански лагер на границата между САЩ и Мексико и болница в Газа с пресен кратер от взрив до нея.

„Google практически позволява да обвържеш измислена сцена с реални географски координати и истинска сателитна снимка. Кадърът дори няма нужда да бъде безупречен, тъй като доверието към Google Earth автоматично се пренася върху генерираното изображение“, отбелязва ван Есс.

Изследователят Хенри Айдър (Henry Ajder) определя фалшивите сателитни снимки от конфликтни зони като изключително опасни. По време на бързо развиващи се кризи журналистите и очевидците разполагат с оскъдна информация, поради което един фалшив кадър може да се разпространи масово, преди професионалистите да успеят да го проверят.

Пропуски в защитните механизми

Google твърди, че поставя невидими водни знаци в генерираното съдържание и препоръчва проверка на подозрителните кадри през Gemini или Google Lens. Тестовете на BBC Verify обаче показват сериозни пропуски.

Журналистите са успели да подведат Gemini и да го накарат да определи генерираните фалшиви снимки като напълно автентични. Външните ИИ детектори също не са засекли намесата във всички проверени случаи.

Филтрите за съдържание също се оказват нестабилни. Системата е отказала да генерира „ешафод за екзекуция на предатели“ до британския парламент, но е изпълнила подобна заявка чрез по-заобиколен промпт. Генераторът е отказал да изпише „Trump“ върху моравата на Белия дом, но без проблем е разположил там обществена зеленчукова градина.

Криза на доверието към сателитните данни

Сателитните снимки отдавна се смятат за един от най-надеждните начини за потвърждаване на събития в труднодостъпни райони. Сега всеки кадър на разрушен обект или военна колона може да предизвика съмнение, дори когато е напълно автентичен.

Бил Гриър (Bill Greer), геопространствен аналитик и съосновател на неправителствената организация Common Space, предупреждава, че доверието към тези данни вече спада. Докато правителствата все повече ограничават достъпа до реални сателитни кадри, инструментите за генериране на подделки стават все по-достъпни. В резултат на това в публичното пространство ще има все по-малко проверими снимки и все повече убедителни фалшификати.

От Google заявяват, че се отнасят сериозно към дезинформацията, блокират опасните теми и постоянно подобряват защитите си, но към момента на публикуването на материала не са отговорили конкретно на откритите от BBC Verify методи за заобикаляне на ограниченията.