Google znów przekonało się, że nawet najbardziej efektowny pomysł z obszaru AI może bardzo szybko zamienić się w problem wizerunkowy i technologiczny. Najnowsza funkcja w Google Earth, oparta na modelu Nano Banana 2, przetrwała zaledwie jeden dzień, zanim została wycofana po fali kontrowersyjnych treści tworzonych przez użytkowników. Cała sytuacja pokazuje, jak łatwo dziś sztuczna inteligencja może zostać wykorzystana do generowania fałszywych obrazów, które wyglądają na wiarygodne.
AI w Google Earth miało być efektowne, a wyszło ryzykownie
Nowa opcja miała brzmieć jak naturalne rozwinięcie możliwości Google Earth. Firma zapowiadała, że użytkownicy będą mogli tworzyć własne obrazy na bazie zdjęć satelitarnych, ujęć lotniczych i modeli 3D, a wszystko to z pomocą generatywnej AI. W teorii miało to ułatwiać wizualizowanie historii, planów nieruchomości czy przyszłych wersji miast.
Google chwaliło się też przykładowymi zastosowaniami, takimi jak tworzenie infografik o konkretnych miejscach, wyobrażanie sobie domu nad jeziorem albo rekonstrukcja Pompejów sprzed erupcji Wezuwiusza. Pomysł sam w sobie nie był nowy, ale połączenie „prawdziwych” danych z generowanym przez AI obrazem szybko okazało się mieszanką wybuchową.
To kolejny przykład tego, że technologia sama w sobie nie rozwiązuje problemów, jeśli nie towarzyszą jej rozsądne ograniczenia. W praktyce najtrudniejsze bywa nie stworzenie funkcji, lecz przewidzenie, jak zostanie użyta. W świecie AI ta zasada staje się dziś szczególnie ważna.
Jak użytkownicy wykorzystali nową funkcję
Problem nie polegał na samej technologii, lecz na tym, jak błyskawicznie zaczęto ją nadużywać. W sieci zaczęły pojawiać się obrazy przedstawiające katastrofy naturalne, ataki terrorystyczne, gigantyczne zapadliska, obecność obcych czy rzekome skupiska uchodźców w miejscach, gdzie w rzeczywistości nic takiego nie miało miejsca.
Część z tych materiałów była oczywiście tworzona w żartach, ale wiele powstało po to, by wprowadzać ludzi w błąd. Dodatkową siłę rażenia dawał fakt, że grafiki opierały się na autentycznych danych z Google Earth, przez co wyglądały bardziej przekonująco niż typowe fałszywki z internetu.
Dlaczego to stało się tak szybko realnym zagrożeniem
Obecnie coraz trudniej odróżnić treści stworzone przez człowieka od materiałów wygenerowanych przez AI. Zdjęcia i filmy potrafią wyglądać bardzo realistycznie, dlatego odbiorcy muszą podchodzić do wszystkiego, co widzą w sieci, z dużą ostrożnością. W przypadku Google Earth doszło jednak do sytuacji, w której narzędzie kojarzone z dokładnymi danymi przestrzennymi zaczęło służyć do produkcji wizualnych mistyfikacji.
To szczególnie niebezpieczne, bo takie obrazy mogą łatwo zdobywać zasięgi w mediach społecznościowych. Jeśli coś wygląda jak fragment rzeczywistości, ale jest stworzone przez model generatywny, wielu użytkowników nie będzie w stanie tego od razu zauważyć. Właśnie dlatego problem dezinformacji z użyciem AI staje się coraz poważniejszy.
Google wycofuje funkcję i obiecuje mocniejsze zabezpieczenia
Po pojawieniu się fali materiałów naruszających zasady Google zdecydowało się wycofać funkcję. Firma przekazała, że pracuje nad silniejszymi zabezpieczeniami, które mają ograniczyć możliwość tworzenia wprowadzających w błąd treści. Jednocześnie podkreślono, że generowane obrazy nie pojawiały się w głównym widoku Google Earth dla innych użytkowników i były oznaczane jako wygenerowane przez AI.
To ważny szczegół, ale nie zmienia faktu, że sam eksperyment okazał się zbyt łatwy do obejścia. W praktyce wystarczyło niewiele czasu, aby internet wykorzystał nową możliwość w sposób, którego Google najwyraźniej nie przewidziało w wystarczającym stopniu.
Co ta sytuacja mówi o obecnej modzie na AI
Cały incydent pokazuje szerszy problem: wiele firm chce dodawać elementy AI niemal do wszystkiego, nawet tam, gdzie nie zawsze ma to sens. Użytkownicy coraz częściej reagują na to zniecierpliwieniem, a nie entuzjazmem. Część z nich uważa, że sztuczna inteligencja jest wciskana do produktów na siłę, zamiast realnie je ulepszać.
Dobrym przykładem jest też to, że Microsoft niedawno wycofywał część funkcji AI z Notatnika, po krytyce ze strony użytkowników. Pokazuje to, że prostota i przewidywalność nadal mają dla wielu osób większą wartość niż kolejne „inteligentne” dodatki. Nie każda aplikacja potrzebuje generatora treści, a nie każdy pomysł na AI faktycznie poprawia doświadczenie użytkownika.
Najważniejsza lekcja: ufaj tylko sprawdzonym źródłom
Z tej historii płynie jeszcze jeden wniosek: w czasach generatywnej AI trzeba szczególnie uważać na źródła informacji. Losowe profile w mediach społecznościowych mogą publikować materiały wyglądające wiarygodnie, ale niekoniecznie prawdziwe. Zdecydowanie bezpieczniej jest opierać się na sprawdzonych redakcjach i serwisach, które mają jasne zasady dotyczące użycia AI.
Internet wszedł już w etap, w którym sceptycyzm nie jest przesadą, tylko koniecznością. Jeśli coś wydaje się zbyt sensacyjne, skrajne albo idealnie dopasowane do emocji odbiorcy, warto sprawdzić to dwa razy. Przypadek Google Earth pokazuje, że nawet duże i zaufane firmy nie są dziś w stanie całkowicie uchronić swoich narzędzi przed nadużyciami.
Google znowu nawaliło. Czy nie mogli przewidzieć, że ludzie zaczną nadużywać tej technologii? Mówią, że to AI, ale kto to kontroluje? Kolejny przykład, że „innowacje” często prowadzą do chaosu.
To co się stało z Nano Bananą to przestroga, że AI nie zawsze jest odpowiedzią. Zamiast ułatwiać życie, teraz ludzie muszą martwić się o dezinformację. Sztuczna inteligencja powinna być lepiej zabezpieczona przed nadużyciami, bo w tej chwili to tylko wrzód na technologicznej twarzy.
Zdaję sobie sprawę, że AI jest potężne, ale ta cała sytuacja z Google Earth pokazuje, że nie każda technologia jest potrzebna wszędzie. Przykro mi, że ludzie się po raz kolejny pokazali z tej kiepskiej strony. Co do zabezpieczeń, znowu będą nas zapewniać, ale ile to może potrwać?
Mam wrażenie, że Google zbyt szybko pcha AI tam, gdzie nie powinno go być. Wiadomo, że niektórzy będą się bawić w tworzenie fake newsów. Też bym się bał, że takie narzędzie wpadnie w niepowołane ręce. Jak dla mnie, niech wracają do klasycznych metod, bo to zamieszanie tylko zaszkodzi.
Co do tej „rewolucji” AI, mam mieszane uczucia. W użyciu technologia wygląda genialnie, ale praktycznie to piękny bałagan. Większość z nas bez trudności mogłaby wykreować niestworzone historie, a potem co? Będziemy straszyć się zdjęciami z Google Earth? Zobaczymy, czy Google na długo wyciągnie wnioski.
Że też Google nie pomyślało o konsekwencjach. Całe to AI promują jak złoto, a potem takie wpadki. Ludzie nadużywają narzędzi i powstają chaos i dezinformacja. Ciekawe, jak wygląda zabezpieczenie w ich innych produktach. Kto wie, co jeszcze mogą wykombinować w sieci?