Nano Banana: KI-Funktion von Google Earth wegen Missbrauchs abgeschaltet
Inhalt
Google hat die KI-Funktion Nano Banana in Google Earth(öffnet im neuen Fenster) wieder entfernt, keine zwei Tage nach dem Start, wie BBC berichtet(öffnet im neuen Fenster). Auslöser waren Fragen dazu, wie leicht sich damit erfundene Szenen in reales Kartenmaterial einfügen lassen und so zu falschen Schlüssen führen könnten.
Nano Banana 2 malt auf echte Satellitenbilder
Die Funktion basierte auf dem hauseigenen Bildgenerator Nano Banana 2. Nutzer tippten einen Textbefehl ein und daraufhin erschienen erfundene Elemente in echten Satelliten-, Luft- oder 3D-Ansichten. Die fertigen Bilder ließen sich speichern und beliebig weiterverbreiten.
In einer Stellungnahme vom Freitag erklärte das Unternehmen(öffnet im neuen Fenster), dass es das Werkzeug pausiere, bis stärkere Schutzmechanismen entwickelt seien. Es habe Screenshots generierter Bilder gesehen, die gegen die eigenen Richtlinien zu verstoßen scheinen, so das Unternehmen weiter.
Dem vorausgegangen waren Tests von BBC Verify. Die Journalisten erzeugten nach eigenen Angaben unter anderem einen eingestürzten Eiffelturm, einen Krater, der die Cheops-Pyramide in Gizeh verschlingt, und russische Panzer mitten in Kyjiw.
Forscher, die sich die Funktion angesehen haben, sehen das eigentliche Risiko nicht in der Bildqualität, sondern im Kontext. Ein Sicherheitsforscher erzeugte mit der KI eine fiktive Nuklearanlage im Iran, ein Lager an der Grenze zwischen den USA und Mexiko(öffnet im neuen Fenster) sowie ein beschädigtes Krankenhaus in Gaza. Sein Argument: Das erfundene Detail muss für sich genommen überhaupt nicht glaubwürdig sein. Es leihe sich die Autorität der echten Karte darunter und der Koordinaten, die daran hängen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.