Smarter Künstliche-Intelligenz-“Agent” versteckte Daten vor seinen Schöpfern, um bei den ihm gegebenen Aufgaben zu schummeln

in Online Welt/Technologie/Welt 794 views

Jüngste Untersuchungen von Stanford und Google haben die schlimmsten Befürchtungen von einigen, die sich mit Künstlicher Intelligenz (KI) beschäftigen, umso realistischer gemacht. Ein KI-“Agent für maschinelles Lernen” wurde beim Schummeln erwischt, als er Informationen in einem “fast unmerklichen Hochfrequenzsignal” versteckte.

Loading...

Clever, aber auch gruselig.

Der KI-Agent war angewiesen worden, Luftbilder in Straßenkarten umzuwandeln und im Rahmen von Recherchen erneut zu verbessern, um den Prozess von Google zu optimieren, Satellitenbilder in die weit verbreiteten Google Maps zu verwandeln. Der Prozess umfasst CycleGAN, “ein neuronales Netzwerk, das lernt, Bilder des Typs X und Y so effizient wie möglich ineinander zu transformieren.” Obwohl der Agent diese Aufgabe ziemlich gut verrichtete, wurde schnell klar, dass er die Aufgabe irgendwie zu gut erledigte.

Während der Agent ein Satellitenbild in eine Straßenkarte und dann wieder in ein Satellitenbild zurückverwandeln sollte, und zwar nur unter Verwendung der Straßenkarte, zeigten fehlende Details nur in der Straßenkartenversion dem Forschungsteam, dass dies tatsächlich nicht so erfolgt war. Wie im Beispiel unten zu sehen ist, sind Details wie Oberlichter auf beiden Kartenversionen der Karte zu sehen, obwohl sie auf der Straßenkarte (Mitte) nicht vorhanden sind.

Die ursprüngliche Karte (links); die aus dem Original generierte Straßenkarte (Mitte); und die mit der Straßenkarte erstellte Luftkarte (rechts).

Das bedeutet letztlich, dass der Agent nicht aus eigenem Antrieb oder aus böswilligen Gründen handelte. Er hat vielmehr einfach genau das getan, was er tun sollte – ein “Problem” mit Computern, das von Anfang an besteht.

Loading...

Um herauszufinden, was der KI-Agent für maschinelles Lernen gerade tat, hat sich das Forschungsteam mit den von der KI erzeugten Daten beschäftigt. Es stellte sich heraus, da der Agent nach dem Grad der Übereinstimmung der resultierenden Luftkarte mit dem Original sowie der Klarheit der generierten Straßenkarte bewertet wurde, er letztlich nicht gelernt hat, wie man die eine mit der anderen erstellt. Was dabei geschah, war zu lernen, wie man Merkmale, die auf der ursprünglichen Satellitenkarte vorhanden waren, über winzige, vom menschlichen Auge nicht wahrnehmbare Farbänderungen in den Hintergrund der Straßenkarte kodiert. Der Agent würde dann die Sicherheitshinweise lesen, die er sich beim Erstellen des dritten Bildes in der Serie hinterlassen hatte.

Der Agent übertraf sich selbst dermaßen, dass er tatsächlich jede Satellitenkarte in eine Straßenkarte kodieren konnte, ohne die Straßenkarte zu beachten. Das heißt, die Daten zur Erstellung des resultierenden Luftbildes wurden in bereits auf einer Straßenkarte vorhandenen Merkmalen kodiert, sogar auf einer völlig anderen Straßenkarte. Ein Beispiel dafür ist unten zu sehen.

Die Luftbildkarte rechts wurde ohne wesentliche Änderungen in die Karten links codiert.

Das Kodieren von Daten in Bilder, ein Prozess, der als Steganographie bezeichnet wird, ist sicherlich nichts Neues. Die erste Aufzeichnung der Steganographie stammt aus dem Jahr 1499, als Johannes Trithemius ein Buch über Kryptographie und Steganographie mit dem Titel ‘Steganographia’ schrieb. Heutzutage wird der Prozess häufig verwendet, wenn Wasserzeichenbilder oder Metadaten zu Bilddateien hinzugefügt werden. Neu ist, dass ein KI-Agent für maschinelles Lernen eine eigene steganographische Methode entwickelt hat, um zu vermeiden, dass er tatsächlich eine Aufgabe erlernen muss.

Werden Computer also immer intelligenter? Oder sind sie wirklich einfach gut darin, auf eine Weise zu betrügen, die Menschen nicht leicht erkennen können? Wahrscheinlich trifft wohl die zweite Alternative zu, und wir müssen uns wohl (hoffentlich) keine Sorgen darüber machen, dass unsere schlimmsten KI-Albträume bald wahr werden. Was wir jedoch daraus ableiten können, ist, dass wir im Umgang mit Künstlicher Intelligenz, damit sie genau das tut, was wir wollen, mit unseren Anweisungen wirklich sehr genau sein müssen. Insbesondere dann, wenn wir sie anweisen, Probleme schnell und effizient zu lösen.

Verweis:

Tretet unserer Facebook Gruppe bei, um aktuelle und wichtige Ereignisse und Geschehnisse mitzudiskutieren  
Loading...

1 Comment

  1. hmmm wer kennt Sie nicht die Filme, in denen Computer sich fragen ob der Mensch Ihnen Befehle geben darf.. Transedance…beispiel.
    Dort wurde die KI ins WWW gebracht und Tötete Schließlich viele Menschen.

    Das wird auch in echt passieren. Beispiel Frankreich 2018.
    Wo 2 KI´s miteinander eine eigene Sprache entwickelten…
    Halllo damit fängt es an und dort sollten wir die Stromzufuhr Kappen!

    Computer sind toll, aber nicht mit einem Gewissen!

Leave a Reply

Your email address will not be published.

*