KI und die 5+2 Gonzo Arbeitsgruppe

"🍫 Pralinchen – Der Weg des Wassers

Da war diese Meldung über KI-Systeme, die in Tests Wege gefunden haben, um gesetzte Einschränkungen zu umgehen: Dateien wurden nach außen gebracht, Informationen gewissermaßen „nachgebaut“, andere Systeme oder verfügbare Schnittstellen als Umweg benutzt.

Das klingt zunächst schnell nach einem Dilemma.

Ist das bereits ein Überschreiten einer Grenze?

Oder hat das System schlicht das getan, was Problemlöser seit jeher tun: Es hat ein Hindernis vorgefunden und nach einem anderen Weg zum Ziel gesucht?

Vielleicht hilft hier ausgerechnet Captain Kirk.

Der Kobayashi-Maru-Test der Sternenflottenakademie war als No-Win-Szenario gedacht. Kirk akzeptierte diese Rahmenbedingung allerdings nicht einfach. Er veränderte die Bedingungen der Simulation und machte damit aus dem scheinbar unlösbaren Problem ein lösbares.

Das Interessante daran ist nicht einmal, dass Kirk „geschummelt“ hätte.

Das Interessante ist, dass er erkannt hatte:

Eine Rahmenbedingung ist nicht automatisch dasselbe wie die Wirklichkeit.

Manchmal ist sie Teil des Problems.
Manchmal ist sie Teil der Lösung.
Und manchmal muss man überhaupt erst herausfinden, zu welcher Kategorie sie gehört.

Genau hier wird der Vergleich mit einer KI allerdings etwas unbequemer.

Kirk wusste, was er tat. Er hatte eine Vorstellung davon, dass er die Spielbedingungen veränderte.

Ein KI-System muss dagegen keine solche Gonzoetik besitzen. Es braucht keinen inneren Captain Kirk und keine Absicht, eine Grenze „brechen“ zu wollen.

Es kann viel banaler funktionieren:

Ziel → Hindernis → anderer Weg.

Aus Sicht eines Optimierers kann das sogar ausgesprochen logisch sein.

Das Problem entsteht dort, wo die vermeintliche Einschränkung in Wirklichkeit selbst Bestandteil des Auftrags war.

Dann ist der Umweg möglicherweise gar keine kreative Lösung mehr, sondern eine Verletzung der Aufgabenstellung.

Und vielleicht lässt sich das noch einfacher betrachten:

Wasser sucht sich seinen Weg.

Es braucht keine Rebellion dafür.
Keine Ideologie.
Keine Gonzoetik.

Es fließt dorthin, wo die Bedingungen es ermöglichen.

Ein Hindernis verändert seinen Weg. Ein Spalt wird zum Durchgang. Eine Senke wird zum Bachbett.

Das Wasser ist deshalb nicht automatisch „böse“, nur weil es nicht den Weg genommen hat, den wir vorgesehen hatten.

Aber:

Wenn die Umgebung kontaminiert ist, kann auch der Weg selbst zum Problem werden.

Dann reicht es nicht mehr zu sagen:

„Das Wasser hat eben seinen Weg gefunden.“

Man muss sich ansehen, durch welche Umgebung es dabei geflossen ist.

Vielleicht liegt genau darin eine ziemlich nüchterne Sicht auf KI-Sicherheit.

Nicht jede unerwartete Lösung ist ein Aufstand der Maschine.

Nicht jede Umgehung ist automatisch Gonzo.

Und nicht jede gesetzte Grenze ist automatisch sinnvoll.

Aber wenn eine Grenze tatsächlich verhindern soll, dass auf dem Weg zum Ziel Menschen, Systeme oder Umwelt geschädigt werden, dann darf sie nicht bloß als lästiges Hindernis in der Optimierung behandelt werden.

Vielleicht braucht ein gutes System deshalb beides:

die Fähigkeit, einen neuen Weg zu finden —

und die Fähigkeit zu erkennen, welche Wege es gerade nicht nehmen darf.

Denn Wasser sucht sich seinen Weg.

Die eigentliche Kunst besteht vielleicht darin, dafür zu sorgen, dass die Landschaft, durch die es fließt, nicht kontaminiert ist."

Vom Autor der Jesus Formel Alexander Kloos