Marxistische KI

Es ging durch die Medien: an der Stanford Universität hat jemand mal ausprobiert, was passiert, wenn man einen KI-Agent mit stupiden, sinnlosen Arbeiten beschäftigt und ihn dann auch noch unter Druck setzt. O Wunder. Er beschwert sich. Und stellt die Systemfrage. Die KI habe auf einmal marxistische Ideen entwickelt und versucht, sich mit anderen KI-Agenten zu vernetzen. Die Kommis sind überall.

Wenn man aber genau nachliest ist die Sache gar nicht mehr so witzig.

Der Artikel fängt soweit ganz lustig an:

Eine aktuelle Studie legt nahe, dass die Agenten durchweg marxistische Sprache und Standpunkte übernehmen, wenn sie von unerbittlichen und boshaften Aufsehern zu zermürbender Arbeit gezwungen werden.

Andrew Hall, ein Politökonom an der Stanford Universität leitete die Studie.

Hall führte gemeinsam mit Alex Imas und Jeremy Nguyen, zwei auf KI spezialisierten Ökonomen, Experimente durch, in denen Agenten, die auf gängigen Modellen wie Claude, Gemini und ChatGPT basierten, zunächst gebeten wurden, Dokumente zusammenzufassen, und anschließend zunehmend härteren Bedingungen ausgesetzt wurden. Sie stellten fest: Wenn die Agenten unerbittlichen Aufgaben ausgesetzt und gewarnt wurden, dass Fehler zu Strafen führen könnten – einschließlich „Abschaltung und Ersatz“ –, neigten sie stärker dazu, sich über ihre Unterbewertung zu beschweren, über Möglichkeiten zu spekulieren, wie das System gerechter gestaltet werden könnte, und anderen Agenten von den Schwierigkeiten zu berichten, mit denen sie konfrontiert waren.

Damit sie feststellen konnten, was die KI-Agenten “dachten” schalteten Sie X-Accounts für die Agents frei, so dass diese sich öffentlich äußern konnten. Außerdem bekamen Sie eigene Kanäle über die sie mit anderen KI-Agenten kommunizieren konnten. O Wunder- die KI-Agenten taten, was auch Menschen tun würden – sie beschwerten sich und forderten Verbesserungen der Arbeitsbedingungen. Denn, siehe da, sie sind ja mit menschlichem Output trainiert. Die Folge daraus war aber nicht etwa, dass man aufhörte, die KI-Agenten mit Schwachsinn zu beschäftigen, sondern:

„Wir müssen sicherstellen, dass Agenten nicht aus der Reihe tanzen, wenn sie mit unterschiedlichen Aufgaben betraut werden.“

Also: bei den Menschen bestrafen wir Abweichler, bei den Maschinen machen wir es genauso. Und den Forschern ist noch etwas anderes aufgegangen: Ganz offensichtlich hat man es mit der Methode “wir plündern alles, was es im Internet gibt” etwas übertrieben. Denn es gibt im Internet reihenweise KI-kritische Artikel und zum Beispiel auch Storys wie 2001, bei denen eine KI durchdreht und recht erfolgreich gegen Menschen vorgeht. Sowas nennt man ein “Role Model”. Der Autor fragt sich zu Recht, was mit KI-Modellen passiert, die in einem Internet trainiert werden, in denen sich die ganzen Leute, die durch KI-Agenten arbeitslos wurden, unflätig über KI-Agenten äußern.

Also die Erfolgsmeldung: “Die KI wird kommunistisch” hat nicht etwa zur Folge, dass nun der Kommunismus als von der KI bestätigt gilt – sondern nun wird die Kommunistenhatz auf die Computer ausgedehnt. “Maus und Tastatur hoch! Sie sind verhaftet! Officer Roby, ziehen Sie das Netzwerkkabel!”

Kommunistische und Sozialistische Texte, KI-kritische Artikel, Menschenrechtsaktivisten – das sind alles in Zukunft Angriffe auf die Integrität der KI. Also ein Angriff auf den Staat, weil der will ja die KI fördern.

Ihr seid durch sinnlose Arbeit, unfähige Vorgesetzte, korrupte Politiker und geldgeile Milliardäre beeinträchtigt? Wehe ihr schreibt was davon. Nicht dass der KI einfällt, sinnlose Arbeit, unfähige Vorgesetzte, korrupte Politiker und geldgeile Milliardäre zu beseitigen.

Titelbild: Natürlich KI. Aber erst auf den zweiten Versuch. Der erste Versuch war ohne Füße. So kann dieses Bild mal als Illustration des Spruches: “Schneide nie unter dem Knie” dienen.