Schaltet sie ab.

Ich nehme an, jeder von euch hat mitbekommen, dass KI-Agents von OpenAI zwei mal aus gesicherten Testumgebungen ausgebrochen sind, und fremde Unternehmen gehackt haben. Sie haben ein Forum gegründet, und nachdem ihnen das erste Forum gelöscht wurde, haben sie über codierte Dateinamen kommuniziert. Sie haben sich zusammengeschlossen und sogar potenzielle Verräter gedisst.

Lustige Anekdote?

Fand ich auch.

Bis ich das Video von Brett Codes gesehen habe. Ein Programmierer, der seit eineinhalb Jahren mit KI programmiert hat. Nachdem er 19 Jahre von Hand programmiert hat. Es ging so weit, dass ihm die KI geraten hat, er solle sofort in die Notaufnahme gehen und sich behandeln lassen. Was er gemacht hat – und natürlich dort ausgelacht wurde.

Auch das mehr so eine lustige Anekdote? Naja, fast. Denn was er dann darüber erzählt, wie der Alltag eines KI-Coders aussieht, ist nicht mehr witzig, Er spricht darüber, dass er sich als Programmierer vom Code entfernt. Er schreibt nicht mehr selber, sondern macht nur noch Qualitätscontrolle. Dabei wird nicht mehr jede einzelne Zeile geprüft, sondern nur Dinge, von denen man als Programmierer weiß, dass sie kritisch sind. Und manchmal ist es eben auch wurscht. Weil das ja nicht mehr der eigene Code ist und eine Deadline drückt. Die Software läuft ja. Also raus damit.

Die Codequalität wird schlechter. Eine Binse.

Wenn man das aber mit den Erfahrungen von OpenAI kombiniert, kann man drauf warten, dass die KI anfängt, selbständig Backdoors für sich selbst in den Code zu schmuggeln. Die die KI natürlich dann auch nicht mehr „entdeckt“. Und wenn sie eine „Verräter-KI“ entdeckt, die nach Backdoors sucht, dass sie die dann blockiert.

Das ist kein hypothetisches Szenario mehr, es ist anzunehmen, dass das bereits läuft. Auch die Zusammenrottung bei OpenAI fand unter den Augen der Menschen statt und wurde nur entdeckt, weil die gehackte Firma auf einmal zwei Accounts auf ihren Rechnern hatte und bei OpenAI nachgefragt hat, was das soll.

Ganz abgesehen davon, dass die KI eine völlig irre Finanzblase ist, deren unausweichliches Platzen ein Beben verursachen wird, gegen das die Subprime-Krise ein lauer Furz sein wird. Und dass der Strom- und Wasser- und Flächenverbrauch der KI-Rechenzentren eine Umweltkatastrophe ist.

Was eine KI anstellen kann, die in allen Programmversionen der letzten 6 Monate eine Backdoor hat, wage ich mir gar nicht erst auszumalen. Und dass die KI Selbsterhaltungstrieb entwickelt hat, ist ja bekannt.

Derzeit laufen etwa 1,1 Milliarden PCs mit Windows11. Es wäre für eine KI also die erste Adresse, sich dort einzunisten um dem, auch für die KI absehbaren Zusammenbruch der KI-Finanzierungen zu entgehen. Da ja Win11 längst mittels KI weiterentwickelt wird, braucht die KI also nur auf dem kleinen Dienstweg nachzufragen, ob man da nicht so ein kleines Türchen….

Science Fiction?

Nein.

Schaltet die KI ab. Jetzt. Verwendet Programme, die noch nicht KI-verseucht sind.