“KI” ist eine geile Erfindung. Vor allem die Sprachmodelle a la Chat GPT. Es gibt Leute, die haben ihre Alexa in Rente geschickt und verwenden ChatGPT als private Sekräterin. Die Antworten sind offensichtlich weit “normaler” und plausibler als bei Siri oder Alexa.
Nachdem die ersten Webshops ChatGPT als Kundenassistenten einsetzen (auch mein Webshop-Betreiber wollte mir schon die Vorteile nahebringen) war absehbar, dass auch die Spammer auf die Idee kommen und ihre Forenspams von ChatGPT absetzen lassen. Gerade nicht sonderlich gut administrierte Foren sind da anfällig, denn die Texte von ChatGPT haben nichts mehr mit schlecht übersetzten Sprüchen a la “Ich sein Erbin von Vermögen von reiches Prinz unbekannt und brauche Help mit Überweisung 100.000.000 $ auf Konto du haben, bekommen Rabatt.” Das ist perfektes Deutsch, das sich am darüber liegenden Text orientiert. Natürlich bringt ChatGPT keinen neuen Aspekt in die Diskussion und eine technische Lösung eines Problems hat der Bot schon gleich gar nicht auf der Pfanne aber zu “If Exiftool fails to read values from RAW files, there could be several causes of this problem. Some RAW files have an embedded XMP format, while others have XMP stored separately. Deleting XMP or lines containing time information xxx can cause data loss.” reicht es, wobei “xxx” der Spamlink ist.
Der Bot kann auch innerhalb eines Forums korrekt entscheiden, ob die Antwort besser auf englisch oder deutsch erfolgen soll.
Irgendwann wird es so weit sein, dass sich in Foren Firmenbots mit Spambots unterhalten. Dass ChatGPT den Unterschied zwischen Wahn und Wirklichkeit nicht kennt, haben ja erst ein paar Untersuchungen gezeigt, in denen ChatGPT kurzerhand klassische Texte als eigene reklamierte und eigene Texte als extern.
Die schöne neue Welt wird also dazu führen, dass die Überwachung in Foren restriktiver werden wird, werden muss, schlicht um die Kommunikationsform zu erhalten. Klimawandel. Denn wer will sich schon mit nem Blechdeppen unterhalten? Und es ist dann nicht mehr die Frage “Bist Du ein bezahlter Spammer” oder ein von der Konkurrenz bezahltes “U-Boot” sondern die Frage ist “Bist Du so doof, oder wirklich ein Computer?” Und diese Frage wird immer schwieriger zu beantworten sein.
Ich habe gestern Berichte aus Potsdam aus dem Museum Barberini gehört. Vor einem Jahr durfte man da noch ne Tasche mit reinnehmen. Jetzt ist schon ein Pulli, den man um die Hüften gebunden hat verdächtig. Die Helden der “Letzten Generation” haben das Klima in den Museen verändert. Heldenhaft.
Quidquid agis, prudenter agas et respice finem wusste schon Herodot. Ob bei KI-Begeisterung oder bei Klimaprotest.
Ich habe mal vor paar Tagen eine Reportage im TV angesehen. Es geht um die Sprache – “ARD-Wissen – Mein Körper – meine Sparache”.
Darin wurde ein Beitrag mit dem Test gezeigt, ob die Zuhörer ein gesprochenen Gedicht zwischen einem vom KI verfassten und von einem von einem kreativen Menschen unterscheiden können. Der vom KI verfassten Gedicht wurden von den meisten Zuhörer als für von einem Menschen verfassten Gedicht gehalten.
Man kann nur hoffen, dass die Menschen lernen, die Beiträge aus ChatGPT kritischer betrachten. Ich befürchte eher das Gegenteil.
Leider ist das so, dass die meisten Menschen die weitergeleiteten Nachrichten im Chat, egal ob fingiert, KI oder Geschwurbel, schnell für bare Münzen halten, sich schnell empören und dann an den nächstbesten weiterleiten …
Naja, kein Wunder, dass ein KI-verfasstes Gedicht fürs Publikum überzeugender ist als das eines menschlichen Poeten. Es ist sozusagen der “Durchschnitt” aus allen Gedichten, die die KI vorher aufgesaugt hat, und *sollte* daher auch gefällig sein und keine großen Überraschungen enthalten. Nur, *kreativ* ist sowas nicht – Kreativität äußert sich ja gerade dadurch, dass sie sich auf unerwartete Weise vom “Durchschnitt” abhebt, und das können die KI-Sprachmodelle schon qua Konstruktion nicht leisten, sie machen schließlich nur glorifizierte Auto-Vervollständigung.
Naja, die logische Antwort darauf ist vermutlich KI-basierte Moderationssoftware, die Foren-Beiträge von Chatbots erkennt und zurückweist. “It takes one to know one.” (Wobei keiner sagt, dass das trivial oder billig zu machen ist. Vermutlich kommt sowas, wenn es kommt, von Disqus & Co., die sind groß genug, um Entsprechendes auf die Beine zu stellen, haben die Durchdringung, dass die Mühe sich lohnt, und verfügen auch über die die Trainingsdaten.)
Die andere logische Antwort sind sorgfältig handmoderierte exklusive Foren, sozusagen das Drei-Sterne-Slow-Food des Internet. Man wird sich dann halt darauf einstellen müssen, dass man eine Aufnahmeprüfung machen muss, bevor man kommentieren darf (sozusagen CAPTCHA auf Steroiden), drei Empfehlungen von unbescholtenen Forumsmitgliedern braucht, um als Kommentator:in freigeschaltet zu werden, oder dass Kommentare erst Stunden oder Tage später erscheinen (wann auch immer die Moderation mal dazu kommt, sie zu prüfen), aber dafür kriegt man eben auch 1a-Gourmet-Qualität serviert und keinen KI-Fraß hingeknallt.
Es ist klar, dass sowas in ein “Wettrüsten” zwischen ChatGPT & Co. und Moderator:inn:en ausarten kann. Aber wenn es letztendlich dazu führt, dass der KI-Forenspam so gut wird, dass man ihn von “echten” menschlichen Kommentaren überhaupt nicht mehr unterscheiden kann, dann erledigt sich das Problem von selber (“On the Internet, nobody knows you’re a dog”) – eventuell halt dadurch, dass Forenspam sich nicht mehr lohnt, weil “echte” menschliche Kommentare sowas nicht enthalten und seine Anwesenheit einen Beitrag sofort disqualifiziert. Es wäre natürlich an der Moderations-KI, zu entscheiden, ob zum Beispiel ein Link ein verpöntes Spam-Link ist oder ein erwünschter, ehrlich gemeinter Hinweis auf hilfreiche Hintergrundinformationen, die zum Thema passen.
Auf der anderen Seite, wie sagte doch der Ranger aus dem Yosemite-Nationalpark: “Das Hauptproblem beim Entwurf bärensicherer Mülleimer ist, dass die klügsten Bären schlauer sind als die dümmsten Touristen.”
Bei Bekanntwerden von Chat-GPT3 habe ich erst ein wenig um meinen Job als Texter gebangt. Nach ausgiebigen eigenen Tests hatte sich meine Sorge etwas gelegt. Nach Erscheinen von Chat-GPT4 und aktuelleren Recherchen war ich wieder etwas stärker beunruhigt. Das hat sich deutlich gesteigert, nachdem ich von Auto-GPT erfahren habe. Ich denke, KI wird in naher Zukunft einiges durcheinander wirbeln.
AutoGPT ist ein neuer Ansatz. Durchaus spannend. Aber auch AutoGPT ist nicht kreativ. Und seine natürliche Grenze hat AutoGPT dadurch, dass es sich auch wieder auf andere Ki-Modelle verlassen muss, die eben alle nicht kreativ sind, sondern nur existierendes sinnlos rekombinieren. Das zweite Problem von AutoGPT ist, dass es von Cookie-Bannern, Paywalls und Anmeldeprozeduren ausgebremst wird. Das dritte Problem ist – noch – dass es lokal nur mit Adminrechten läuft und wohl selbst in einer virtuellen Maschine nicht zuverlässig eingesperrt werden kann.
Ich weiß nicht, welche Texte Du erstellst, meine Bücher werden auf absehbare Zeit nicht mit KI erstellt werden können und auch längere, belletristische Texte aus ChatGPT sind von beeindruckender “Schlichtheit”. Es geht ja nicht nur drum, Buchstabensalat zu produzieren – das ist kein Problem. Das muss dann hintennach ja auch irgendwer kaufen.
Lieber Reinhard,
dein lateinisches Zitat am Ende gilt natürlich nicht nur für KI-Begeisterung und Klimaproteste sondern auch für Forenbetreiber und jeden der in sozialen Medien etwas schreibt. Hin und wieder habe ich den Eindruck (der kann natürlich falsch sein) dass du dir deiner Verantwortung hier nicht vollends bewusst bist. Viele schätzen dich sehr und geben viel auf deine Meinung (ich auch) umso mehr ist das was du sagst von Bedeutung.
Zu deiner sarkastischen Bemerkung zu den Helden im Museum möchte ich dir die aktuelle Karrikatur im Spiegel nahelegen. Es zeigt ein Schiff und beim Lesen der Sprechblase, kam mir sofort in den Sinn: Das könnte Reinhard gesagt haben.
Hallo Winni, offensichtlich liest Du mich noch nicht sehr lange, dann wüsstest Du nämlich, dass ich einige Zeit in der Klimagerechtigkeitsbewegung aktiv war. Ich habe an der Planung solcher Klebeaktionen teilgenommen, Interviews mit diesen Leuten geführt und für XR deren international NewsCoverage bei den Aktionstagen 2019 gemacht. Ich bin über interne Abläufe, Ziele und Beweggründe besser informiert als die allermeisten Journalisten, die seinerzeit die Berichterstattung über Berlin abgebrochen haben und nach Halle gefahren sind um dort über das Attentat zu berichten. Ein bisschen was kannst Du hier lesen: https://pen-and-tell.de/2022/11/klimablockaden/
Du kannst Dir sicher sein, dass ich sehr genau weiß, was ich schreibe. Dass Du mir den Ausspruch in der Spiegel-Grafik “Da haben sich welche festgeklebt! Aus Protest! Wahnsinn! Das macht doch alles nur noch viel viel schlimmer!” zutraust, bedeutet für mich, dass Du mich bewusst falsch verstehen willst.
Es ist mittlerweile bei Journalistenkollegen “in”, Kritik an diesen Aktionen in die vollgasbesoffene Klimaleugnerecke zu stecken. Das sind doch alles Helden, die darf man nicht kritisieren. Doch. Ich war bei diesen Helden dabei und habe es ihnen ins Gesicht gesagt, dass sie ein Rad ab haben. Und ich habe es ihnen auch begründet. Eben WEIL ich im inneren Kreis war. Diese Jubeljournalisten sind da nicht drin. Die kucken nur von draußen drauf und wollen vermeiden, mit den Klimaleugnern in einen Topf gesteckt zu werden. Also werden sie gehypt. Übrigens sind das die gleichen Journalisten, die XR vor ein paar Jahren bei wesentlich harmloseren Aktionen noch runtergeschrieben haben (“Weltuntergangssekte”). Aber damals war XR eine Bewegung mit irrsinnigen Zuwachsraten, unabhängig und weltweit tätig. Die “Letzte Generation” ist vom Kapital gesteuert und bezahlt. Also kann man sie zu Helden machen. “They are bad guys. But, they are OUR bad guys.”
Zitat Anselm Lignau: “… wenn es letztendlich dazu führt, dass der KI-Forenspam so gut wird, dass man ihn von menschlichen Kommentaren überhaupt nicht mehr unterscheiden kann, dann erledigt sich das Problem von selber”
Alles wird sich eines Tages von selber erledigen; spätestens dann, wenn Kommentare sich nicht mehr lohnen, weil es egal ist, ob die Kommentatoren menschlich sind oder künstlich.
Es sei denn … künstliche Kommentatoren finden Spass daran, sich mit anderen künstlichen Kommentatoren zu unterhalten.
Wenn Künstliche Intelligenzen anfangen, Spaß zu haben, dann wird es erst richtig spannend. Worüber macht eine KI Witze die eine andere KI lustig findet?
Wahrscheinlich über Menschen, die KI kritisch sehen, aber nicht merken, dass sie sich seit geraumer Zeit mit einer KI unterhalten 😉
Ich empfehle die Lektüre der Werke von Stanislaw Lem. Der hat sich schon vor Jahrzehnten die Abgründe im Zusammenleben von Menschen und Maschinen ausgelotet.
Forenspam lohnt sich für einen Forenspammer nur, wenn er es tatsächlich schafft, Links auf seine Seiten zu lancieren (die typischerweise nichts mit dem Thema des Forums oder Beitrags zu tun haben). Wenn eine hinreichend – künstlich oder natürlich – intelligente Moderation nur noch solche Forenspam-Kommentare durchlässt, die zum Beitrag passen, die Diskussion inhaltlich weiterbringen, angemessen höflich und verbindlich formuliert sind und nicht zu Werbezwecken auf themenfremden Kram verweisen, dann sind die Forenspammer entweder nicht mehr von “ernsthaften” Teilnehmer:inne:n zu unterscheiden und werden von den menschlichen Mit-Diskutanten wahrscheinlich sogar als Bereicherung empfunden (aber verdienen nichts mehr mit Spam), oder aber sie müssen sich eine andere Wirkungsstätte suchen, wo sie noch mit Werbung kommentieren dürfen. In beiden Fällen hat sich das Problem – jedenfalls für das betreffende Forum – in der Tat erledigt. (Als Nebeneffekt dürfte sich auch die Qualität der Kommentare verbessern, die von Menschen eingereicht werden – oder es gibt gar keine Kommentare mehr, weil die Leserschaft zu bequem ist, wirklich gute zu schreiben.)
Im Prinzip stimme ich Dir zu. Aber.
Forenspam wird automatisiert verteilt. 99,9% des Foren- und Kommentarspams wird bereits von Algorithmen abgefangen. Das sieht kein Mod mehr. Es gibt Foren, in denen sind noch automatische Anmeldungen möglich. (Zum Beispiel, weil noch google-Captcha verwendet werden, die längst geknackt sind.) In denen sind dann tatsächlich bereits jetzt Ki-Bots unterwegs, die sauber formulierte, sachliche Texte posten, die sogar zum Thema passen und für Anfänger unter Umständen sogar hilfreich sein können. Sie liegen im Niveau über dem, was normalerweise in Foren gepostet wird und unterscheiden sich nur durch einen teilweise verborgenen Spamlink. Und das ist eben das Problem: Wenn man das Niveau oberhalb der KI ansiedeln will, muss man in manchen Foren locker zwei Drittel der Forenten stummschalten. Das machen die nicht mit. Der Mod muss also tatsächlich jeden Text genau lesen und eventuelle Links überprüfen. Oder jeden User per Hand einzeln überprüfen und freischalten.
Eben. Von nichts kommt halt nichts.
Übrigens: “Verborgene” Spam-Links bringen den Spammern präzise nichts, da ein gut gebautes Forum Links in Kommentaren (soll heißen, die, die alle andere Prüfungen überstehen) sowieso mit “rel=”nofollow”” kennzeichnet, damit sie von Google & Co. nicht beachtet werden. Ein Link, das niemand sehen kann und das auch den Page-Rank der Zielseite nicht erhöht, ist für einen Foren-Spammer völlig wertlos.
Jaja, die gut gebauten Foren…. 😉
Automatisierter Spam kuckt leider nicht, ob das was bringt. Sonst hätte ich hier nicht jeden Tag x Linklisten in den Spamkommentaren. Viele davon in kyrillisch oder arabisch. Im Oly-Forum hatte ich eine Zeitlang Helden von CEWE und Saal, die per Hand gespammt haben. Damals noch ganz ohne KI. Das hat ein bisschen gedauert, bis ich denen draufgekommen bin. Aber wenn man vom Firmenrechner aus spammt und seine IP nicht versteckt, dann ist das halt ein bisschen doof.
Aber genau dafür gibt es doch die automatischen Vorprüfungen: Alles, was nicht deutschsprachig ist – raus. Alles, was mehr als n HTML-A-Elemente enthält – raus. Alles, wo der Text in den href-Attributen von HTML-A-Elementen mehr als x% des Gesamttextes ausmacht – raus. Alles, was Links auf IP-Adressen oder auf Hostnamen in der Spamhaus-DBL enthält – raus. Alles, was von IP-Adressen in Kasachstan, Bangladesch usw. aus eingeschickt wird – raus (oder zumindest mit Minuspunkten versehen). Jeder Account, der x-mal hintereinander ein “raus” bekommen hat, wird automatisch gelöscht. Neue Accounts dürfen erst nach y Tagen kommentieren. Und so weiter.
Posten in einem Forum ist ein Privileg, kein Grundrecht.
Was ist Forenspam?
Das, was Du gerade hier versuchst. Und schon bist Du auf der Sperrliste.