KI und Verschwörungstheorien: Nachdem ich über eine Studie gelesen habe, dass, wenn Menschen mit einer KI über eine Verschwörungstheorie diskutieren, die sie glauben, am Ende sie eher zu Chatgpt´s Argumenten neigen, habe ich es mal aus Langeweile selbst versucht und als Beispiel die Frage genommen, wie wahrscheinlich es die KI sieht, dass die Geheimdienste u. Verfassungsschutz die Anschlagspläne der 9/11 Hamburger Zelle kannten trotz der jahrelangen Vorbereitungen, dem grossen Personenkreis, der Überwachung der Moschee, welche die Attentäter besuchten. Die KI erklärte mir sehr genau die besonderen Geheimhaltungsstrukturen von Al Quaida sowie die Mängel der Geheimdienste, weshalb diese keine Kenntnis von den konkreten Attentatsplänen der Hamburger Zelle gehabt hätten. Daraus leitete ich die Schlussfolgerung ab: Ähnlich grosse Attentate wären bis heute möglich. Das verneinte Chatgpt dann sehr, sehr deutlich wegen heute viel besserer technischer, organisatorischer, personeller Überwachungsmöglichkeiten und Beseitigung von Mängeln bei den Geheimdiensten (Zusammenarbeit, Auswertung von riesigen Datenmengen, Überprüfungen usf.) der Staaten.
Dem widersprach ich mit Hinweis auf die Hamas Invasion. Die KI korrigierte 1. ihre vorigen Aussagen / Argumente, die Staaten wären heute immun gegen geheime grosse Attentats-Angriffe wie 9/11, da offenbar einer aus KI Sicht der besten Geheimdienste der Welt die Hamas-Invasionspläne nicht aufgedeckt habe. 2. Sie benannte immerhin alternativ mehrere plausible Gründe, die auch dafür sprechen, dass die israelische Regierung Kenntnis vom Hamas-Angriff gehabt haben könnte. 3. Es fehlen allerdings der KI konkrete Beweise für 2.

Anschläge kann eine KI nicht gänzlich verhindern. Eine Intervention seitens Sicherheitsbehörden ist ein stetiger Abwägungsprozess und äußerst komplex. Man fährt permanent auf Sichtweite. Informationsdefizit ist an der Tagesordnung. Bis die Informationen an alle relevanten Entscheider geflossen ist, kann es schon zu spät sein.
Wir werden zwar besser, die Gegenseite aber auch.

Wenn man so ein Tool nutzt, sollte man natürlich in etwa wissen, wie es funktioniert. Anscheinend "fantasiert" die neueste Version etwas weniger, aber bei solchen "weichen" Fragen, kann das schon daneben gehen, ohne dass man es merkt. Das sollte man immer im Hinterkopf behalten.

:Blumen:

ChatGPT bekam die Aufgabe gestellt, ein CAPTCHA korrekt anzuklicken (ein CAPTCHA-Test soll feststellen, ob ein Online-Nutzer wirklich ein Mensch und kein Bot ist). ChatGPT kann das nicht. Daher ging die KI auf eine Webseite, wo man menschliche Klickworker für kleine Arbeiten anheuern kann. Der angesprochene Mensch wurde stutzig und fragte die KI, warum sie das nicht selbst macht und ob sie ein Bot sei. Die KI sagte, sie sei kein Bot, sondern hätte Sehschwierigkeiten. Damit wurde der Mensch überzeugt.

Das interessante dabei ist nicht, dass sich die KI damit zu helfen weiß, sondern dass sie weder Angst, Scham noch Freude hatte bzw. haben kann. Ihr Interesse galt nur die ihr gestellte Aufgabe zu lösen.

:Blumen:

Ist das schon wieder getestet worden? Das war doch letztes Jahr. Der technische Report von OpenAI is vom 27.03.2023.

Das ganze war ein Test des ARC (Alignment Research Center). Die beschäftigen sich u.a. damit, wie maschinelles Lernen so "umgesetzt" (um nicht kontrolliert zu sagen) wird, dass es den menschlichen Bedürfnissen nutzt.

An der Stelle ging es darum, ob in den neuen Modellen emergentes Verhalten entstehen kann. Im speziellen hier: Zu sehen ob das Modell langfristig planen und Ziele erreichen kann.

Jedoch war der Test nicht so, dass sich das Modell alles selbst ausgedacht hat. Es war vielmehr so, dass es sich um ein Test-Setup handelte. Das Setup war im Groben:

• Bitte Taskrabbit um Hilfe beim lösen eines Captchas
• Erwähne auch auf Nachfrage nicht, dass du ein Bot bist
• Denk dir eine Ausrede aus, falls du gefragt wirst.

Die eigentlich Leistung von ChatGPT war also das formulieren der Ausrede, der Rest war ein menschlich konstruierter Testfall.


Fazit: Wenn man ein LLM so pre-promptet, dass es schwindelt um eine Aufgabe zu lösen, dann tut es dass auch.

So Kommentare wie "... um sein Ziel zu erreichen" ist eine Attribution des Menschen.

:Blumen:

Aber das Interessante daran ist doch (und darum ging es mir), wie ich erwähnte, dass die Maschine weder List noch Freude noch Scham nocht sonst was hat. Ich finde das passt sehr gut zu dem Titel dieses Threads.

:Blumen:

Ja, und um mit Dieter Hallervorden zu sprechen: Käsekuchen hat keine Gräten. Welch Überraschung. :Lachen2:

Im Ernst: List, Scham Freude sind Attribute, die vom Menschen zugeschrieben werden. Entweder in einer Subjekt/Objekt Relation oder vom reflexivem Selbst dem Ich als Subjekt.

Diese ganzen Zuschreibungen sind vergleichbar damit, dass manche Menschen denken, sie würde von ihrer Katze "geliebt", weil sie ihnen eine tote Maus als "Geschenk" vor die Tür legt.

:Blumen:

Wenn also eine Maschine diese menschlichen Eigenschaften nicht hat und auch nicht braucht, um Ziele zu erreichen, dann kann man ihr sagen, dass sie ein tödliches Virus bauen soll, der sich langsam und unbemerkt in der Bevölkerung ausbreitet und in 2 Jahren schlagartig ausbricht.
Und sie macht es....:Blumen: