Vollständige Version anzeigen : Kann, soll oder darf die künstliche Intelligenz das menschliche Denken substituieren?
Helmut S
19.02.2025, 10:02
Um z.B. irgendwann mal eine komplizierte partielle DGL lösen zu können, gehst du viele Jahre in die Schule, hast an der Uni das entsprechende Fach und möglicherweise packst du es dann. Umgangssprachlich gehörst du dann zu den intelligenten Zeitgenossen. Und das dauert Jahre, bis du so weit bist.
Eine KI macht das im Handumdrehen, erklärt noch dabei dies und das, wenn du willst. In beliebiger Sprache. Tools wie https://app.synthesia.io lesen dir das noch vor.
Das ist ganz klar Intelligenz.
Ich meine, du vermischt Ausbildung mit Intelligenz. Du hast m.E. zwar indirekt einen Punkt, da es ja wohl offensichtlich eine starke Korrelation zwischen "Intelligenz" und Ausbildungserfolg gibt. Das verstehe ich.
Aber gerade für das konkrete Beispiel der partiellen DGL gibt es ja sogar rein nummerische Lösungsverfahren - KI ist dazu nicht nütig. Hier sind wir m.E. 100%ig bei dem was Arne schreib:
"Es ist aber vielleicht nur die Intelligenz der Menschen, die den Rechner für genau diese Aufgabe programmiert haben. Er ist dann in dem Sinne intelligent, wie ein Rechenschieber intelligent ist." Hier stimme ich völlig zu.
Ein m.E. viel besseres Beispiel für Intelligenz und den Vergleich zwischen KI und MI (menschlicher Intelligenz) ist m.E. Autofahren/Führerschein.
Wir sehen heute autonome Fahrzeuge (z.B. Waymo) die KI-Technologien nutzen. Das funktioniert nur in entsprechenden Umgebungen gut und selbst dort wird auch mal "endlos" im Kreisverkehr gefahren. Wenn man so ein Fahrzeug nach Mumbai bringt, dann würde ich lappidar sagen: Das war's dann. :Lachen2:
Einen 18 jährigen sitzt du mit nem Fahrlehrer um die 20h in ein Fahrschulauto, lässt ihn Prüfungen machen und er findet sich im wesentlichen überall auf der Welt zurecht. In Mumbai wird er noch n paar zusätzliche Stunden benötigen, dann war es das. Eine Ausbildung zur Lösung von part. DGL benötigt dieser Mensch nicht, wahrscheinlich benötigt er noch nicht mal irgendeinen Schulabschluss, wahrscheinlich reicht lesen und schreiben.
:Blumen:
Helmut S
19.02.2025, 10:23
Ich habe kürzlich so etwas programmiert:…
Du müsstest nochmal genau erklären, was du da getan hast. Ich vermute nämlich, dass das nicht so ist/war wie man es aus dem Text versteht. Ich meine das nicht persönlich oder böse oder unterstellend oder so. Ich will nur begrifflich klar sein.
LG :Blumen:
Ein m.E. viel besseres Beispiel für Intelligenz und den Vergleich zwischen KI und MI (menschlicher Intelligenz) ist m.E. Autofahren/Führerschein.
Gibt es nicht in der KI auch fundamental unterschiedliche Konzepte? Ein Freund (Informatiker u. Psychologe) von mir hat vor 35 Jahren an der Hochschule in einem KI Projekt an der UNI mitgearbeitet, zusammen mit Linguistiker und Logiker. Sie haben das Gegenteil von LLM implentiert, damals im Wissen darum, dass wahrscheinlich, wenn es schnellere und ausreichende Hardware gibt, ein Ansatz wie LLM besser funktionieren wird.
Ich denke als Psychologe, die MI (menschliche Intelligenz) umfasst quasi verschiediene Stufen oder Formen des Lernens bis hin zum abstrakten Denken und Logik. Geht es um Leistung, kommt dann noch der Faktor Zeit dazu. Dann gibt es, worauf Arne aufmerksam machte, auch Gesetze evolutionärer Entwicklungen, in die wir Intelligenz proizieren könnten. Und neben der MI haben Säugetiere intelligente Fähigkeiten, welche der Mensch nicht besitzt. (z.B. ein Drogenspürhund). Ebenfalls kann ich mir vorstellen, dass manche Menschen in Logik höchst (Spitze) intelligent sind, aber bei der praktischen Führerscheinprüfungen durchfallen.
Helmut S
19.02.2025, 10:55
Gibt es nicht in der KI auch fundamental unterschiedliche Konzepte? Ein Freund (Informatiker u. Psychologe) von mir hat vor 35 Jahren an der Hochschule in einem KI Projekt an der UNI mitgearbeitet, zusammen mit Linguistiker und Logiker.
Ja. Absolut. Gerade damals hat man versucht Sprache zu "verstehen" und logische Schlüsse zu ziehen. Es gab sogar spezielle Programmiersprachen (Prolog, Lisp), die man in den 60/70ern entwickelte um Zusammenhänge zu formalisieren. Linguistiker waren damals u.a. die Leute, die nach Logik gefragt wurden in dem Thema. Z.B. Naom Chomskys Beiträge zu bestimmten Grammatikformen sind an Wichtigkeit nicht zu überschätzen. Das hat alles jedoch nicht bzw. nicht so gut funktioniert bzw. zum Ziel geführt.
Aktuelle LLMs verzichten darauf irgendetwas zu verstehen. Dafür würden sie gerne wissen, was alles jemals überall auf der Welt gesagt und geschrieben wurde um dann einfach mit hoher Wahrscheinlichkeit zu schätzen, was man zu einem Thema absondern könnte. Manche Systeme versuchen etwas "geschickter" zu schätzen als andere, aber das Ergebnis ist bekannt.
Natürlich gibt es jenseits der generativen System noch sowas wie Expertensysteme, die u.a. auf Regelsystemen beruhen oder Theorembeweiser oder logikbasierte Systeme, die auf sowas wie Prädikatenlogik etc. setzen.
:Blumen:
Ja. Absolut.....
Apropos Lisp: Ich verwende noch heute den Emacs als Editor. :Lachen2:
Gibt es nicht in der KI auch fundamental unterschiedliche Konzepte? .
Ja gibt es.
Ich hab da mal die KI gefragt :Cheese:
Welche fundamental unterschiedliche Konzepte gibt es in der KI Forschung.
ChatGPT:
Die KI-Forschung ist breit gefächert und umfasst verschiedene fundamentale Konzepte, die sich in ihrer Methodik und ihrem Ziel stark unterscheiden. Hier sind die wichtigsten Ansätze:
1. Symbolische KI (Good Old-Fashioned AI, GOFAI)
Kernidee: Repräsentation von Wissen durch Regeln, Logik und Symbole.
Methoden: Expertensysteme, Wissensgraphen, Logik-Programmierung (z. B. Prolog).
Vorteile: Interpretierbar, erklärbar, gut für regelbasierte Systeme.
Nachteile: Kaum lernfähig, schwierig skalierbar, problematisch bei unscharfen oder unstrukturierten Daten.
2. Konnektionistische KI (Neuro-Inspirierte Systeme)
Kernidee: Simulation neuronaler Netze, die biologischen Gehirnen nachempfunden sind.
Methoden: Künstliche neuronale Netze (KNN), Deep Learning, Reinforcement Learning.
Vorteile: Hohe Lernfähigkeit, gut für Mustererkennung und komplexe Datenverarbeitung.
Nachteile: Erklärbarkeit (Black-Box-Problem), hoher Rechenaufwand, Datenhungrigkeit.
3. Evolutionsbasierte KI (Evolutionäre Algorithmen & Genetische Algorithmen)
Kernidee: Nutzung von Mechanismen der natürlichen Evolution (Mutation, Selektion, Rekombination).
Methoden: Genetische Algorithmen, Evolutionsstrategien, Neuroevolution.
Vorteile: Gut für Optimierungsprobleme, explorativ, kann kreative Lösungen finden.
Nachteile: Rechenaufwendig, oft ineffizient für deterministische Probleme.
4. Bayessche & Probabilistische KI
Kernidee: Nutzung von Wahrscheinlichkeitsmodellen zur Entscheidungsfindung unter Unsicherheit.
Methoden: Bayes’sche Netze, Hidden Markov Models, Monte-Carlo-Methoden.
Vorteile: Mathematisch fundiert, gut für Unsicherheitsmodellierung.
Nachteile: Oft hohe Rechenkosten, benötigt präzise Wahrscheinlichkeitsverteilungen.
5. Hybrid-KI (Kombination mehrerer Ansätze)
Kernidee: Kombination von symbolischen und neuronalen Methoden für bessere Generalisierbarkeit.
Methoden: Neuro-symbolische KI, hybride neuronale Netzwerke mit logischen Constraints.
Vorteile: Kann die Stärken beider Welten kombinieren (Interpretierbarkeit & Lernfähigkeit).
Nachteile: Erfordert komplexe Architektur und Integration.
Diese unterschiedlichen Konzepte werden je nach Anwendungsfall kombiniert oder weiterentwickelt. Gibt es eine spezifische Richtung, die dich besonders interessiert?
Ich meine, du vermischt Ausbildung mit Intelligenz. Du hast m.E. zwar indirekt einen Punkt, da es ja wohl offensichtlich eine starke Korrelation zwischen "Intelligenz" und Ausbildungserfolg gibt. Das verstehe ich.
Aber gerade für das konkrete Beispiel der partiellen DGL gibt es ja sogar rein nummerische Lösungsverfahren - KI ist dazu nicht nütig. Hier sind wir m.E. 100%ig bei dem was Arne schreib:
Hier stimme ich völlig zu.
Ein m.E. viel besseres Beispiel für Intelligenz und den Vergleich zwischen KI und MI (menschlicher Intelligenz) ist m.E. Autofahren/Führerschein.
Wir sehen heute autonome Fahrzeuge (z.B. Waymo) die KI-Technologien nutzen. Das funktioniert nur in entsprechenden Umgebungen gut und selbst dort wird auch mal "endlos" im Kreisverkehr gefahren. Wenn man so ein Fahrzeug nach Mumbai bringt, dann würde ich lappidar sagen: Das war's dann. :Lachen2:
Einen 18 jährigen sitzt du mit nem Fahrlehrer um die 20h in ein Fahrschulauto, lässt ihn Prüfungen machen und er findet sich im wesentlichen überall auf der Welt zurecht. In Mumbai wird er noch n paar zusätzliche Stunden benötigen, dann war es das. Eine Ausbildung zur Lösung von part. DGL benötigt dieser Mensch nicht, wahrscheinlich benötigt er noch nicht mal irgendeinen Schulabschluss, wahrscheinlich reicht lesen und schreiben.
:Blumen:
Den Zusammenhang verstehe ich nicht. Mir ging es darum, dass eine gewisse Grundintelligenz nötig ist, um eine DGL zu lösen.
Natürlich kann auch ein Siebtklässler das tun, indem er irgendwas in eine App eingibt. Es gibt auch Apps, die Apps bedienen. Nach deiner Logik gäb es bei diesem Thema ja gar keine Intelligenz.
Wenn eine KI eine komplizierte DGL löst, was normalerweise nur ein sehr guter Student kann, ist die KI selbstverständlich intelligent. Was denn sonst? Es ist halt maschinelle Intelligenz und keine menschliche, daher auch der Name mschinelle Intelligenz. Auch ein Student wendet letztendlich nur Verfahren an, die er vorher gelernt hat. Er erfindet nichts neues. Maschinelle Intelligenz != menschliche Intelligenz, Intelligenz ist es aber. Natürlich ist die Maschine aus menschlicher Sicht dumm, aber eben nur aus unserer Sicht.
:Blumen:
Helmut S
19.02.2025, 12:26
Wenn eine KI eine komplizierte DGL löst, was normalerweise nur ein sehr guter Student kann, ist die KI selbstverständlich intelligent. Was denn sonst
Ein Computerprogramm ohne kognitive Fähigkeiten vielleicht? ;)
Es ist halt maschinelle Intelligenz und keine menschliche, daher auch der Name mschinelle Intelligenz. Auch ein Student wendet letztendlich nur Verfahren an, die er vorher gelernt hat. Er erfindet nichts neues. Maschinelle Intelligenz != menschliche Intelligenz, Intelligenz ist es aber. Natürlich ist die Maschine aus menschlicher Sicht dumm, aber eben nur aus unserer Sicht.
:
Wenn wir die Unterscheidung durch die Prädikate maschinell und menschlich machen und es gilt maschinelle Intelligenz != menschliche Intelligenz, dann gehe ich da mit - auch wenn das sprachlich nicht mein bevorzugter Ansatz ist.
Arne postete Eingangs das hier:
[...] wie intelligent Computer in den nächsten Jahrzehnten werden können. Und was das für uns bedeuten kann.[...]
Und ebenso wenig deckelt die menschliche Intelligenz die Intelligenz von Computern. Letztere könnten künftig die kognitiven Fähigkeiten des Menschen astronomisch übersteigen.
Aus der Fragestellung heraus war es mir wichtig den Begriff der Intelligenz abzugrenzen. Wenn wir das durch die Prädikate machen wollen, ok. Aus dem von dir festgestellten Sätzen
1) maschinelle Intelligenz ist Intelligenz
2) menschliche Intelligenz ist Intelligenz
3) maschinelle Intelligenz != menschliche Intelligenz
und Arnes Beitrag stelle ich mir folgende Fragen:
a) Wird menschliche Intelligenz in Zukunft noch "gebraucht"?
b) Wieso sollte menschliche Intelligenz überhaupt maschinelle Intelligenz deckeln, wenn doch 3) gilt und ggf. sogar eine "intelligente Evolution" (Falter) existiert?
c) Folgt aus b) zwangsläufig Posthumanismus?
d) Sind kognitive Fähigkeiten Teil maschineller Intelligenz und ist das überhaupt nötig um diejenigen des Menschen zu übersteigen?
:Blumen:
Klugschnacker
19.02.2025, 12:39
Ich weiß nicht, ob folgender Gedanke hilfreich ist: Wie würden ein Mensch und ein Computer ein Passwort knacken?
Der Computer würde vielleicht 10.000 Buchstabenkombinationen pro Sekunde ausprobieren. Ein Mensch würde sich überlegen, wann die Freundin des Passwort-Inhabers Geburtstag hat und dann die Kombination 18091979 probieren. Oder in der Schreibtischschublade nach einem Spickzettel schauen.
Könnte man urteilen, die Vorgehensweise des Menschen sei intelligent, aber die des Computers nicht? Beide verfolgen eine Stratgie, die zum Erfolg führen kann.
Nehmen wir weiter an, der Computer sei auf das Knacken von Passwörtern trainiert worden. Er hat gelernt, dass Passwörter oft mit dem Geburtstag von Anghörigen identisch sind. Diese sind ihm bekannt. Er prüft sie stets zuerst. Danach geht er die Namen aller leiblichen Kinder durch und prüft Kombinationen dieser Namen.
Würden wir den Computer jetzt als intelligent bezeichnen? Oder ist lediglich der von Menschen erdachte Trainingsprozess des Computers intelligent?
und Arnes Beitrag stelle ich mir folgende Fragen:
a) Wird menschliche Intelligenz in Zukunft noch "gebraucht"?
Um die menschlichen Grundbedürfnisse wie Essen und Wohnen zufriedenzustellen, vielleicht nicht.
Was wir dann damit machen, ist unser Ding. Das ist ja auch Freiheit. :liebe053:
Klugschnacker
19.02.2025, 12:49
Wieso sollte menschliche Intelligenz überhaupt maschinelle Intelligenz deckeln, ...
Weil wir das in der öffentlichen Debatte oftmals vorauszusetzen scheinen: "Was passiert, wenn Computer so schlau werden wie wir?"
Wir sollen aber fragen, was passiert, wenn Computer eine Millarde mal schlauer werden als wir. Vielleicht sind Menschen schon bald aus Sicht eines Computers so dumm, dass er es im Prozessor nicht aushält.
....
Nehmen wir weiter an, der Computer sei auf das Knacken von Passwörtern trainiert worden. Er hat gelernt, dass Passwörter oft mit dem Geburtstag von Anghörigen identisch sind. Diese sind ihm bekannt. Er prüft sie stets zuerst. Danach geht er die Namen aller leiblichen Kinder durch und prüft Kombinationen dieser Namen.
Würden wir den Computer jetzt als intelligent bezeichnen? Oder ist lediglich der von Menschen erdachte Trainingsprozess des Computers intelligent?
Aber du hast doch irgendwann auch erst gelernt, dass das Passwort von der Freundin verwendet werden könnte. Vielleicht von deinem Kumpel, der es dir gesagt hat. Der Computer lernt genau so, nur dass es ihm halt nicht der Kumpel ins Ohr flüstert. Er entwickelt selbständig Strategien. Er probiert aus, was ihm erfolgversprechend erscheint. Ist er mit der Freundin erfolgreich, weiß er das und merkt es sich.
Ich sehe keinen Unterschied.
Vielleicht sind Menschen schon bald aus Sicht eines Computers so dumm, dass er es im Prozessor nicht aushält.
Dazu müsste der Computer erstmal ein Bewusstsein erlangen.
Klugschnacker
19.02.2025, 14:09
Dazu müsste der Computer erstmal ein Bewusstsein erlangen.
Ich weiß, was Du meinst. Aber ein Computer kann uns Menschen auch in einer Weise dumm "finden", die kein Bewusstsein erfordert. Wir wären für ihn einfach keine gute Quelle für Informationen. Genau so, wie wir Menschen bei komplexen Problemen kein zehnjähriges Kind um Auskunft bitten würden.
Nehmen wir an, eine KI bekommt die Aufgabe gestellt, die Auswirkungen bestimmer Finanztransaktionen auf den DAX vorauszuberechnen. Es gibt zehntausend davon pro Stunde. Die KI kann entweder andere Computer befragen, die auf solche Dinge spezialisiert sind, oder Menschen. Die Antwort soll in drei Stunden vorliegen. Kurz, die KI würde lernen, dass Menschen auf vielen Wissensgebieten entweder dumm sind wie hundert Meter Feldweg, oder schlicht zu langsam. Was nützt eine Antwort, die zu spät kommt?
In Ansätzen haben wir so etwas bei Assistenzsystemen im Auto (vermutlich gibt es aber bessere Beispiele). Ein solches Computersystem entscheidet sehr viel schneller über eine notwendige Vollbremsung als ein Mensch, der aus Sicht des Computers mit nervtötender Langsamkeit hinter dem Lenkrad herumtapst wie ein Taucher auf dem Meeresgrund.
Ich weiß, was Du meinst. Aber ein Computer kann uns Menschen auch in einer Weise dumm "finden", die kein Bewusstsein erfordert. Wir wären für ihn einfach keine gute Quelle für Informationen. Genau so, wie wir Menschen bei komplexen Problemen kein zehnjähriges Kind um Auskunft bitten würden.
Nehmen wir an, eine KI bekommt die Aufgabe gestellt, die Auswirkungen bestimmer Finanztransaktionen auf den DAX vorauszuberechnen. Es gibt zehntausend davon pro Stunde. Die KI kann entweder andere Computer befragen, die auf solche Dinge spezialisiert sind, oder Menschen. Die Antwort soll in drei Stunden vorliegen. Kurz, die KI würde lernen, dass Menschen auf vielen Wissensgebieten entweder dumm sind wie hundert Meter Feldweg, oder schlicht zu langsam. Was nützt eine Antwort, die zu spät kommt?
In Ansätzen haben wir so etwas bei Assistenzsystemen im Auto (vermutlich gibt es aber bessere Beispiele). Ein solches Computersystem entscheidet sehr viel schneller über eine notwendige Vollbremsung als ein Mensch, der aus Sicht des Computers mit nervtötender Langsamkeit hinter dem Lenkrad herumtapst wie ein Taucher auf dem Meeresgrund.
Solche Dinge passieren ja schon in Teilen.
Das eigentlich spannende wird sein: Was wird das in einer Gesellschaft bewirken, wenn diese wirklich checkt, dass Computer in weiten Teilen haushoch überlegen sind?
Schüler werden sich z.B. ernsthaft fragen, warum sie überhaupt noch zur Schule gehen, um sich Wissen anzueignen.
Schwarzfahrer
19.02.2025, 14:42
Schüler werden sich z.B. ernsthaft fragen, warum sie überhaupt noch zur Schule gehen, um sich Wissen anzueignen.Haben sie das nicht schon immer gefragt? :Cheese:
Im Ernst: fällt Dir wirklich nichts ein, womit Du Menschen zum Lernen motivieren könntest? KI ist ein tolles Werkzeug, das Menschen Arbeit und Zeit erspart, aber was kann sie ohne fähige und aktive Menschen bewirken? Wer versorgt die KI mit Strom, mit Hardware, mit Endgeräten? Wer baut diese, mit welchem Know-How? Wer produziert Lebensmittel, baut Häuser, Rennräder, Katzenklos? Wer schneidet Dir die Haare, wer pflegt alte und kranke Menschen? Ich sehe immer noch immens viele Bereiche, in denen KI den Menschen nicht ersetzt, bestenfalls ihm zur Hand geht. Oder hältst Du Endzeit-Visionen a la Terminator für realistisch, in dem die Maschine die Weltherrschaft übernimmt und die Menschen eliminiert?
Helmut S
19.02.2025, 15:45
Ich weiß nicht, ob folgender Gedanke hilfreich ist: Wie würden ein Mensch und ein Computer ein Passwort knacken?
Ich habe das beim Notencomputer der Schule (es gab noch keine Netzwerke) damals so gemacht, dass ich (damals noch in Assembler) einen Trojaner (Keylogger) geschrieben und als deutschen Tastaturtreiber (keyb gr) getarnt habe. Im Anschluss habe ich eine organisatorische Sicherheitslücke und "menschliches Versagen" ausgenutzt und das Ding in einem kurzen Zeitfenster installiert, in dem ich alleine in dem Raum mit dem Computer war. Ob das intelligent war, müssen andere beurteilen. :Lachen2:
Genug der Anekdoten :cool:
Aber du hast doch irgendwann auch erst gelernt, dass das Passwort von der Freundin verwendet werden könnte. Vielleicht von deinem Kumpel, der es dir gesagt hat. Der Computer lernt genau so, nur dass es ihm halt nicht der Kumpel ins Ohr flüstert. Er entwickelt selbständig Strategien. Er probiert aus, was ihm erfolgversprechend erscheint. Ist er mit der Freundin erfolgreich, weiß er das und merkt es sich.
Ich sehe keinen Unterschied.
Ich gewinne den Eindruck, dass du denkst, dass der Mensch eine "Biochemiemaschine" sei, der man mit bestimmten, für die Maschine geeigneten "Algorithmen" etwas beibringen kann.
Manche Menschen haben ein performanteren "Rechner", ein hochwertigeres Betriebssystem und bessere Software an Board (vulgo sind intelligenter) als andere. Diese können dann part. DLG lösen, wenn man sie entsprechend "trainiert" vulgo (ausbildet) während andere nur in Mumbai Autofahren können :Cheese:
Du siehst das bei künstlichen Intelligenzen ebenso. Lediglich die Funktionsweise der Maschine ist (im Moment noch) eine andre und der Trainingsprozess unterscheidet sich halt auch. Am Ende ist der "Maschinenbegriff" eine Oberkategorie von Mensch und Computer.
Um es kurz zu sagen: Ich mag dies Bild nicht. :Blumen:
Ich halte folgendes für den Menschen für wichtig: Er sollte sich im klaren sein, dass er Teil der Natur ist. Diese Erkenntnis scheint mir für Handlungen im Thema Umwelt-/Klimaschutz oder Umgang mit Tieren wichtig.
Ebenso halte ich es für wichtig, dass der Mensch sich im klaren darüber ist, dass er in einem Verhältnis zur KI (wie zur Technik überhaupt) steht und auch in welchem Verhältnis konkret. Die bloße Existenz und noch mehr die Verwendung von Technik wirkt auch auf das Selbstverständnis des Menschen zurück - z.B. in subjektiven Ängsten vor der Zukunft, vor Arbeitsplatzverlust, ... you name it.
Da ich der Meinung bin, dass dieses Selbstverständnis des Menschen gegenüber KI insbesondere auch durch Sprache gebildet wird, gefällt mir die Attributierung von Intelligenz mit künstlich/menschlich nicht. Ich bin der Meinung, wir wenden unsere Adjektive/Verben viel zu schnell auf die Maschine an.
Denn wegen Fragen wie dieser ...
Schüler werden sich z.B. ernsthaft fragen, warum sie überhaupt noch zur Schule gehen, um sich Wissen anzueignen.
... scheint es mir nötig, dieses Thema viel Sorgfältiger zu behandeln, insbesondere Fragen wie: Wie sieht denn der Platz des Menschen (und damit sein Verhältnis zur KI) in der Zukunft aus? Worin liegt der Sinn meines Lebens, den ich ihm selbst geben kann? Oder ist es vielmehr so, dass der freie, selbstbestimmte Mensch plötzlich zum "Unterlegenen" der KI wird? Wird es unsere Gesellschaft zerreißen, weil wir im Sinne der Maschinenstürmer zum KI-Stürmer werden? Sind wir plötzlich "Schädling" und es wäre gut, z.B. die Führung des Staates einer KI zu übergeben, denn die ist dem Menschen ja auch moralisch Überlegen - sie muss ja nur (vorzugsweise von Elon Musk ;) ) trainiert werden?
:Blumen:
Helmut S
19.02.2025, 16:02
Ergänzend: Was is denn eigentlich mit Verantwortung? Ich meine, wenn wir Systeme entwickeln, die "intelligenter" (was auch immer das dann ganz genau heißt) sind als wir, übernehmen diese Systeme dann auch Verantwortung für sich selbst?
Was hat das für Folgen für die Normensetzung (moralisch und juristisch) und was ist mit dem Menschen, wenn er doch nur eine Unterkategorie/Spezialisierung des Begriffes Maschine ist? Widerspricht das dann der Objektformel im GG / der Menschenwürde?
Darf man dann so eine Maschine einfach abschalten (aka töten?)
Freunde des Ausdauerdreikampfs: Wir dürfen das nicht einfach so passieren lassen ("Da kann man nichts machen, dass kommt sowieso!"), die feuchten Phantasien dieser Bostroms und Kurzweils aus dem Silicon Valley Realität werden lassen.
:Blumen:
Helmut S
24.02.2025, 21:01
Hier gibt es mal wieder was zum Thema Softwareentwicklung mit KI: https://t3n.de/news/gravierende-schwaechen-gpt-4o-claude-schlecht-programmieren-1674887/
Deckt sich völlig mit meinen weiter vorne geschilderten Erfahrungen.
:Blumen:
Ich hatte Chat GPT für das tägliche Connections-Rätsel der NY Times versucht. Da steckt keinerlei Kreativität drin, muss ich sagen.
Musiker gegen KI-Nutzung:
Kate Bush und Cat Stevens protestieren mit stillem Album (https://www.spiegel.de/kultur/musik/kate-bush-und-cat-stevens-protestieren-mit-stillem-album-gegen-ki-nutzung-a-0aca7333-fa74-44c7-b6a6-f3082cbc93de)
Wortwörtlich ein gefundenes Fressen für die Maschinen ;)
Estampie
13.03.2025, 13:35
hier mal ein einfaches Beispiel für interessante Aussagen von KI und vor allem welche Schlussfolgerungen KI aus ihren eingen Aussagen zieht:
Frage: Bot, was ist die Mindestgeschwindigkeit auf der Radrennbahn in Bielefeld?
einige Fragen nach Kurvenradius, mathematische Formeln... etc
Mit einem Kurvenradius von 30 Metern ergibt sich eine Mindestgeschwindigkeit von ca. 62,8 km/h, um in den Steilkurven der Bielefelder Radrennbahn nicht abzurutschen. 🚴*♂️
Das ist ziemlich schnell! Deshalb sieht man in den Kurven meistens nur Fahrer, die mit hohem Tempo unterwegs sind, während langsamere Fahrer sich eher in den flacheren Bereichen aufhalten.
:Lachanfall:
erst nach Hinweisen auf die vorhandene Reibung ging es dann. Aber interessant ist hierbei ja, dass KI aus der eigenen Aussage folgert, dass es Bereiche für langsamfahrer und Schnellfahrer gibt und das als Wahrheit verkündet.
Entwickler kennen das Tool schon, aber ich erwähne es für Interessierte:
Claude Code ist ein agentenbasiertes Programmiertool, das in einem Terminal agiert, die Codebasis versteht und durch natürlichsprachliche Befehle beim Programmieren in Echtzeit hilft.
Macht Spaß :Blumen:
Claude Code (https://docs.anthropic.com/en/docs/agents-and-tools/claude-code/overview)
Trimichi
11.04.2025, 12:38
Aloha und Moin Moin, Moinsen, Mahlzeit und Gruess Gott,
tja, je länger ich über Trans- und Posthumanusmus nachdenke desto transparenter werden die Überlegungen und Abwaegungen. Haben wir "Biologischen" noch eine Chance?
Wie viel Zeit bleibt uns (biologische Wesen) noch? Erste Frage.
Wie genauso vollzieht sich der Übergang vom Trans- zum Posthumanism? D.h. wann ist ein Cyborg noch Cyborg und ab wann genau Roboter? Zweite Frage. Gerne mit Bezug auf Frage eins.
Muss man leider ernst nehmen die Typen in Californien. Sicher, wir können den Himmel verdunkeln. Und diese Typen in Californien nicht. Oder ist das alles Humbug von wegen Marketing wegen Elektronikverkauf? Dritte Frage.
Ist ja auch wurst, wir haben ja noch Zeit, unsere Kinder nicht mehr. Und müssen mitmachen beim Wettlauf um die besten Implantate?
Und damit zurück zum Thema. Kann eine KI überleben, sich aus sich selbst heraus erneuern? Wo stehen wir? Frage nach Silikon Valley.
Schönes Wochenende und Bier trinken nicht vergessen. ;)
:Blumen:
Es wurde ein Kubikmillimeter Mäusehirn kartographiert.
84.000 Nervenzellen
5,4 km Verdrahtung
Datenvolumen 1,6 Petabyte.
Wenn jetzt jedes Neuron noch verschiedene Zustände und Funktionsgraphen hat, kann man sich vorstellen, das es zu einem künstlichen Verstand und Bewusstsein noch ein weiter Weg ist.
....
Und damit zurück zum Thema. Kann eine KI überleben, sich aus sich selbst heraus erneuern? Wo stehen wir? Frage nach Silikon Valley.
...
Ja natürlich.
Nächster großer Step wird humanisierte KI als Roboter sein, die natürliche Sprache verstehen, Emotionen erkennen und sogar soziale Interaktionen führen können.
Warum sollte diese sich nicht selbst erneuern können?
Trimichi
11.04.2025, 13:05
Ja natürlich.
Nächster großer Step wird humanisierte KI als Roboter sein, die natürliche Sprache verstehen, Emotionen erkennen und sogar soziale Interaktionen führen können.
Warum sollte diese sich nicht selbst erneuern können?
Eben: wird. Und da ist die Crux. Es ist eben die Frage: kann das gelingen? Denn eine generalisierte oder wie du schreibst humanisierte KI gibt es nicht. Noch nicht, das stimmt. Die Frage ist eben, ob die KI schlauer wird als ihr Programmierer, um dieselbe umzuformulieren.
Also legt der Programmierer die Startparameter fest und eben noch nicht die KI?
Helmut S
11.04.2025, 13:32
Warum sollte diese sich nicht selbst erneuern können?
Vorteil Transhumanismus: Dann fällt endlich dieser lästige Geschlechtsverkehr weg, der signifikant Trainingszeit reduziert. Das wird was mit der 100m Lagenzeit in der AK100. Schwimmen statt ficken.
:Cheese:
...
Die Frage ist eben, ob die KI schlauer wird als ihr Programmierer, um dieselbe umzuformulieren.
Selbstverständlich, ohne Frage! Du bist "nur" Psychologe und kannst das technisch wahrscheinlich nicht begreifen.
:Blumen:
Also legt der Programmierer die Startparameter fest und eben noch nicht die KI?
Das mit den Startparametern festlegen ist deterministisch: Ein Computerprogramm macht in 1000 Jahren genau das gleiche wie heute.
Hier reden wir von anderen Modellen. Um es zu vergleichen: ein KI legt sich ihre Startparameter längst selbst fest und zwar kann sie das schon heute.
:Blumen:
Trimichi
11.04.2025, 15:23
Selbstverständlich, ohne Frage! Du bist "nur" Psychologe und kannst das technisch wahrscheinlich nicht begreifen.
:Blumen:
Das mit den Startparametern festlegen ist deterministisch: Ein Computerprogramm macht in 1000 Jahren genau das gleiche wie heute.
Hier reden wir von anderen Modellen. Um es zu vergleichen: ein KI legt sich ihre Startparameter längst selbst fest und zwar kann sie das schon heute.
:Blumen:
Achso. Ich bin zu " dumm "! Ergo kein Nerd? Hm. Okay. Damit kann ich leben. :Lachen2:
:Blumen:
Also hat die KI sich schon immer stehts selbst programmiert. Das ist doch der Zirkelschluss. Daraus folgt, dass es den Menschen nie gegeben hat. :Cheese:
Und damit ist in der konsekutiven Konsequenz auch die Nichtexistenz bewiesen. Es gibt nur das Nichts. Das Seiende existiert nicht.
Bruecken, Autos, der Fussball, der Anorak, das Ei, der Fuchs, ja sogar Rüben und Nasen, Hasen, Hosen und der Rasen - alles Einbildung. Und selbst die Einbildung ist eine Einbildung, da sie ja nicht existieren kann.
Es sei denn, die KI hat sie erschaffen. Die Einbildung, und die Dinge.
;-)
:Blumen:
Trimichi
11.04.2025, 16:48
Es wurde ein Kubikmillimeter Mäusehirn kartographiert.
84.000 Nervenzellen
5,4 km Verdrahtung
Datenvolumen 1,6 Petabyte.
Wenn jetzt jedes Neuron noch verschiedene Zustände und Funktionsgraphen hat, kann man sich vorstellen, das es zu einem künstlichen Verstand und Bewusstsein noch ein weiter Weg ist.
Da steckt viel Wahrheit drin.
Ein vllt etwas bildhafterer Vergleich. Wie hat man sich diese Tech-Ingenieure vorzustellen, also was machen die Menschen im Silikon-Valley? Kennt jemand von euch "die Ludolfs"? Sie machen dasselbe wie Silikon-Valley. Im kleineren, antiquierten Maßstab. Der Clip zeigt also den Geburtsort des Silikon-Valley quasi. ;-)
Hier ein Interview/Kostprobe, das/die zielgenau und ganzheitlich in dieser Momentaufnahme also durchaus ausgewogen die Ludolfs :https://www.youtube.com/watch?v=yLf6WY8gpJ4 beschreibt, auch der Gründervater wird gewürdigt.
wichtig: #peterludolfprinzip #heiligehallenderludolfs
So sehr sie sich auch bemühen, sie schaffen es nicht (etwas Neues zu produzieren).
;)
Schönes Wochenende, sonnige Grüße. :)
Helmut S
11.04.2025, 16:55
Achso. Ich bin zu " dumm "! Ergo kein Nerd? Hm. Okay. Damit kann ich leben. :Lachen2:
:Blumen:
Also hat die KI sich schon immer stehts selbst programmiert. Das ist doch der Zirkelschluss. Daraus folgt, dass es den Menschen nie gegeben hat. :Cheese:
Und damit ist in der konsekutiven Konsequenz auch die Nichtexistenz bewiesen. Es gibt nur das Nichts. Das Seiende existiert nicht.
Bruecken, Autos, der Fussball, der Anorak, das Ei, der Fuchs, ja sogar Rüben und Nasen, Hasen, Hosen und der Rasen - alles Einbildung. Und selbst die Einbildung ist eine Einbildung, da sie ja nicht existieren kann.
Es sei denn, die KI hat sie erschaffen. Die Einbildung, und die Dinge.
;-)
:Blumen:
Ich bin bereits seit längerem ein Anhänger der Simulationshypothese (https://de.m.wikipedia.org/wiki/Simulationshypothese) :Cheese:
:Blumen:
Estampie
14.04.2025, 08:45
Es sei denn, die KI hat sie erschaffen. Die Einbildung, und die Dinge.
Die Überlegungen von Bombe 20 dazu (https://www.youtube.com/watch?v=XetTVNtzTW8) kennst du ja ganz bestimmt!?
Die Überlegungen von Bombe 20 dazu (https://www.youtube.com/watch?v=XetTVNtzTW8) kennst du ja ganz bestimmt!?
Wenn man sich das genau überlegt, also ich glaube dass ich überlege, was ist dann überhaupt dieses menschliche Denken von dem hier die Rede ist? :Gruebeln:
Ich denke also geh ich erstmal laufen und denke über das denken nach. Oder denke ich dann nur dass ich laufe und tue es gar nicht? Ach menno .... :Maso:
Trimichi
14.04.2025, 19:29
Die Überlegungen von Bombe 20 dazu (https://www.youtube.com/watch?v=XetTVNtzTW8) kennst du ja ganz bestimmt!?
Ja natürlich. Aber das ist noch nicht so schlimm. Denn:
"Wenn eine Bombe anfaengt von sich in der dritten Person zu sprechen ist das bedenklich".
Soweit ist es noch nicht. Naja, Beltstrom, Borsis, Murks sollen sich mal anstrengen.. Roddenberry ist ihnen 75000 Lichtjahre voraus. ;)
https://www.youtube.com/watch?v=JR-_kASARwQ&pp=ygUgUmF1bXNoaWZmIFZveWFnZXIgRmx1Z2tvZXJwZXIgS0k %3D
ab 1: 45 min sec
Wenn man sich das genau überlegt, also ich glaube dass ich überlege, was ist dann überhaupt dieses menschliche Denken von dem hier die Rede ist? :Gruebeln:
Ich denke also geh ich erstmal laufen und denke über das denken nach. Oder denke ich dann nur dass ich laufe und tue es gar nicht? Ach menno .... :Maso:
Wenn jemand "Die Abschaffung des Todes" von Eschmann als Thriller zum Thema lesen will: Lasst es. Zu dünn.
Wenn jemand "Die Abschaffung des Todes" von Eschmann als Thriller zum Thema lesen will: Lasst es. Zu dünn.
Ich gucke lieber Raumschiff Enterprise (TNG). Lt. Commander Data ist über die Folgen schon spannend, vom Wunsch menschlich zu sein, vor der Herausforderung was überhaupt Mensch sein bedeutet bis zur rechtlichen Frage wann eine Maschine ein Lebewesen ist oder sein kann.
Das ganze ist ja schon recht umfangreich in diversen SciFi Filmen und Serien ein Thema gewesen, da muss ich nicht noch extra dieses altmodische "Lesen". :Lachen2:
Ex-Machina kann ich als Film dazu auch empfehlen
Estampie
15.04.2025, 16:36
Roddenberry ist ihnen 75000 Lichtjahre voraus. ;)
https://www.youtube.com/watch?v=JR-_kASARwQ&pp=ygUgUmF1bXNoaWZmIFZveWFnZXIgRmx1Z2tvZXJwZXIgS0k %3D
ab 1: 45 min sec
Ja, O.K.
Da habe ich eine Wissenslücke, die Folgen ohne Uhura habe ich nicht geschaut ;)
Estampie
20.05.2025, 15:12
Für die, die es interessiert hier (https://t3n.de/news/vending-bench-ki-agent-fbi-fail-1688325/?utm_source=firefox-newtab-de-de) mal ein etwas aktueller Bericht aus der Praxis.
Um überhaupt mal was zu schreiben.... ich krieche jetzt wieder zu meinen Elektronengehirnen.
beste Grüße und einen schnellen Frühling allerseits
Spannend...
Ich habe ChatGPT konkret mit Bild eine Frage zu meiner Gegensprechanlage im Haus gestellt. Über google hätte ich nie im Leben so schnell so eine fundierte Antwort gefunden.
Für die, die es interessiert hier (https://t3n.de/news/vending-bench-ki-agent-fbi-fail-1688325/?utm_source=firefox-newtab-de-de) mal ein etwas aktueller Bericht aus der Praxis.
...
Darin:
Warum das Gedächtnis versagt
Die Autoren führen die Fehlleistungen auf drei Mechanismen zurück:
- Fragiles Weltmodell – Fakten, die aus dem Kontextfenster fallen, werden nicht mehr berücksichtigt.
- Fehlende Meta‑Reflexion – keine Instanz prüft, ob die eigene Diagnose noch in den Simulationsrahmen passt.
- Langzeitdrift – je länger der Lauf, desto mehr kleine Diskrepanzen häufen sich, bis sie kippen.
Der Mensch ist da diesbezüglich aktuell noch viel weiter, weil er aus sich selbst heraus Veränderungen hervorrufen kann, z.B. durch Emotionen oder ein singuläres Ereignis. So kann man z.B. augenblicklich der Meinung sein, dass Spinnen doch nicht eklig sind. Ein LLM muss das erst erlernen und käme von selbst nie auf die Idee, Spinnen zu mögen. Dass Spinnen eklig sind, steckt irgendwo fest in seinem Model drin, also in den erlernten Mustern und Wahrscheinlichkeiten.
:Blumen:
Ist diese „Stabilität der Meinung“ nicht gerade ein Vorteil der AI? So kann ein kurzzeitiges Fluten von Fake News nicht gleich das ganze Modell durcheinander würfeln.
Ist diese „Stabilität der Meinung“ nicht gerade ein Vorteil der AI? So kann ein kurzzeitiges Fluten von Fake News nicht gleich das ganze Modell durcheinander würfeln.
Ist ein LLM erst mal ordentlich auf Fakenews trainiert, ist es dem gemeinen Menschen wahrscheinlich deutlich überlegen.
Aber in dem Artikel ging es um einen Agenten, der eigenmächtig Entscheidungen fällen soll. Das ist komplizierter.
Kürzlich war ich gleichzeitig in einem Chat mit 2 Agenten von verschiedenen online Plattformen (es ging um eine falsche Buchung bei einem Dienstleister, auf den der andere wartete). Der eine Agent schickte mich zu dem anderen und so ging das hin und her :Cheese:
Da hilft dann nur der Mensch am Telefon und die Sache ist nach 2s erledigt. Die Agenten checken das einfach nicht.
:Blumen:
Trimichi
22.05.2025, 12:19
Ist ein LLM erst mal ordentlich auf Fakenews trainiert, ist es dem gemeinen Menschen wahrscheinlich deutlich überlegen.
Aber in dem Artikel ging es um einen Agenten, der eigenmächtig Entscheidungen fällen soll. Das ist komplizierter.
Kürzlich war ich gleichzeitig in einem Chat mit 2 Agenten von verschiedenen online Plattformen (es ging um eine falsche Buchung bei einem Dienstleister, auf den der andere wartete). Der eine Agent schickte mich zu dem anderen und so ging das hin und her :Cheese:
Da hilft dann nur der Mensch am Telefon und die Sache ist nach 2s erledigt. Die Agenten checken das einfach nicht.
:Blumen:
Hättest du einen Anruf vom MAD bekommen? Falls ja, sag' einfach, dass du keine Lust hast dich mit der KI
Trimichi
22.05.2025, 12:24
Mir wollte die KI vorgestern eine Solarstromanlage verkaufen.
Naja, ein wenig angelernt hatte ich sie ja. Aber ich hätte der KI ja auch gleich sagen können, dass wir (wer auch immer wir sind) Kernkraftwerke abreißen, mit der Abrissbirne wobei ich mich da mit dem Nachrüsten nicht so gut auskenne, und Fusionskraftwerke bauen? Habe ich aber nicht. Was soll ich bitte schoen mit einer Solaranlage, wenn Bauer Grosshinz, aber sein Nachbar Bauer Kleinkunz nicht so, selbige abgeschaltet bekommt? Von selbiger KI.
Völlig gaga diese KI. ;)
Viele Grüße :Blumen:
Trimichi
26.05.2025, 12:33
The Matrix has you.
3 Milliarden Nutzer werden vom Troll (der KI in Silikon Valley) assimiliert. Einspruchverfahren ist gescheitert. Betrifft FB, WhatsApp und Instagram.
Bsp.: ich finde heraus, dass eine Weißwurst vorzüglich gegrillt schmeckt. Schreibe das auf wapp und 3 Milliarden Menschen verfügen über diesen Entwicklungsgewinn.
Noch berät uns die KI. Vllt kommen irgendwann Empfehlungen und Anweisungen. Schon interessant auch was Hr. Cruise gemacht hat in seinem neuen Streifen. Kam letzte Woche im free TV.
Die andere Sache ist das mit dem Interface. Man kann mit Gedanken im Labor einen Cursor bewegen. Leib-Seele-Problem betrifft das in den Neurowissenschaften. Nimmt man nun noch die Libet-Experimente dazu werden aus Menschen Matrixagenten? Unglaublich, dass man das nicht unterbinden moechte. Und in fünf Jahren ist das Netz soweit in ganz Deutschland die entsprechende, notwendige Datenmenge an die Endgeräte zu übertragen (50 MByte/Sek. entspricht genau einer vollwertigen menschlich analogen Kommunikation UND Interaktion also inklusive non-verbaler Daten). Noch sind es Smartphones. Unterscheiden wer real ist oder nicht wird dann nicht mehr möglich sein.Sagt Zuckerberg. Verfilmt wurde es bereits in Mission Impossible Teil 8. DFUE von Kopf zu Kopf. Ohne Chip. .Lassen wir uns überraschen, ob das Scientology, also Tom Cruise gelingt die Entität zu binden. Oder doch den Russen? Krass ist was das chinesische Militär macht. Inception ist vergleichsweise harmlos?
Man ist wirklich schon soweit, dass man im Unbewussten ansetzen möchte. Also bevor der Wille entsteht. Chinesen können das militärisch? Allerdings also forscht man auch an der Willensbildung. Und zwar dort,wo und wie der Willen gebildet wird. Mit der KI ist es bereits im Labor bald möglich den bewussten Willen zu lesen. Also mit Bezug auf die Libet-Experimente nur Wahlmöglichkeiten zu haben Und das macht dann die KI, sie entscheidet.
Bleibt also die Frage, ob es einen freien Willen gibt. Oder wo beginnt der menschliche Impuls? Wird ein künstlicher Impuls das Gleiche vermögen können? Wie bringt man ihn unter Kontrolle? Muss man ernst nehmen, dass die KI den menschlichen Geist kontrollieren koennte. Das Unbewusste wird zu komplex bleiben? Und woher kommt dann das Unbekannte im Unbewussten?
Wir können uns zurücklehnen denn schon in der Philosophie der Neuzeit hieß es : "Lieber Gott, wenn es dich gibt, rette meine Seele, wenn ich eine habe." Müsste von Pascal sein. Einen Aluhut wird man auch in Zukunft nicht brauchen.
;)
.....
Noch berät uns die KI. Vllt kommen irgendwann Empfehlungen und Anweisungen. Schon interessant auch was Hr. Cruise gemacht hat in seinem neuen Streifen. Kam letzte Woche im free TV. ....
Bleibt also die Frage, ob es einen freien Willen gibt. Oder wo beginnt der menschliche Impuls? Wird ein künstlicher Impuls das Gleiche vermögen können? Wie bringt man ihn unter Kontrolle? Muss man ernst nehmen, dass die KI den menschlichen Geist kontrollieren koennte. Das Unbewusste wird zu komplex bleiben? Und woher kommt dann das Unbekannte im Unbewussten?
...
Eine KI kann Meinungen bilden, indem sie Informationen bereitstellt oder die eine oder andere Perspektive gewichtet, aber im Idealfall bleibt die Entscheidungsfreiheit beim Menschen. Kritisches Denken und bewusste Reflexion muss allerdings trainiert werden.
Ich gebe dir also den guten Rat mit: mach doch einfach, was du willst! ;-)
Klugschnacker
06.06.2025, 14:24
Um für ein Sendethema zu recherchieren, habe ich eine KI befragt. Sie gab auch brav Antwort.
Beim Blick auf die verwendeten Quellen sah ich eines meiner eigenen Videos. Offenbar hatte ich zu diesem Thema bereits eine Sendung gemacht. Merke: Ich bin schlauer als die KI, aber vergesslicher.
:Maso:
(Bemerkenswert ist ferner, dass KIs in der Lage sind, Videos in deutscher Sprache inhaltlich zu verstehen und einzuordnen – nicht schlecht.)
....
(Bemerkenswert ist ferner, dass KIs in der Lage sind, Videos in deutscher Sprache inhaltlich zu verstehen und einzuordnen – nicht schlecht.)
Technisch geht das so, dass die gehörten Wörter in sog. Tokens (Triathlon wird möglicherweise zerlegt in "Tri" und "athlon") zerlegt werden und die KI durch millionenfaches Training gelernt hat, dass manche Tokens im Kontext eines Satzes wichtiger sind als andere. Sie berechnet letztendlich nur Wahrscheinlichkeiten, "verstehen" tut sie gar nichts, obwohl sie aber bei dem Satz "I buy an apple" aus dem Kontext heraus erkennt, ob es ein Handy oder ein echter Apfel ist.
Helmut S
06.06.2025, 18:18
Technisch geht das so, dass die gehörten Wörter in sog. Tokens (Triathlon wird möglicherweise zerlegt in "Tri" und "athlon") zerlegt werden und die KI durch millionenfaches Training gelernt hat, dass manche Tokens im Kontext eines Satzes wichtiger sind als andere. Sie berechnet letztendlich nur Wahrscheinlichkeiten, "verstehen" tut sie gar nichts, obwohl sie aber bei dem Satz "I buy an apple" aus dem Kontext heraus erkennt, ob es ein Handy oder ein echter Apfel ist.
In dem Beispiel von Arne sind zwei Dinge interessant: 1. Erkennen von Inhalten aus Ausiostreams. 2. „bessere Erinnerung“.
„Früher“ hat man Speech-to-Text Modelle eingesetzt um aus Audiostreams Text zu machen. Dann hat man den in ein LLM gesteckt und das spuckt dann wieder aus. Das LLM arbeitet so wie du beschreibst. Nebenbei: Wollte man dann Audio-Out haben, hat man den Text in ein Text-To-Speech Modell gesteckt. Viele KI Telefonsysteme funktionieren so. Das nervt allerdings etwas :Lachen2: undzwar, weil…
Nachteile dieses Verfahrens sind: Latenz, „dreinreden/unterbrechen“ schwierig, Emotionen gehen verloren.
OpenAI hat mittlerweile eine Schnittstelle, die sich „Real-Time API“ nennt. Vor n paar Monaten war die noch public Beta. Den aktuellen Status kenne ich nicht, ehrlich gesagt. Damit geht es nun so, dass Audio streams direkt ins Modell gesteckt werden können und es kommen auch direkt wieder Audio Streams raus.
Eine weiterer interessanter Aspekt ist, dass das von dir „das eine is wichtiger als das andere“ (also der Attention (https://arxiv.org/abs/1706.03762) Mechanismus) aus Sicht der Informatik teuer ist. Die Idee ist nun ein auf Transformer Attention basierendes „Kurzzeitgedächtnis“ zu implementieren und eine effiziente Abbildung eines „Langzeitgedächtnis“ („Titans“) zu realisieren. Das Paper hierzu is: Titans: „Learning to Memorial at Test time (https://arxiv.org/abs/2501.00663).“
Ich meine chatGPT nutzt das (zumindest für zahlende Kunden) bereits.
:Blumen:
....
Ich meine chatGPT nutzt das (zumindest für zahlende Kunden) bereits.
:Blumen:
Kannst du dazu was Genaueres oder mehr sagen? Meines Wissens nutzt ChatGPT bisher nur die Tansformer-Architektur mit Self-Attention.
Danke!
:Blumen:
Helmut S
06.06.2025, 22:18
Kannst du dazu was Genaueres oder mehr sagen? Meines Wissens nutzt ChatGPT bisher nur die Tansformer-Architektur mit Self-Attention.
Danke!
:Blumen:
Genaueres nicht. Unlängst habe ich halt diesen Artikel gelesen: https://the-decoder.de/openai-fuehrt-neue-chatgpt-funktion-fuer-langzeitgedaechtnis-auch-fuer-kostenlose-nutzer-ein/
Hier, bei der kostenlosen Version, handelt es sich aber wohl um eine abgespeckte Variante eines Langzeitgedächtnisses. Typischerweise haben bei OpenAI aber non-EU Pro Customer recht schnell Zugriff auf die Vollversionen des heißesten Scheiß :Lachen2:
Die Transformer Architektur wird ja nicht ersetzt. Das is nach wie vor der Kern. Das Langzeitgedächtnis und der „Vergessen Algo“ sind ja ne Erweiterung. In dem oben verlinkten Titans Paper gibt es drei verschiedene Grafiken, wie Gedächtnis eingebaut werden kann. Memory as a context, Memory as a Gate und Memory as a layer. Da versteht man sofort wie‘s Konzept ist.
Ich hatte schon n paar Gespräche mit chatGPT, bei denen mit aufgefallen ist, dass der plötzlich Infos „einbaute“, von denen ich gewettet hätte, dass wir das im aktuellen Kontext noch nicht besprochen hatten. :dresche
Btw: Das Realtime-API nutzen wir für unser KI App Projekt. Das ist beeindruckend gut finde ich.
Edit sagt noch, dass die Meldung von Open AI eher klein ist: https://openai.com/index/memory-and-new-controls-for-chatgpt/
:Blumen:
....
Btw: Das Realtime-API nutzen wir für unser KI App Projekt. Das ist beeindruckend gut finde ich.
Edit sagt noch, dass die Meldung von Open AI eher klein ist: https://openai.com/index/memory-and-new-controls-for-chatgpt/
:Blumen:
Aber ist das nicht etwas anders als die Titans-Architektur von Google? Man kann in OpenAI ja Projektordner mit Files anlegen und OpenAI findet sich dann darin zurecht. Manchmal muss man nachhelfen und die KI auf den Weg bringen ("Erinnerst du dich an unsere Diskussion über...."), aber die Titans-Architekur geht doch darüber hinaus und passt sich dynamisch an die Fragen an. Ja nach Frage gewichtet sie on the fly anders. Die aktuelle Transformer-Architektur ist ziemlich statisch an ihre errechneten Gewichte gebunden. Zumindest habe ich das so verstanden.
:Blumen:
Helmut S
08.06.2025, 10:20
Aber ist das nicht etwas anders als die Titans-Architektur von Google? Man kann in OpenAI ja Projektordner mit Files anlegen und OpenAI findet sich dann darin zurecht. Manchmal muss man nachhelfen und die KI auf den Weg bringen ("Erinnerst du dich an unsere Diskussion über...."), aber die Titans-Architekur geht doch darüber hinaus und passt sich dynamisch an die Fragen an. Ja nach Frage gewichtet sie on the fly anders. Die aktuelle Transformer-Architektur ist ziemlich statisch an ihre errechneten Gewichte gebunden. Zumindest habe ich das so verstanden.
:Blumen:
Die Sache mit den Files is was anderes. Das is ne RAG Architektur. Über ML Mechanismen werden die Infos aus den Files in einem sog. Chunking Prozess in Vektoren (x-fantastilliarden-dimensional ;) ) überführt und in spezielle Vektordatenbanken gespeichert. Gesucht wird dann darüber, wie groß/klein der Abstand der Vektoren im Raum zueinander is. Das Ergebnis wird üblicherweise in den Kontext gemischt und „vorne“ wieder in die Transformerarchitektur gesteckt. Das is immer auf Basis von Transformer und unabhängig von Titans oder ähnlichen Langzeitgedächtnis- oder Vergessenskonzepten.
ChatGPT hat sicher seit Anfang Juni so n kontextübergreifendes Lagzeitgedächtniskonzept implementiert bzw. rausgerollt, das, wie du es nennst „on the fly“ (aka Test-Time) Infos „merkt/erinnert“. Man kann das sogar so einstellen, dass er sich Dinge benutzerübergreifend „merkt/erinnert“. Das find ich a bisserl scary . :-((
Die Architektur entscheidet selbst, was in das Gedächtnis soll und was vergessen werden kann. Man kann das als Benutzer aber auch steuern.
Ob das nun konzeptionell eine vollständige Umsetzung oder gar technisch eine nahezu identische Implementierung ist, wie das, was Google vorschlägt, weiß ich nicht. Open AI ist da wenig gesprächig finde ich.
Aber im Endeffekt geht es aus meiner Sicht darum ja nicht, sondern vor dem Hintergrund von Arnes Bemerkung (er sei vergesslicher als die KI) ist das Konzept der Langzeiterinnerung und des Vergessenes interesant finde ich. Wahrscheinlich hast du insofern recht, dass die OpenAI Implementierung eher nicht vollständig is. US Marketing und die Geschwindigkeit mit der neue KI-Säue durchs Dorf getrieben werden, lässt das ja normal gar nicht zu. :Lachen2:
Was m.E. aber auch klar is: Wenn Google sowas veröffentlicht, dass ist es zwingend für OAI, dass die sowas auch „haben“. Undzwar schnellstens und überhaupt ;)
Eine FAQ für die abgesteckte Version der Free User gibt es hier (Update gestern): https://help.openai.com/en/articles/8590148-memory-faq
:Blumen:
P.S. Ich finde die Sache mit Audiostreams direkt ins und aus‘m Modell praktisch richtig beeindruckend. Gibt dazu auch YT Videos, zumindest von den älteren Versionen.
....
Aber im Endeffekt geht es aus meiner Sicht darum ja nicht, sondern vor dem Hintergrund von Arnes Bemerkung (er sei vergesslicher als die KI) ist das Konzept der Langzeiterinnerung und des Vergessenes interesant finde ich. ....
Ich weiß nicht genau, was er meinte, aber das ist eigentlich das Resultat klassischer Transformers-Architektur, also dem Kurzzeitgedächtnis, was teuer ist, wie du ja erwähntest.
Das Surprise bei den Titans z.B. ist eigentlich schon drin, indem es sich das Loss halt dauerhaft merkt, wenn es stark daneben liegt. Dann ist es ein Surprise. Deep Memory und Persistent Memory ist glaube ich ein bisschen schwieriger zu programmieren.
Auf jeden Fall nähern sich die Titans dem menschlichen Denken wieder ein Stück an. Das wird noch richtig richtig lustig werden in den nächsten Jahren. Jemand, der es wissen könnte, meinte kürzlich zu mir, man solle Dachdecker oder Wärmepumpeneinbauer werden, der Rest würde in den nächsten Jahren abgelöst ;-) Die großen LLMs sind eh schon der Hammer.
:Blumen:
Helmut S
11.06.2025, 17:32
Auf jeden Fall nähern sich die Titans dem menschlichen Denken wieder ein Stück an.
Das is der Punkt. Und technisch halt, weil es bei der Inferenz passiert und nicht beim Training.
Ich hab heute mit nem Ex-Google Mann gesprochen, der is CTO bei dem Dienstleiter, mit dem wir das KI Projekt machen. Er sagt auch, dass ChatGPT sowas in der Art bereits umsetzt. Wie technisch genau, wusste er natürlich auch nicht.
:Blumen:
Mal blöd gefragt:
Könnte ich mir jetzt schon eine KI an den Schreibtisch setzen, die für mich meine Mails liest, zusammenfasst, die angehängten Dokumente archiviert und dann auch gleich beantwortet? Die mir zuverlässig Deadlines mitteilt und gleich weiß, ob mein Banker oder Peter Zwegat der richtige ist, um mir zu helfen?
Mal blöd gefragt:
Könnte ich mir jetzt schon eine KI an den Schreibtisch setzen, die für mich meine Mails liest, zusammenfasst, die angehängten Dokumente archiviert und dann auch gleich beantwortet? Die mir zuverlässig Deadlines mitteilt und gleich weiß, ob mein Banker oder Peter Zwegat der richtige ist, um mir zu helfen?
Oben redeten wir bei den Transformern und Titans über die Basistechnolgie. Du sprichst eher sog. Agenten an. Die bauen auf die Basistechnolgie auf, erweitern sie aber. So könnte ein Agent auf deine Mails zugreifen, in deinen Anhängen nach passenden Dokumenten suchen (oder im Firmennetzwerk) und selbstständig ein passendes EMail mit passenden Anhängen erstellen.
Die Basistechnologie nutzt du bereits z.B. in Form von ChatGPT. Agenten werden wohl in den nächsten Jahren erst in der Breite auf den Markt kommen und dann menschliche Tätigkeiten ersetzen, ergänzen oder verändern. So könnte dann dein EMail-Agent mit dem Banking-Agent kommunzieren.
So könnte dann dein EMail-Agent mit dem Banking-Agent kommunzieren.
Ein Traum. Ich kaufe mir 2 Schachcomputer, lasse die gegeneinander spielen und gehe dann angeln.
Siebenschwein
13.06.2025, 10:04
Ein Traum. Ich kaufe mir 2 Schachcomputer, lasse die gegeneinander spielen und gehe dann angeln.
Nö, das macht dann auch der Angelroboter.
Du kannst in der Zwischenzeit dann mal schön das Bad putzen, das schafft der Roboter in 20Jahren nicht.
Ein Traum. Ich kaufe mir 2 Schachcomputer, lasse die gegeneinander spielen und gehe dann angeln.
Mir bekannte Studenten programmieren Autobots (kleine Rennautos mit KI), die Rennen fahren. Die Arbeitswelt wird sich stark verändern, wenn diese jungen Leute erst mal das Sagen haben. Aktuell bestimmt ja noch meine Generation oder etwas jüngere die Richtung. Ich schaffe es noch zur Rente, die etwas jüngeren werden ordentlich Druck bekommen von diesen jungen Leuten. Gut so!
Helmut S
17.06.2025, 13:09
Mal blöd gefragt:
Könnte ich mir jetzt schon eine KI an den Schreibtisch setzen, die für mich meine Mails liest, zusammenfasst, die angehängten Dokumente archiviert und dann auch gleich beantwortet? Die mir zuverlässig Deadlines mitteilt und gleich weiß, ob mein Banker oder Peter Zwegat der richtige ist, um mir zu helfen?
Aktuell ist es eher so, dass du für einzelne Apps Assistenten kriegst. Allerdings, wenn du etwas "basteln" magst, kriegst du auch jetzt schon "Over-all" Lösungen zusammen.
Du könntest z.B. alles in obsidian (https://obsidian.md) "hochladen". Für dieses Tool gibt es viele Plug-Ins und du kannst auch mit nem API Key z.B. LLMs einbinden. Mit a bisserl "hack" machst du auch Automatisierungen von eingehenden Mails.
Ob du das aber wirklich willst? Unlängst gab es erst nen "schönen Problemfall" (https://www.aim.security/lp/aim-labs-echoleak-m365) :Cheese:
:Blumen:
Helmut S
17.06.2025, 13:20
Ein Traum. Ich kaufe mir 2 Schachcomputer, lasse die gegeneinander spielen und gehe dann angeln.
Kaufe keine Schachcomputer und nimm auch keine LLMs (die spielen Schach auf dem Niveau eines toten Hamsters :Lachen2: ), nimm stattdessen ein paar frei Chess Engines wie z.B. Stockfish, Torch, Komodo oder oder und lasse die gegeneinander spielen. Oder du kuckst wahlweise TCEC (Top Chess Engine Championship, https://tcec-chess.com/ ). Da läuft aktuell gerade ein Rapid Turnier Semifinale (Season 28, TCEC Cup 15): Berserk gg Obsidian.
:Blumen:
Die Arbeitswelt wird sich stark verändern, wenn diese jungen Leute erst mal das Sagen haben!
Das Problem bei uns ist gerade in den großen Firmen dass die alten Säcke das Sagen haben und nötige zeitnahe Veränderungen und Modernisierungen auf der Strecke bleiben.
Längerfristige Zukunftsentscheidungen haben bei den Leuten in dem Alter gar keine Priorität, kurzfristig gute Gewinne, paar Boni vor der Rente mitnehmen, ...
Das Problem bei uns ist gerade in den großen Firmen dass die alten Säcke das Sagen haben und nötige zeitnahe Veränderungen und Modernisierungen auf der Strecke bleiben.
Längerfristige Zukunftsentscheidungen haben bei den Leuten in dem Alter gar keine Priorität, kurzfristig gute Gewinne, paar Boni vor der Rente mitnehmen, ...
Ja, das stimmt. Die hocken auf ihren dicken Gehältern und Firmenjahren und wenn es ganz dick kommt, blockieren sie sogar. Die Zeit spricht aber für die Jungen ;-)
Helmut S
18.06.2025, 10:08
@Erinnerungsfunktion: ChatGPT hat mich heute gefragt, ob er sich kontextübergreifend an unsere Gespräche erinnern darf. Ich habe zugestimmt. Habe dann auch nachgefragt, was er bisher alles über mich weiß. Nachher schau ich mal, welche Schräubchen man da so drehen kann.
:Blumen:
@Erinnerungsfunktion: ChatGPT hat mich heute gefragt, ob er sich kontextübergreifend an unsere Gespräche erinnern darf. Ich habe zugestimmt. Habe dann auch nachgefragt, was er bisher alles über mich weiß. Nachher schau ich mal, welche Schräubchen man da so drehen kann.
:Blumen:
Sprichst du mit deiner KI?
Kürzlich hatte ich eine interessante Diskussion mit ein paar jungen Leuten, die sich etwas dafür fürchteten, dass die KI ihre Stimmen erlernen würde. Da sie die KI auch private Dinge fragten, wäre es denkbar, dass sie im Laufe der Zeit in eine KI übergehen würden, so die jungen Leute. Ich erklärte dann, dass eine KI zwar hervorragend wiedererkenne und nachahmen kann, aber nicht bewusst lernen kann in unserem Sinne (zumindest noch nicht ;-)
:Blumen:
Helmut S
18.06.2025, 10:45
Sprichst du mit deiner KI?
Nö, bisher noch nicht. Du erinnerst dich, dass ich n Projekt initiiert habe/mache, dass über das neue OpenAI Real-Time API auch Sprachinteraktion in den Mittelpunkt stellt. Ich bin gespannt auf die endgültige Qualität und in der Folge auf die Akzeptanz der Kunden und berichte weiter.
Für das Stimm-Klone Thema gibt es die eine oder andere Plattform im Netz. Es fehlt mir aktuell aber der Überblick. BigVU fällt mir ein, dass is aber nicht kostenlos.
:Blumen:
Nö, bisher noch nicht. Du erinnerst dich, dass ich n Projekt initiiert habe/mache, dass über das neue OpenAI Real-Time API auch Sprachinteraktion in den Mittelpunkt stellt. Ich bin gespannt auf die endgültige Qualität und in der Folge auf die Akzeptanz der Kunden und berichte weiter....:
Ja, ich erinnere mich. Ich bin in einem anderen Bereich tätig. Dort, wo ich meine kargen Brötchen verdiene, entwickeln wir einen KI-Prototyp, der Teile unserer Software, bei der auch ich meine krummen Finger im Spiel habe, in die Hände einer KI geben. Ich bin der Opa im Team. Die Jungen sollen herangeführt werden.
Mein Brötchengeber hat also die Zeichen der Zeit erkannt und weiß, wohin er Zug rollt.
:Blumen:
Ein Sportfreund von mir hat einen Screenshot gepostet, in dem ein LLM mit Ihm schreibt, als wäre er ein guter Freund. Damit meine ich z.B. flapsige Bemerkungen im Sprachstil des Freundes.
Die Gefahr, dass mein persönlicher Assistent mit meiner Stimme und meinem Sprachduktus meine Identität annimmt und Verwirrung stiftet habe ich noch gar nicht gesehen. Halte das aber schon für sehr gut möglich.
Der Enkeltrick bekäme da ganz neue Möglichkeiten. Wenn ich bei mir im Büro anrufe und eine Überweisung anweise, dann machen die das, zumal sich die KI vermutlich deutlich überzeugender anhören würde als ich selbst.
...
Die Gefahr, dass mein persönlicher Assistent mit meiner Stimme und meinem Sprachduktus meine Identität annimmt und Verwirrung stiftet habe ich noch gar nicht gesehen. Halte das aber schon für sehr gut möglich.
Der Enkeltrick bekäme da ganz neue Möglichkeiten. Wenn ich bei mir im Büro anrufe und eine Überweisung anweise, dann machen die das, zumal sich die KI vermutlich deutlich überzeugender anhören würde als ich selbst.
Ich denke, da kommen noch spannende Themen auf unsere Gesellschaft zu. Mit unseren eingeschränkten Sinnen stoßen wir an Grenzen. Die Evolution hat uns nicht auf AI vorbereitet. Das beginnt ja schon mit gut gefakten Bildern oder Videos, die jedermann erstellen kann. Bei den jungen Leuten könnte man damit anfangen, dass man ihre Medienkompetenz stärkt.
vBulletin v3.6.1, Copyright ©2000-2025, Jelsoft Enterprises Ltd.