Kann, soll oder darf die künstliche Intelligenz das menschliche Denken substituieren?

[keko#]

Zitat von Meik

... Aber auch warum z.B. Zusammenfassungen super funktionieren wenn man den Datenbereich damit entsprechend eingeschränkt hat.

Du musst mit ChatGPT umgehen wie mit einem Kind:

- klar sagen, wer du bist
- klar sagen, was du willst
- klar sagen, was du als Rückgabe erwartest
- immer schön schrittweise und jede Antwort überprüfen

[Antracis]

Schwierig wird es halt, wenn man der KI Entscheidungen mit Tragweite überlässt oder sich nach ihren Vorschlägen richtet und nicht die Kompetenz hat, das zu überprüfen oder im schlimmsten Fall sogar überzeugt ist, das überprüfen zu können, es aber nicht kann.

Wie man der KI ihre brachialen Fehler austreibt, weiß ich nicht, aber es wird sicher besser werden. Bin gespannt, wie sich dann ein spezialisierter Markt entwickelt. Also vielleicht sowas wie KI-Anwalt oder KI-Arzt als Low-Budget Variante und wer mehr Geld ausgeben will oder hat, der bekommt die KI-unterstützte menschliche Variante für richtig viel Schotter.

Aktuell ist es ja noch vergleichsweise günstig bis umsonst. Vergleichbar vielleicht mit den medialen Anfängen des Internet, wo man plötzlich alle Zeitungen online lesen konnte und es keine Paywall gab. Aber das wird sich schon regulieren.

[qbz]

Zitat von Antracis

Schwierig wird es halt, wenn man der KI Entscheidungen mit Tragweite überlässt oder sich nach ihren Vorschlägen richtet und nicht die Kompetenz hat, das zu überprüfen oder im schlimmsten Fall sogar überzeugt ist, das überprüfen zu können, es aber nicht kann.

Habe ich als Patient teilweise getan (mich auf die KI verlassen) bzw. tue es, wo es um evidenzbasierte medizinische Fragen geht, und nicht bei Fragen, wo der subjektive Faktor bedeutsam, ausschlaggebend ist. Verwenden tue ich hauptsächlich kimi und chatgpt. Überprüfen gegebenenfalls durch Nachfragen bei einschlägigen, erfahrenen Spezialisten, sofern möglich, oder durch Check der referierten Quellen.

Vermutlich ist eine KI bei der Kenntnis der medizinischen Leitlinien besser als der Durchschnitt der Fach- und Hausärzte.

[keko#]

Zitat von Antracis

Schwierig wird es halt, wenn man der KI Entscheidungen mit Tragweite überlässt oder sich nach ihren Vorschlägen richtet und nicht die Kompetenz hat, das zu überprüfen oder im schlimmsten Fall sogar überzeugt ist, das überprüfen zu können, es aber nicht kann.

....

Das wird besonders ein Problem folgender Generation sein, die mit KIs aufwachsen. Aktuell wird KI oft von Experten genutzt, die die Ergebnisse mit eigenem Fachwissen vergleichen und beurteilen können. Was, wenn dies nicht vorhanden ist, da nie angelernt?

[Helmut S]

Zitat von keko#

Aber davor, wie man also zu dem am wahrscheinlichsten Wort kommt, steckt mittlerweile mehr drin.

Wie meinst du das denn? Ich meine, du hast recht aber ich bin nicht sicher ob du das so meinst wie es stimmt

[Helmut S]

Zitat von Klugschnacker

Entscheidend ist aus meiner Sicht aber das Ergebnis, nicht das Zustandekommen des Ergebnisses.

Genaugenommen meinst du die Korrektheit des Ergebnisses, oder würdest du deine These auch für falsche Ergebnisse aufrecht erhalten? Wie auch immer, den Gedanken halte ich für ziemlich wichtig.

Ich meine, ein wichtiger Schritt ist in der Debatte, dass man das Ergebnis von der Erkenntnis trennt (Wissen das es funktioniert vs. wissen warum es funktioniert) und auch ein korrektes Ergebnis von Wissen (Gettier Problem - korrektes raten vs. Wissen) unterscheidet.

Ähnlich ist das wohl auch mit dem Begriff der Intelligenz, der übrigens willkürlich (stipulativ) und deshalb auch nicht "korrekt/wahr" sondern im Grunde halt "zweckmäßig" beschrieben ist.

Ich habe schon das Gefühl, dass es in die Richtung geht, die du ansprichst: Intelligenz zu trennen von Bewusstsein, Wahrheit (im epistemischen Sinne) und z.B. auch von Verantwortung(!) und was weiß ich noch von was für Begrifflichkeiten.

In der Folge, ich habe das viel weiter vorne mal in den Raum gestellt, muss der Mensch seine Position in der Welt neu finden. Wenigstens diese drei Punkt von oben sind wahrscheinlich die Eckpfeiler dieser neunen Position, die bleiben.

[TriVet]

Vielleicht kann/muss man dann die eine KI mit einer anderen gegenchecken?!

[keko#]

Zitat von Helmut S

Wie meinst du das denn? Ich meine, du hast recht aber ich bin nicht sicher ob du das so meinst wie es stimmt

Ich weiß jetzt nicht, was du meinst, was ich meinte, aber ich meinte die Titans als Erweiterung des Gedächtnisses der KI, das immer noch ein probabilistischer Zustand ist: es geht also immer noch um Wahrscheinlichkeiten.