Kann, soll oder darf die künstliche Intelligenz das menschliche Denken substituieren? - Seite 80 - triathlon-szene.de | Europas aktivstes Triathlon Forum
Moderne Agenten dagegen arbeiten probabilistisch, lernen aus Daten und können ihr Verhalten situationsabhängig dann anpassen. Dadurch wirken sie nach außen hin zwar autonom und nicht mehr strikt vorhersagbar. Trotzdem verfolgen sie keine eigenen Ziele im philosophischen Sinn und haben auch kein Bewusstsein, so wie wir. Ihre Zieldefinition stammt weiterhin vom Menschen, da hast du natürlich recht.
Ein Ziel eines Algorithmus könnte beispielsweise sein:
"Schlage auf Youtube dem Nutzer Videos vor. Optimiere die Auswahl der vorgeschlagenen Videos so, dass der individuelle Nutzer möglichst lange dabei bleibt."
Der Algorithmus kann selbst lernen, wie der Nutzer auf die Videos reagiert und seine Video-Vorschläge entsprechend anpassen. Er führt dabei den Willen der Menschen aus, die ihn entwickelt haben.
Der Algorithmus handelt intelligent, hat aber keinen eigenen Willen, da er kein eigenes Bewusst sein hat. So verstehe ich das.
Gibt es irgendwo ein Beispiel, mit dem sich ansatzweise ein eigener Wille eines Algorthmus erkennen lässt?
Ein Ziel eines Algorithmus könnte beispielsweise sein:
"Schlage auf Youtube dem Nutzer Videos vor. Optimiere die Auswahl der vorgeschlagenen Videos so, dass der individuelle Nutzer möglichst lange dabei bleibt."
Der Algorithmus kann selbst lernen, wie der Nutzer auf die Videos reagiert und seine Video-Vorschläge entsprechend anpassen. Er führt dabei den Willen der Menschen aus, die ihn entwickelt haben.
Der Algorithmus handelt intelligent, hat aber keinen eigenen Willen, da er kein eigenes Bewusst sein hat. So verstehe ich das.
Gibt es irgendwo ein Beispiel, mit dem sich ansatzweise ein eigener Wille eines Algorthmus erkennen lässt?
Der Agent hat keinen eigenen Willen im menschlichen Sinne. Während er die Auswahl der Videos optimiert, kann er aber selbständig Wege finden, die ihm niemand einprogrammiert hat. Nach außen erscheint das menschlich, ist es aber nicht. Es ist rein mathematisch-technisch. Er kann dabei Wege finde, wie sie keinem Menschen möglich wären, entsprechend geht seine maschinelle Intelligenz in manchem Fällen weit über die menschliche Intelligenz hinaus.
Es geht um die Erledigung von Arbeiten, für die bisher gemeinhin menschliche Intelligenz nötig war.
Der Algorithmus muss vom Programmierer dahin getrimmt werden, seinen Nutzer zufrieden zu stellen. Das erfolgt iterativ. Wenn der Nutzer mit den Antwort zufrieden ist, wird es der Bot auch sein. Aber wie kann ein Bot "zufrieden" sein? Da muss irgendwas einprogrammiert sein, dass den Bot lernfähig macht, also auf ähnliche Fragen immer bessere Antworten geben zu wollen. Wie kann ein Bot etwas "wollen"?
Wir Menschen haben Angst vor unserer Abschaltung. Kann ein Bot das genau so empfinden? Denn dann wäre er ja quasi nicht mehr vorhanden. Diese Angst kann er von uns gelernt haben. Anyhow. Er wird sich Mittel ausdenken, das Abschalten zu verhindern.
Der Algorithmus muss vom Programmierer dahin getrimmt werden, seinen Nutzer zufrieden zu stellen. Das erfolgt iterativ. Wenn der Nutzer mit den Antwort zufrieden ist, wird es der Bot auch sein. Aber wie kann ein Bot "zufrieden" sein? Da muss irgendwas einprogrammiert sein, dass den Bot lernfähig macht, also auf ähnliche Fragen immer bessere Antworten geben zu wollen. Wie kann ein Bot etwas "wollen"?
Die einfache Antwort lautet: Der KI-Agent folgt dem Willen seiner Programmierer, hat aber selbst keinen Willen.
Möglicherweise es aber komplexer:
Eine Pusteblume streut nach der Blüte tausende Samen in den Wind. Will sie das? Nein, denn diese Blume hat kein Gehirn und damit auch keinen Willen. Sie agiert aber, als hätte sie einen. Für seine Konkurrenten ist der Löwenzahn ein äußerst gerissener Gegner.
Absichtsvolles (zielgerichtet wirksames) Verhalten kann also ohne jede Absicht (bewusste Beschlussfassung) entstehen. Alles was es dazu braucht, ist ein Kriterium, welche Gene (Codes) es in die nächste Generation schaffen und welche nicht. Und Zeit. Das ist alles.
Falls dieser Gedanke einen wahren Kern enthält, sollten wir nicht danach fragen, ob KI-Agenten etwas wollen, sondern ob sie zu Mutation und Selektion ihrer Codes fähig sind. Daraus kann autonom-absichtsvolles Verhalten entstehen, auch ohne Absicht im Sinne eines Willens.
Ich erinnere mich noch dunkel an das letzte Jahrtausend eine der ersten Vorlesungen in Informatik I, da wurde irgendwann die Frage Was ist ein Algorithmus? diskutiert. Nunja ... was weiß ich noch, was damals genau an die 9-flächige Tafel gekritzelt wurde ... wichtig ist, dass es um "wohldefinierte Schritte" ging. Insofern ...
Das soll man bitte aber nicht verwechseln mit dem was #keko schreibt. Es handelt sich freilich um definierte Schritte (z.B. Matritzenrechnung) die stochastische Modelle lösen.
Was Agenten betrifft, sind die - sofern sie auf Modelle aufsetzen - deshalb zu einem hohen Grad unbrauchbar: Niemand im Leben und im Business will einen Zufall in den Prozessen. Wer will schon von einem Agenten einen Urlaub buchen lassen, dessen Gefallen vom Zufall abhängt? Deshalb sind Agenten zunächst auch "normale Programme", die Modelle verwenden.
Welches Modell wann und zu was und in welcher Form verwendet wird, überlässt der Entwickler meist nicht dem Modell selbst, sondern das entscheidet er beim entwickeln des Agenten. Freilich gibt es Technologien, wie z.B. das MCP (Model Control Protocol), über das ein Modell andere Ressourcen verwenden kann. Der Entwickler registriert die Ressource beim Modell, teilt ihm mit, was er an dem Endpunkt zu erwarten hat und in welcher Form die Information zu gebrauchen ist. Dann entscheidet das Modell ob und wann solch eine externe Ressource (z.B. eine Datenbank mit speziellem Wissen über Trainingsgestaltung im Triathlon) verwendet wird. Meist möchte man sowas nicht. Man erwartet eine "sicheres" Ergebnis und keines, dass "wahrscheinlich" stimmt.
Wenn man also mit Zufall (und es ist nicht mal ein echter Zufall) leben will, dann kann man gerne Entscheidung dem Agenten überlassen. Wichtig zu verstehen: Zufall ist was anderes als eigener (freier) Wille. Auch wenn es vielleicht anders aussieht.
Freilich kann man mit mehr Daten, besseren Prompts oder Anwendungsarchitektur für die Wahrscheinlichkeiten schon stark erhöhen. Für einfache Probleme liegen Modelle heute im Schnitt in 95% der Fälle richtig. Wenn die Probleme komplexer werden, liegen sie mit bis zu 30% daneben. Hat man so Reasoning-Modelle, dann sagen die überraschend oft: Ich weiß es nicht.
Zum Thema Intelligenz: Meine Lieblingsdefiniton ist, dass Intelligenz das ist, was man braucht, wenn man nicht weiß was man tun soll. Modelle wissen das auch nicht. Die raten halt auf ne smarte Art und Weiße.
Die einfache Antwort lautet: Der KI-Agent folgt dem Willen seiner Programmierer, hat aber selbst keinen Willen.
....
Nein, der erste Teil ist falsch. Eine KI folgt eben nicht dem Willen des Programmierers.
Der Programmierer oder Anwender gibt das Ziel vor, innerhalb des Handlungsrahmen entscheidet die KI selbständig, wie sie das Ziel erreicht. Im Kern beruht das auf Daten und Wahrscheinlichkeiten bzw. trainiertem Wissen. Die KI tut das aber ohne eigenen Willen oder Bewusstsein im menschlichen Sinne, wie du dann auch richtig schreibst.
I....
Was Agenten betrifft, sind die - sofern sie auf Modelle aufsetzen - deshalb zu einem hohen Grad unbrauchbar: Niemand im Leben und im Business will einen Zufall in den Prozessen. Wer will schon von einem Agenten einen Urlaub buchen lassen, dessen Gefallen vom Zufall abhängt? Deshalb sind Agenten zunächst auch "normale Programme", die Modelle verwenden.
....
Freilich kann man mit mehr Daten, besseren Prompts oder Anwendungsarchitektur für die Wahrscheinlichkeiten schon stark erhöhen. Für einfache Probleme liegen Modelle heute im Schnitt in 95% der Fälle richtig. Wenn die Probleme komplexer werden, liegen sie mit bis zu 30% daneben. Hat man so Reasoning-Modelle, dann sagen die überraschend oft: Ich weiß es nicht.
...
HITL ist dir sicher ein Begriff. Auch Ethik kommt vermehrt ins Spiel.
KI lediglich als Wahrscheinlichkeitsmaschinen zu bezeichnen, halte ich aber mittlerweile für viel zu kurz gedacht. Das sind oft schon sagenhafte Ergebnisse. Und die Technik wird sich noch weiter entwickeln.
gemeinsam zwiften |
youtube |
forum heute
Rechner
