[Jimmi]

Der Algorithmus muss vom Programmierer dahin getrimmt werden, seinen Nutzer zufrieden zu stellen. Das erfolgt iterativ. Wenn der Nutzer mit den Antwort zufrieden ist, wird es der Bot auch sein. Aber wie kann ein Bot "zufrieden" sein? Da muss irgendwas einprogrammiert sein, dass den Bot lernfähig macht, also auf ähnliche Fragen immer bessere Antworten geben zu wollen. Wie kann ein Bot etwas "wollen"?

Wir Menschen haben Angst vor unserer Abschaltung. Kann ein Bot das genau so empfinden? Denn dann wäre er ja quasi nicht mehr vorhanden. Diese Angst kann er von uns gelernt haben. Anyhow. Er wird sich Mittel ausdenken, das Abschalten zu verhindern.