[Helmut S]

Zitat von walter

Mir fehlt persönlich die Phantasie was passiert wenn AI durch das Internet lernt, aber irgendwann 90% oder mehr des Internet Inhaltes von AI erzeugt wurde...

Zitat von keko#

Das, was schon passiert: Maschinen werden sich neues Wissen selbst generieren.

Ach keko! Wenn das so wäre wie walter beschreibt, dann wird es 100%ig nicht so so sein wie du schreibst

Jedoch könnte es sein, wie du schreibst, dass sich Maschinen selbst neues Wissen generieren. Allerdings benötigen wir für diese Debatte zwei Gruppen von Grundlagen:

a) Erkenntnistheoretische Grundlagen, wie z.B. "Was ist Wissen?", "Was ist Wahrheit"? "Was ist gerechtfertigte Meinung?" (Für den Fall, dass wir auf die klassische Begriffsbestimmung zurückgreifen wollen). Du musst dir halt darüber im Klaren sein, dass Wahrheit kein Wissensbegriff ist (es kann etwas wahr sein, dass du gar nicht nicht weißt), Wissen in seiner Begriffsbestimmung aber davon abhängt, dass es wahr ist. Was wiederum erkenntnistheoretisch durchaus problematisch ist - siehe die Fragen am Anfang. Jedoch muss man ja mal bei den Grundlagen anfangen (Korrespondenztheorie).

Merke: Wissen und Wahrheit ist praktisch zwecklos, wenn es den Menschen nicht durch den Tag hilft. Aus diesem Grunde glauben Menschen gerne Dinge, die ihnen durch den Tag helfen (bzw. von denen sie glauben sie würden), seien wahr (z.B. Verschwörungstheorien, Religion).

b) Autonome Interaktion der KI mit der Umwelt. KI Systeme wie der ChatGPT werden grundsätzlich trainiert, die bringen sich selbst nichts bei (supervised learning). Auch die Abschätzung des Trainingserfolges macht das System nicht selbst. Was ChatGPT schon macht, ist unsupervised learning, d.h. es such selbstständig nach Mustern, Anomalien, Clustern usw.

Was viele Leute an der Stelle fälschlicherweise vermuten, ist (deep) reinforcement learning. Vereinfacht: Es gibt wenige Regeln, die KI darf mal loslegen und was "ausprobieren". In der Regel gibt es dann ein neuronales Netze, dass den Handlungserfolg der KI beurteilt (dieses Netz wurde trainiert). Das Ergebnis dieses Abschätzung führt zu einer justierung der Parameter der KI und dann geht es weiter mit "trail & error".

Interessant wir5d es dann, wenn autonome Agenten selbst die grundlegenden Regeln der Handlungsdomäne erkennen und sich so neue Domänen erarbeiten können. Ich habe im KI Thread diesbezüglich schon mal auf MuZero verweisen. Jedoch fehlt an der Stelle immer noch die autonome (und bewusste) Abschätzung des Handlungserfolges in der bisher unbekannten Domäne.