[keko#]

Zitat von Jörn

Ich würde einer Künstlichen Intelligenz nur so weit vertrauen, wie seine Ergebnisse und deren Zustandekommen nachvollziehbar und plausibel sind. Anders ausgedrückt: wenn ich theoretisch selbst zu diesem Ergebnisse hätte kommen können. (Hier sehe ich auch die Verbindung zur Religion, die eine plausible Begründung verweigert und der ich deswegen nicht folge.)

Einer "Black Box" würde ich nicht vertrauen. Ich bestreite aber, dass es sich um eine Black Box handelt. Dies ist eine eingeschmuggelte Voraussetzung. Bei näherem Hinsehen können alle Bestandteile dieser Black Box betrachtet, begründet und verändert werden.


...

Das Ergebnis ist dann eine gewisse Wahrscheinlichkeit, dass auf dem Foto ein Tannenbaum zu sehen ist. Die Maschine hat letztlich keine Ahnung, sondern sie untersucht lediglich Ähnlichkeiten zu einem vorgegebenen Muster. Beim Tannenbaum könnte es sich auch um ein Werbefoto auf einem Lastwagen handeln -- dann ist es zwar ein Tannenbaum, aber gleichzeitig ein Lastwagen. Hm...

...

Am Ende bleibt die Maschine eine Maschine.

Bildverarbeitung ist halt nur eine Anwendung der Netze. Es sieht so aus, als würden Netze manche stark parametrisierte Modelle der Physik ablösen. Als Beispiel hatte ich schon die Schrödingergleichung aufgeführt für quantenmechanische Simulationen chemischer Reaktionen. Man kann dann quasi gar nicht mehr nachvollziehen, welche Parameter das Netz verwendet hat. Löst es also wirklich die Schrödingergleichung? Zudem wird es schwierig, die von dir erwähnten Fehlergrenzen zu setzen.
In manchen Bereichen generieren Netze sich ihr Testfälle auch schon selbst.