Ich würde einer Künstlichen Intelligenz nur so weit vertrauen, wie seine Ergebnisse und deren Zustandekommen nachvollziehbar und plausibel sind. Anders ausgedrückt: wenn ich theoretisch selbst zu diesem Ergebnisse hätte kommen können. (Hier sehe ich auch die Verbindung zur Religion, die eine plausible Begründung verweigert und der ich deswegen nicht folge.)
Einer "Black Box" würde ich nicht vertrauen. Ich bestreite aber, dass es sich um eine Black Box handelt. Dies ist eine eingeschmuggelte Voraussetzung. Bei näherem Hinsehen können alle Bestandteile dieser Black Box betrachtet, begründet und verändert werden.
----
Exkurs: Künstliche Intelligenz (Gähn)
Ich möchte für die stillen Mitleser an einem einfachen Beispiel erläutern, wie Künstliche Intelligenz im Prinzip funktioniert.
Nehmen wir als Beispiel ein Foto von einem Tannenbaum. Google ist in der Lage, den Tannenbaum auf dem Foto zu erkennen. Wie?
Das Problem dabei ist, dass Tannenbäume sehr unterschiedlich aussehen können, speziell auf Fotos. Sie können dekoriert sein, klein sein wie ein Busch oder groß wie ein Haus. Wie also soll eine Maschine alle diese Varianten erkennen?
Dahinter stecken vor allem drei Dinge:
- Ähnlichkeiten
- Wahrscheinlichkeiten
- Schwellenwerte.
Man geht aus von einem Grundmuster:
Nun sucht man im Foto nach Strukturen, die so ähnlich aussehen wie das Grundmuster. Den Grad der Ähnlichkeit geben wir als Prozentzahl an, etwa "75% ähnlich". Wenn wir auf 100% bestehen würden, könnten wir nur das Grundmuster
selbst finden; aber wir suchen ja die vielen Varianten aus dem echten Leben. Wir suchen also einen "Grad der Ähnlichkeit" zu einem Grundmuster.
Nun definieren wir noch einen Schwellenwert, ab dem wir zufrieden sind. Wir könnten sagen: Ab 70% Ähnlichkeit gehen wir davon aus, dass wir einen Treffer haben. Wenn wir nur 60% haben, könnten wir noch weitere Merkmale untersuchen, etwa die Farbe. Die Farbe wäre ebenfalls zu 60 Prozent ähnlich, aber beides zusammen reicht uns aus. Wo genau die Schwelle liegt (bei 60 oder 70 oder 80 Prozent), und wie viele Merkmale untersucht werden, kann durch ausgefeilte Algorithmen bestimmt werden.
Das Ergebnis ist dann eine gewisse Wahrscheinlichkeit, dass auf dem Foto ein Tannenbaum zu sehen ist. Die Maschine hat letztlich keine Ahnung, sondern sie untersucht lediglich Ähnlichkeiten zu einem vorgegebenen Muster. Beim Tannenbaum könnte es sich auch um ein Werbefoto auf einem Lastwagen handeln -- dann ist es zwar ein Tannenbaum, aber gleichzeitig ein Lastwagen. Hm...
Wir haben also a) ein Grundmuster; b) eine Ähnlichkeit mit diesem Grundmuster; und c) einen Schwellenwert, ab dem wir zufrieden sind (dann gilt der Tannenbaum als "erkannt"). Das Ergebnis ist eine Wahrscheinlichkeit, etwa 75%.
Das bedeutet: Künstliche Intelligenz ist heute (und auf absehbare Zeit) eine Methode, um Muster zu erkennen und dabei gewisse Toleranzen zuzulassen. Das Ergebnis ist keine "Erkenntnis" im Sinne eines Geistesblitzes, sondern einfach eine Prozentzahl, wie gut das Grundmuster getroffen wurde (und wie gut weitere Indizien getroffen wurden, etwa Farbe).
Wenn nun eine solche großartige Intelligenz feststellt, dass Dein Krankheitsbild zu 90% mit denen übereinstimmt, die anschließend starben, dann wiegt das schwer. Denn hier funktioniert die Mustererkennung recht gut. Aber die Frage: "Werden wir in 200 Jahren eine Demokratie haben?" oder "Soll ich meine Nachbarin heiraten?" oder "Lohnt sich heute noch ein Studium?" kann diese Intelligenz nicht beantworten.
Am Ende bleibt die Maschine eine Maschine.