[Helmut S]

Zitat von Klugschnacker

Die Debatte um den Willen künstlicher Intelligenz führen wir deshalb, weil wir abschätzen wollen, ob künstlich intelligente Systeme sich verselbständigen und wir die Kontrolle über sie verlieren können.

Die Antwort auf diese Frage ist: Ja, wir können die Kontrolle verlieren.

Wenn wir uns die Welt anschauen, sehen wir an vielen Stellen, wo wir die Kontrolle verloren haben. Ich meine, dass wir als Menschen ziemlich schlecht in dem sind, was man Technologiefolgenabschätzung (TFA) nennt. Noch schlechter sind wir m.E. darin, auf politischer Ebene Maßnahmen gegen das umzusetzen, was wir aus der TFA lernen/befürchten - wenn überhaupt.

Es ist aber auch ein Dilemma: Anfangs, wenn eine neue Technologie auftaucht, weiß man nicht genau was die negativen Folgen sein werden. Zeigen sich dann diese Folgen, ist die Technologie oft schon in breiter Nutzung und Regulierung/Steuerung ist schwer bis unmöglich.

-----

Viel realer, als die Gefahr, dass wir die Kontrolle über KI Agenten verlieren könnten, schätze ich die missbräuchliche Verwendung von KI ein. Hier sind wir viel "näher" dran (bzw. in Anfängen sogar mitten drin). Putin, Trump, Kim Jong-Un, Xi Jinping, ... you name it ... das sind so Kandidaten aus meiner Sicht, wo ich es nicht so prickelnd finden würde, wenn die so ne ganz tolle "Tomorrow-AGI" unter ihrer Kontrolle hätten. Dabei muss die sich noch gar nicht verselbstständigen, einen eigenen Willen haben oder sonst was. Ich muss in diesem Thread nicht aufzählen, was wir heute schon im Cyberspace sehen. KI Influenzer, Bots, Hacks, ... hier udn da agentengetrieben ... wir wissen es nicht genau. Man kann gut "spinnen", was alles so möglich sein könnte, ohne das wir über Willen, über Verselbstständigung, AI Embodiment, Weltmodelle etc. sprechen.