Autonomes Fahren, Bildbearbeitung, Auswertungen medizinischer Untersuchungen – überall boomt KI. Sie trifft Entscheidungen und hilft als netter Chatbot. Forschende warnen vor einem unkritischen Einsatz.
„Die KI kann rechnen, aber entscheiden muss der Mensch“, sagt Maximilian Kiener vom Institut für Ethik in der Technologie an der Technischen Universität Hamburg.
Bei Karriereentscheidungen helfen oder den Therapeuten ersetzen – für fast jedes Problem scheint Künstliche Intelligenz sofort die richtige Antwort zu haben. Die Anbieter konstruieren Chatbots auch fast immer nett und unkritisch.
Diese Menschlichkeit sei aber nur eine gefährliche Illusion, der Anwender zu oft vertrauen, sagt Maximilian Kiener. „Was gar nicht geht, sind Wertsetzungen. Welchen Karriereweg soll ich verfolgen? Anwalt werden, Ärztin werden? Da gibt es nicht die eine Antwort. Das ist auch keine Rechenaufgabe. Das Problem, das immer wieder auftaucht, ist, dass wir alle komplexen Probleme in das KI-Format drücken wollen.“
Sind Deepfakes eine Innovation?
Bei Themen wie Einsamkeit oder Bildung ginge es oft um soziale Fragen. Das sei keine technisch lösbare Aufgabe für KI. Maximilian Kiener sieht in einigen neuen KI-Anwendungen keine Innovation. „Dinge, die nur neu sind, sind keine Innovation. Ich tue mich beispielsweise sehr schwer, Deepfake-Bilder von Kindern, die vielleicht auch sexualisiert dargestellt werden, als Innovation zu erkennen.“
Ethik bremst nach Auffassung des KI-Forschers nicht die Entwicklung von KI, sondern macht sie erst wirklich nützlich für Menschen. Optimal sei es, wenn KI und Mensch von Anfang an zusammenarbeiten, um gemeinsam Lösungen zu finden, sagt Kiener.
Chatbot fragt nach
Matthias Uhl, Professor für Wirtschafts- und Sozialethik an der Universität Hohenheim, hat einen sokratischen Chatbot entwickelt: „Die sokratische KI unterscheidet sich von der konventionellen KI dadurch, dass sie Fragen stellt und mir hilft, meine eigene Lösung auf die Probleme zu finden, anstatt mir direkte Antworten zu geben.“
Ein Team der Universität Hohenheim und der Universität Bamberg hat dieses Sprachmodell in mehreren Experimenten getestet. Das Ergebnis: Der angepasste Chatbot konnte Nutzern helfen, moralisch ausgewogenere Entscheidungen zu treffen.
Doch das Team entdeckte bei der Anwendung auch eine Hürde, sagt Matthias Uhl. „Die rückfragende KI wird weniger gerne gewählt. Wenn man den Leuten die Wahl lässt, dann wollen sie lieber direkten Ratschlag bekommen.“ Hier soll zukünftig ein möglichst ansprechendes Design die Nutzung attraktiver machen.
Fachleute oft skeptisch
Während private Nutzer Künstlicher Intelligenz oft schnell vertrauen, sind Fachleute häufig skeptischer. Beispielsweise im medizinischen Bereich: KI-Systeme können Röntgenbilder zuverlässig schnell auswerten. Trotzdem tun sich viele Mediziner mit der Technik schwer.
Wer viel weiß, unterschätzt KI-Analysen, auch wenn sie genauer sind – das haben die Forschenden herausgefunden. Eine neue KI könnte helfen, meint Matthias Uhl. „Wenn das System seine Unsicherheit offenlegt, dann kann es auch dazu führen, dass der Empfänger dem Rat stärker vertraut, wenn es beispielsweise sagt, ich bin mir bei dieser Klassifikation zu 90 Prozent sicher.“
Bereits im kommenden Jahr sollen Fachleute aus der Medizin das neue KI-System testen können.
