Unbegrenzte Möglichkeiten?Wer am meisten von Künstlicher Intelligenz profitiert
Die Bedeutung von Künstlicher Intelligenz wächst mit hoher Geschwindigkeit. Doch welche Auswirkungen und Effekte bringt das für die Gesellschaft mit sich? Eine aktuelle Untersuchung liefert Antworten.
Technologie der unbegrenzten Möglichkeiten oder der sichere Weg in die Katastrophe? Die Einschätzungen zur Bedeutung Künstlicher Intelligenz gehen weit auseinander – klar ist jedoch: Ihre Bedeutung wächst. Eine neue Studie in der Fachzeitschrift „Information, Communication and Technology“ wirft nun ein Schlaglicht darauf, dass der zunehmende Einsatz von KI-Tools soziale Ungleichheit zu verschärfen droht.
Ein Team um Sai Wang von der Hongkong Baptist University hat Daten dazu ausgewertet, wie 10.000 US-Amerikanerinnen und -Amerikaner Anwendungen Künstlicher Intelligenz wahrnehmen und nutzen.
Die Daten stammen aus dem sogenannten American Trends Panel und wurden vom Pew Research Center in Washington erhoben. Besonderen Fokus richteten die Studienautoren auf den sozioökonomischen Status – definiert in diesem Fall durch Bildungsgrad und Haushaltseinkommen. Diesen prüften sie auf einen möglichen Zusammenhang dazu, in welchem Ausmaß sich die Befragten über den Einsatz Künstlicher Intelligenz in verschiedenen Kontexten bewusst sind, wie vertraut sie sich mit KI fühlen und inwieweit sie diese nutzen.
Je höher Bildung und Einkommen, desto mehr KI-Kompetenz
Dabei zeigte sich: Menschen mit höherem Bildungsgrad oder Einkommen sind tendenziell vertrauter mit KI, sich stärker über deren Einsatz bewusst und nutzen solche Anwendungen auch mit höherer Wahrscheinlichkeit als Leute mit weniger Geld und Bildung. Dies drohe, die soziale Schere und Chancenungleichheit zu vergrößern.
„So können etwa Bewerber, die wissen, dass Arbeitgeber KI zur Vorauswahl nutzen, ihre Lebensläufe besser darauf abstimmen, während diejenigen, denen dieses Bewusstsein fehlt, Chancen verpassen könnten, ohne es zu merken“, erklärt Wang.
„Menschen mit einem ausgeprägteren Bewusstsein können sowohl die Chancen als auch die Risiken von KI besser einschätzen“ – etwa Deepfakes erkennen. Menschen mit weniger Bewusstsein und Vertrautheit damit liefen eher Gefahr, getäuscht oder manipuliert zu werden. Es sei daher wichtig, diese Lücke zu schließen, da sich sonst soziale Ungleichheiten weiter zu verschärfen drohten, so die Forscherin.
KI oft versteckt in Anwendungen
Eine Erkenntnis überraschte das Forschungsteam: Das bloße Gefühl, mit KI vertraut zu sein, stellte sich als relevanterer Faktor dafür heraus, dass Menschen sich über den Einsatz von KI bewusst sind, als die tatsächliche persönliche Nutzung der Technologien.
Dafür liefern die Autoren auch einen Erklärungsansatz: Anders als bei anderen digitalen Technologien komme KI oft versteckt zum Einsatz – etwa bei Streaming-Empfehlungen oder in Social-Media-Feeds. Viele Menschen würden hier mutmaßlich die Rolle von KI nicht erkennen und die Nutzung daher auch nicht als Nutzung von KI-Technologie einstufen.
KI-Bewusstsein international unterschiedlich
Wang und ihre Kollegen weisen auch auf Einschränkungen ihrer Studie hin: Da die Daten aus den USA stammen, sei unklar, inwiefern sie auf andere Länder übertragbar seien. So sei etwa in vergangenen Studien ein hohes Bewusstsein für den Einsatz von KI in Südkorea, China und Finnland nachgewiesen worden – und in den Niederlanden ein besonders niedriges.
Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz weist darauf hin, dass es stark vom Kontext abhängt, wer von KI profitiert und wer nicht. „Es sind ja gerade die Berufe mit dem weißen Kragen, die durch Sprachmodelle stärker gefährdet sind als Leute im Handwerk oder in Pflegeberufen.“ Allerdings sei vorstellbar, dass im Umgang mit dem Staat oder Gerichten Leute profitierten, die gewissermaßen ins Schema der Systeme passen und sich von der KI Klageschriften schreiben lassen und für ihr Recht eintreten.
KI kann Klischees und Diskriminierung befördern
Neben unterschiedlich ausgeprägter KI-Kompetenz bringen die Systeme weitere Probleme mit sich, die dazu beitragen können, dass bestimmte gesellschaftliche Gruppen durch die Ausbreitung der Technologie benachteiligt werden.
Denn: Dass Künstliche Intelligenz keineswegs neutral ist, haben bereits verschiedene Analysen gezeigt. So spielt etwa eine große Rolle, wer die KI-Modelle trainiert – und mit welchen Daten. Es besteht die Gefahr, dass Klischees und eingefahrene Muster gefestigt werden und sogar Diskriminierung einfließt.
Experte Burchardt erklärt: Diskriminierung durch von Menschen trainierte KI-Systeme könne in ganz verschiedenen Lebensbereichen eine Rolle spielen – etwa in der Medizin, wo gewisse Patientengruppen wegen mangelnder Forschungsdaten durchs Raster fallen. Im Bildungsbereich, wo Menschen mit niedrigerem Bildungsstand andere Bücher empfohlen bekommen oder bei Bewerbungen: Wenn ein im Bewerbungsprozess eingesetztes Tool etwa durch Daten aus den Einstellungen der Vergangenheit lerne „Weiße Männer Mitte 30 sind super für die Firma“, werde die KI auch weiter solche Kandidaten bevorzugen.
Schwarze Männer von KI schlechter bewertet
In einer chinesischen Studie, die im vergangenen Jahr im Journal „PNAS Nexus“ veröffentlicht wurde, fand ein Forschungsteam heraus, dass häufig genutzte Large Language Models (LLMs) wie ChatGPT, Gemini oder Claude schwarze Männer schlechter bewerteten, selbst wenn sie vergleichbare Qualifikationen wie andere hatten. Frauen schnitten generell besser ab.
Carla Hustedt, Leiterin des Bereichs „Digitalisierte Gesellschaft“ bei der Mercator Stiftung, warnte in einem RBB-Podcast aufgrund solcher Verzerrungen, es bestehe das Risiko, dass durch Automatisierung die „menschliche Verantwortung“ für bestimmte Entscheidungen verloren gehe.
Möglichst viele unterschiedliche Modelle
Um den Mechanismen entgegenzuwirken, fordert Buchardt einen möglichst großen Pluralismus: Eigene KI-Modelle von NGOs, Verlagen oder anderen Playern wären vorstellbar und unabhängige europäische Angebote. Denn nur dann habe man Einfluss und könne als Verbraucherin die KI wählen, die so trainiert ist, dass sie nach den eigenen Idealen und Normen arbeitet. „Man muss kreativ werden und Workflows zwischen Mensch und Maschine entwickeln, um möglichst nah an seine Ideale heranzukommen.“ Hierbei spielten moralische Fragen nach den eigenen Werten eine Rolle: Will ich gendern? Wie viele Menschen mit Migrationshintergrund will ich einstellen? Wie will ich meine Mitarbeiter und Kundinnen behandeln? All diese Fragen dürfe man nicht Technikern überlassen.
Zudem warnt der Forscher davor, das Feld den USA und China zu überlassen. Derzeit bekämen die Staaten „Technologieführerschaft und Meinungsführerschaft auf dem Silbertablett präsentiert – und wir bezahlen brav“.
Ein Team um die US-Wissenschaftlerinnen Kelly Joyce und Laurel Smith-Doerr rief in einer bereits 2021 im Journal „Socius“ erschienenen Studie dazu auf, die menschlichen Entscheidungen und Muster hinter KI-Anwendungen transparenter zu machen und ihren Einfluss besser zu verstehen. Dies sei besonders deshalb relevant, da KI bei lebenswichtigen Entscheidungen wie in der Medizin oder bei der Entscheidung von Asylanträgen bereits zum Einsatz kommt oder bald kommen soll. Ansonsten könne die unkritische Nutzung menschlicher Daten in KI-Systemen dazu führen, bestehende soziale Ungerechtigkeiten zu manifestieren oder zu verstärken.
Burchardt plädiert – ähnlich wie bei Telefon oder Internet – auch für eine Art KI-Grundversorgung, die öffentlich gefördert wird. Dies könne verhindern, dass KI ein Werkzeug derjenigen werde, die es sich leisten könnten und stattdessen dafür sorgen, „dass jeder Bürger, jede Bürgerin, unabhängig ihrer finanziellen Verhältnisse eben von diesen neuen Möglichkeiten der Demokratisierung von Kunst, Kultur, Wissenschaft profitieren kann“.
