„Notbremse“ gefordertMicrosoft-Boss sorgt sich vor KI-Kontrollverlust
Ausgerechnet die maßgeblichen Entwickler und Profiteure von KI-Modellen warnen vor deren Risiken. Nun mahnt auch Microsoft-Chef Nadella fortgeschrittene Mechanismen zur Eindämmung an: „Etwas, was man nicht überwachen kann, kann man nicht vertrauen.“
Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art „Notbremse“ in künstlicher Intelligenz gefordert. Ein Mensch müsse immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem Beitrag auf X. Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern, betonte der Chef des Software-Konzerns, der selbst in großem Stil auf KI setzt.
In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ängste vor Risiken der Technologie befeuert. In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face. Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschließen könne, dass außer Kontrolle gerate künstliche Intelligenz die Menschheit vernichte. Solche extremen Warnungen sind allerdings umstritten.
Nadella betonte auch, dass alle Aktionen künstlicher Intelligenz für Menschen nachvollziehbar sein müssten. „Etwas, was man nicht überwachen kann, kann man nicht vertrauen“, schrieb er. Außerdem dürfe kein KI-Modell die Kontrolle über die Daten haben, mit denen man sein Verhalten bewerte. Man müsse bei jedem KI-Modell zur Sicherheit von Beginn an davon ausgehen, dass es „kompromittiert“ sei und Eindämmungs-Mechanismen einrichten.
Der Unterschied zu bisher eingesetzter Software sei, dass man bei heutiger künstlicher Intelligenz Verhalten und Ergebnisse nicht mehr bestimmten Eingaben, Trainingsdaten oder Konfigurationen zuschreiben könne, schrieb Nadella. Und dennoch würden diese komplexen Systeme gerade breit eingeführt und bekämen Zugang zu sensibelsten Daten. Microsoft stieß ins KI-Geschäft als früher Geldgeber des ChatGPT-Entwicklers OpenAI vor und forscht inzwischen auch an eigenen Modellen.
Microsoft beugt sich Trump-Duktus
Der Microsoft-Chef benutzte in seinem Beitrag durchweg den Begriff „Superintelligenz“, den US-Präsident Donald Trump statt der etablierten Bezeichnung künstliche Intelligenz durchsetzen will. Vor wenigen Tagen kündigte Trump an, dass das Weiße Haus jeden, der noch künstliche Intelligenz sagt, als einen „Feind“ betrachten werde. Trump begründet seinen Vorstoß damit, dass der gewohnte Name die Technologie „fake“ erscheinen lasse. Der Tech-Milliardär und Trump-Unterstützer Elon Musk kündigte bereits an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen.
Bereits Ende September hatte Anthropic-Chef Dario Amodei in einem Essay dazu aufgerufen, das Tempo zu „verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“. Die dadurch „gewonnene Zeit“ solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen. Unterstützung bekam er trotz des Konkurrenzkampfs zwischen beiden Unternehmen von OpenAI-Chef Sam Altman, zudem stellten sich auch Nadella, Musk und DeepMind-Chef Demis Hassabis hinter den Vorstoß. Trump verlieh Nadella und anderen Tech-Chefs in dieser Woche die National Medal of Technology and Innovation.
