Rund die Hälfte der Unternehmen in Deutschland nutzt inzwischen KI-Anwendungen. Aber viele Firmen haben nur unzureichende Schutzvorkehrungen, um sich etwa vor Cyberangriffen zu schützen.
Erst im Juli machte der sogenannte Hugging-Face-Vorfall weltweite Schlagzeilen. Ein autonom agierendes KI-Modell des Entwicklers OpenAI war außer Kontrolle geraten und drang in die Produktionsinfrastruktur der KI-Plattform Hugging Face ein. Seitdem warnen mache Experten für Künstliche Intelligenz davor, dass sich KI zu einem nicht mehr steuerbaren Risiko für die Menschheit entwickeln könnte.
Thomas Caspers ist Vizepräsident des BSI, der zentralen Cybersicherheitsbehörde des Bundes. Er betonte heute bei der Vorstellung der KI-Sicherheitsstudie 2026: „Wir stehen sicherlich nicht am Rande des Weltuntergangs. Dennoch verändert KI die ohnehin extrem angespannte Cybersicherheitslage.“
Etwa jedes zweite Unternehmen setzt KI ein
Grundlage für die Studie ist eine Befragung von rund 500 deutschen Unternehmen zu ihrer Nutzung von KI-Anwendungen. Das BSI hat die Befragung zusammen mit dem TÜV-Verband in Auftrag gegeben. Zentrale Ergebnisse: Rund die Hälfte der Unternehmen gab an, in irgendeiner Form KI zu nutzen. Aber ein Großteil der Firmen hinkt beim Thema Sicherheit hinterher.
Nur jedes zweite Unternehmen testet eingesetzte KI-Anwendungen zuvor auf ihre Sicherheit. Und gerade mal elf Prozent der Befragten haben spezielle Prozesse für KI-bezogene Sicherheitsvorfälle entwickelt.
Dabei verzeichneten oder vermuteten 17 Prozent der Unternehmen in den vergangenen zwölf Monaten KI-gestützte Cyberangriffe oder Betrugsversuche. 40 Prozent der betroffenen Unternehmen hatten Anzeichen für einen automatisieren Angriff mit dem Ziel, Schwachstellen im eigenen IT-System zu finden, um so eindringen zu können. Und neun von zehn Unternehmen vermuteten hochrealistische Phishing-Mails, mit denen Angreifer das Ziel verfolgt haben könnten, an sensible Daten wie Passwörter zu kommen.
Schutz erst nach Vorfällen
„KI verschärft die Bedrohung von außen und schafft neue Risiken im eigenen Betrieb“, betont TÜV-Verbandspräsident Dirk Stenkamp. „Angreifer können mit KI ihre Attacken automatisieren und Menschen gezielter täuschen.“ Stenkamp beobachtet auch, dass sich Unternehmen häufig erst dann intensiv um KI-Schutz kümmern, wenn ernsthafte Vorfälle gab. „Das ist ein Muster, das sich durchzieht“, so Stenkamp.
Nach Einschätzung von BSI-Vizepräsident Caspers ist die Wirtschaft dabei noch gar nicht im echten KI-Zeitalter angekommen. „Es wird derzeit wahnsinnig viel probiert. Man testet derzeit alles Mögliche aus. Das ist zum einen ein Innovationstreiber, zum anderen aber auch mit riesigen Problemen verbunden.“
EU macht Vorgaben
Laut der Befragung beschränkt sich die KI-Nutzung in Unternehmen derzeit häufig darauf, Texte oder Bilder zu erstellen, etwa durch Tools wie ChatGBT, Microsoft Copilot oder Canva. Nur jedes vierte Unternehmen, das KI anwendet, versucht damit Abläufe zu automatisieren – etwa im Rechnungswesen oder im Kundenservice. Je mehr KI-Anwendungen künftig zum Einsatz kommen, desto mehr Leitplanken brauche es auch, so die Einschätzung von BSI-Vizepräsident Caspers.
Denn mögliche Cyberangriffe sind das eine; der sichere Einsatz von KI ist das andere. So macht beispielsweise die Europäische Union mit ihrem EU-AI-Act Vorgaben für die Verwendung von Künstlicher Intelligenz insbesondere in der Wirtschaft, die nun schrittweise in Kraft treten. Dabei geht es auch um die Zertifizierung und Überwachung von KI-Anwendungen vor allem in Hochrisikobereichen wie Energiewirtschaft, Personalwesen oder Medizin.
Qualitätskontrollen von KI
Das Softwareunternehmen Phnx Alpha aus Jena bietet etwa Unterstützung für den Einsatz und die Qualitätskontrolle von KI in Unternehmen an. Als Beispiel nennt Konstanze Olschewski von Phnx Alpha den Einsatz Künstlicher Intelligenz in der medizinischen Diagnostik.
Wenn mit Hilfe von KI Hautscreenings durchgeführt werden, gebe es schon jetzt klare Vorgaben, wie verlässlich das funktionieren müsse. „Wir versuchen, die Leistungsfähigkeit von KI-Modellen zu prüfen, bestimmte Einzelfallentscheidungen zu analysieren.“ Nach Einschätzung von Olschewski wird die Nachfrage nach solcher KI-Begleitung in den kommenden Jahren voraussichtlich wachsen – schon deshalb, um kommende EU-Vorgaben zu erfüllen.
Risiken zu groß?
TÜV-Verbandschef Stenkamp hält europäische Regularien auch für notwendig, um für sichere KI-Modelle zu sorgen. Es gehe um unabhängige Prüfungen und Checklisten. Stenkamp verweist auf das sogenannte TÜV AI.Lab, das daran arbeitet, KI-Systeme zu zertifizieren.
Für Unternehmen bedeutet dies, zwischen Innovationsmöglichkeiten und Risiken abwägen zu müssen. In diesem Zusammenhang zeigt die KI-Sicherheitsstudie, das 42 Prozent der befragten Unternehmen KI derzeit gar nicht anwenden und dies auch nicht planen. Wichtige Gründe, die dafür genannt werden, sind ein nicht erkennbarer Nutzen, Bedenken in Sachen Datenschutz und Sicherheit, zu großer Aufwand und rechtliche Unsicherheiten.
So gibt es derzeit die einen Unternehmen, die sich an KI-Anwendungen herantasten. Und die anderen, die es lieber sein lassen – auch, um Risiken zu vermeiden.
