Mithilfe von Künstlicher Intelligenz will der Meta-Konzern überprüfen, ob sich Kinder unter 13 auf Instagram oder Facebook bewegen. Dafür sollen auch Bilder und Videos analysiert werden. Betroffene können sich aber wehren.
Der Internetkonzern Meta reagiert auf die wachsende Kritik an seinem Umgang mit dem Schutz von Minderjährigen. Die Facebook- und Instagram-Mutter hat angekündigt, in sämtlichen Staaten der Europäischen Union (EU) sowie den USA und Großbritannien eine Technologie zur automatischen Erkennung minderjähriger Nutzer einzuführen.
Sie setze Konten auch dann in den besonders geschützten Teenager-Modus, wenn Anwender ein falsches Geburtsdatum angäben. Mithilfe Künstlicher Intelligenz (KI) würden sämtliche Aktivitäten daraufhin geprüft, ob ein Nutzer mutmaßlich minderjährig ist, hieß es weiter.
KI analysiert Bilder, Videos und Kommentare
Die KI-gestützte Software analysiert dabei nicht mehr nur textbasierte Profilinformationen, sondern erfasst auch den Kontext von Bildern, Kommentaren und Videos (Reels).
Erkennt die KI auf einem Foto etwa Glückwünsche, Ballons oder Kuchen zum elften Geburtstag, wird das Konto als potenziell minderjährig eingestuft und bei Bestätigung des Verdachts gelöscht. Betroffene können jedoch Widerspruch einlegen und ihr Alter durch Ausweisdokumente nachweisen.
Zudem solle die Technologie es Jugendlichen erschweren, neue Konten mit falschen Altersangaben zu eröffnen.
Netzwerke stehen seit Längerem unter Druck
Die EU wirft Meta vor, Kinder unter 13 Jahren nicht energisch genug von seinen Plattformen wie Facebook oder Instagram fernzuhalten. Die EU-Kommissionsvizepräsidentin Henna Virkkunen plant eine eigene europaweite App, um die Alterprüfung durchzusetzen.
Zudem laufen diverse Gerichtsverfahren gegen die Branche, in denen die Unternehmen beschuldigt werden, die Verbreitung KI-generierter, sexualisierter Bilder nicht einzudämmen oder mit dem Design ihrer Apps Suchtverhalten zu fördern.
Recherchen der Nachrichtenagentur Reuters zufolge ließ Meta zudem seinem KI-Chatbot große Freiheiten bei der Kommunikation mit Minderjährigen. Die Software dürfe „Kinder in romantische oder sinnliche Gespräche verwickeln“. Für diese Berichterstattung erhielten Reuters-Journalisten den renommierten Pulitzer-Preis.
Kein EU-weites Verbot geplant
In mehreren EU-Ländern – darunter Frankreich, Spanien und Österreich – wird aktuell diskutiert, soziale Medien für Minderjährige unter einem bestimmten Alter (teils bis 15 oder 16 Jahre) komplett gesetzlich zu sperren, ähnlich wie es Australien bereits umgesetzt hat.
Die EU-Kommission lehnt ein pauschales Verbot bisher ab und setzt stattdessen auf die strenge technische Verifikation. Ob und wie sich die geplante Einführung der Meta-Kontroll-KI auf die Sicht Brüssels über Meta auswirkt, bleibt abzuwarten.
