Google führt KI-Scan für sensible Fotos auf Android ein – Datenschutz oder Überwachung?
Finn Klein
Google führt KI-Scan für sensible Fotos auf Android ein – Datenschutz oder Überwachung?
Google hat eine neue, KI-gestützte Funktion für Android-Geräte eingeführt, die Fotos automatisch auf sensible Inhalte überprüft. Das Tool, das explizite Bilder wie Nacktaufnahmen unkenntlich macht, war zunächst in Google Messages verfügbar, bevor es plattformweit ausgebaut wurde. Es arbeitet nun als integrierter Systemdienst und analysiert Medien direkt auf den Geräten der Nutzer, ohne Daten extern weiterzugeben.
Der Schritt folgt wachsenden Forderungen von Gesetzgebern und Sicherheitsexperten nach stärkerem Datenschutz in Messaging-Apps. Zwar zielt die Funktion darauf ab, die Sicherheit zu erhöhen, doch ihre geschlossene Quellcode-Struktur hat bereits Bedenken hinsichtlich Transparenz und potenziellen Missbrauchs geweckt.
Ursprünglich unter dem Namen SafetyCore eingeführt, debütierte die Technologie in Google Messages, um Betrug, Spam und schädliche Inhalte zu erkennen. Später wurde sie zu einem versteckten Android-Dienst, der KI-Funktionen direkt auf dem Gerät antreibt – etwa Warnungen vor sensiblen Inhalten. Bis März 2026 sollen weitere Updates die Integration mit Play Protect vorantreiben, um die Erkennung von Schadsoftware und die Analyse von App-Verhalten zu verbessern.
Die Funktion arbeitet mit lokal auf dem Gerät ausgeführten Machine-Learning-Modellen. Bilder werden gescannt und klassifiziert, ohne an Google oder Dritte übermittelt zu werden. Für jüngere Nutzer ist der Schutz standardmäßig aktiviert, während Erwachsene ihn manuell in den Einstellungen einschalten müssen.
Kritiker weisen darauf hin, dass der fehlende Open-Source-Code eine Überprüfung der Funktionsweise der Modelle erschwert. Einige warnen, dass dieselbe Technologie irgendwann für eine umfassendere Inhaltsüberwachung zweckentfremdet werden könnte – mit ethischen und rechtlichen Folgen. Andere argumentieren, dass ohne vollständige Transparenz nicht sicherzustellen ist, dass Nutzerdaten tatsächlich privat bleiben.
Die Aktualisierung erfolgt zu einer Zeit, in der Tech-Unternehmen unter zunehmendem Druck stehen, Sicherheit und Privatsphäre in Einklang zu bringen. Gesetzgeber und Cybersecurity-Behörden fordern strengere Schutzmaßnahmen, insbesondere bei verschlüsselter Kommunikation. Googles Ansatz setzt auf geräteinterne Analysen, doch bleiben Sorgen, wie sich solche Tools künftig entwickeln könnten.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Die neue Funktion setzt einen Präzedenzfall für Inhaltsmoderation direkt auf dem Gerät – Google präsentiert sie als datenschutzfreundliche Lösung. Sie ist für Kinder automatisch aktiviert, während Erwachsene sie in den Einstellungen freischalten müssen. Mit der Weiterentwicklung ähnlicher Tools dürfte die Debatte über Sicherheit, Transparenz und mögliche Übergriffe weiter an Fahrt aufnehmen.
