iMessage-Nacktbilderscanner kommt wohl nach Deutschland

Mit der jüngsten Beta von iOS 16 ist die umstrittene Funktion einem Bericht zufolge auch bei uns und in Frankreich aktiv. Apple geht es um Kinderschutz.

Lesezeit: 3 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 263 Beiträge

Apples "Kommunikationssicherheit" in Aktion.

(Bild: Apples)

Von
  • Ben Schwan

Apple führt eine umstrittene Kinderschutzfunktion für iMessage offenbar nun auch in Deutschland ein. Das berichtet der Spiegel. Die sogenannte "Communication Safety", auf Deutsch "Kommunikationssicherheit", kann auf iPhone, iPad und Mac ankommende und versendete Nacktbilder in der Nachrichten-App erkennen und verstecken, wenn Eltern das wünschen. Kinder werden dann zudem explizit gewarnt. Der Nacktbilderscanner war zuvor nur in einzelnen Märkten aktiviert worden, darunter in den USA.

In der am Mittwochabend erschienenen vierten Betaversion von iOS 16 für Entwickler soll "Communication Safety" nun auch für zwei neue Märkte aktiv sein, heißt es in der Meldung. Neben Deutschland sei dies Frankreich. Zuletzt war das Feature für Großbritannien und Kanada angekündigt worden; erstes Land – schon in iOS 15 – waren die Vereinigten Staaten von Amerika gewesen. Wie außerdem bekannt wurde, genehmigt sich Apple die Möglichkeit, eine "Nacktbildquote" innerhalb der Kommunikationssicherheit zu erfassen, um das Feature auf seine Funktionsfähigkeit überprüfen zu können.

Die Kommunikationssicherheit kann bei Kindern und Jugendlichen ein- und ausgehende iMessage-Nachrichten auf explizite Inhalte überprüfen. Werden diese entdeckt, werden sie zunächst nur versteckt dargestellt und es gibt eine Warnmeldung an den Nachwuchs. In Apples ursprünglicher Funktionsbeschreibung hieß es, dass bei Ignorierung der Warnung eine Kontaktierung der Eltern erfolgt. Nach Kritik unter anderem von LGBTQ+-Verbänden hatte Apple die Warnung an Eltern gestrichen. Diese müssen "Communication Safety" grundsätzlich zuvor für ihren Nachwuchs aktivieren, was wiederum über die Familienfreigabe läuft, deren Teil das Kind sein muss.

Wie genau der Nacktbilderfilter funktioniert, ist unklar. Apple setzt dabei auf künstliche Intelligenz und maschinelles Lernen. Apple hatte zunächst nur geschrieben, man blockiere "explizit sexuelle" Aufnahmen, mittlerweile will man offenbar jegliche Form von Nacktheit ("Nudity") sperren. Auf Nachfrage des Spiegel teilte Apple mit, dass "auch die reine Sichtbarkeit von Genitalien ausreichen kann, um die Hinweise auszulösen". Offenbar entwickelt das Unternehmen die umstrittene Funktion schrittweise weiter.

Ob der Nacktbildfilter in Deutschland wirklich Teil der finalen Version von iOS 16 sein wird, hängt von der weiteren Entwicklung der Betaversion ab. Apple behält sich vor, Funktionen innerhalb der Vorabversion zu ändern, teilweise sogar in großem Maßstab. Das neue Betriebssystem soll im September erscheinen. Neben dem Nacktbildscanner gibt es noch eine deutlich kontroversere neue Funktion: Apple hatte ursprünglich vor, auch die Geräte von Erwachsenen zu scannen, um kinderpornografische Inhalte zu melden. Dies hatte Datenschützer und Sicherheitsexperten alarmiert, weil dies die eigentlich geschützte Kommunikation tangiert hätte. Bislang ist noch unklar, wie es mit diesem Feature weitergeht.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Mehr von Mac & i Mehr von Mac & i

(bsc)