Communication Safety: Kinderschutz-Funktion im Anflug

Der hauseigene Nachrichtendienst iMessage wird zukünftig um die Funktion "Communication Safety" erweitert. Ziel der neuen Funktion ist es, Kinder vor unangemessenen Inhalten zu schützen. Dabei geht es hauptsächlich um Bilder mit pornografischen/nackten Personen oder Körperteilen. Apple bedient sich dabei einem Analysenverfahren, die durch maschinelles Lernen und künstliche Intelligenz entsprechende Inhalte auf dem iPhone oder iPad erkennt und automatisch verpixelt darstellt. 

Mit Tippen auf das Bild erscheint dem Kind oder dem Jugendlichen eine Warnung, die darauf hinweist, dass das Bild vermutlich heikle Inhalte darstelle. Mit dem Hinweis erscheint gleichzeitig die Empfehlung, sich einem Erwachsenen anzuvertrauen und um Hilfe zu bitten. 

Die in iMessage eingehenden Fotos werden ausschließlich lokal auf dem jeweiligen Gerät gescannt. Hinter dem Scan steckt dasselbe Feature, das in der Foto-Galerie bereits seit Langem für die Erkennung von Personen eingesetzt wird. Eine Übermittlung an Dritte erfolgt nicht, so das Unternehmen. 

Die Ende-zu-Ende-Verschlüsselung sämtlicher Nachrichten wird durch den Foto-Scan nicht beeinträchtigt. Apples Aussagen zufolge erhält das Unternehmen keine Information darüber, ob Eltern die Kinderschutz-Funktion auf dem iPhone oder iPad ihres Kindes aktivieren. Auch über gesperrte Inhalte gelangt keine Information zu Apple.  

Bei dem kommenden Sicherheitsfeature handelt es sich um eine Opt-In-Funktion. Das heißt, dass das Feature von Haus nicht aktiv ist. Eltern müssen die Funktion für die Geräte aktivieren. Die Aktivierung erfolgt in der Kindersicherung über die Familienfreigabe. Apple hat den Service so konfiguriert, dass sich dieser nur für Familienmitglieder unter 18 Jahre aktivieren lässt. Zusätzlich muss das Kind über eine Apple-ID verfügen, die Teil der Familiengruppe ist.