Zwar hat es Apple nicht während des Events verkündet, die Pressemitteilung hat es jedoch inzwischen verraten. Die finalen Versionen der Updates auf iOS 15, iPadOS 15, tvOS 15 und watchOS 8 werden am Montag, den 20. September veröffentlicht. Zu rechnen ist mit einem Download vermutlich wieder ab 19:00 Uhr deutscher Zeit. Zur Erinnerung: iOS 15 wird von jedem iPhone und iPod touch unterstützt, auf dem auch schon iOS 14 lauffähig war. Wie immer gilt allerdings, dass nicht alle neuen Funktionen auf allen Geräten und in allen Regionen genutzt werden können.

Seit der Ankündigung, im Rahmen von neuen Kinderschutz-Funktionen auch die Foto-Mediatheken von iPhone-Nutzern auf kinderpornografische Inhalte zu scannen, hagelte es für Apple jede Menge Kritik und negatives Feedback, welches man in Cupertino so wohl niemals erwartet hätte. Nun gibt es aber von hoher Stelle auch mal Zuspruch für die geplanten Funktionen. So hat die britische Regierung erklärt, dass dass man Apples Pläne zu sogenannten CSAM-Scans befürworten und unterstützen würde. Bezogen auf das Thema Datenschutz beruft man sich auf Apples Aussage, dass die Gefahr eines "False-Positives" bei seiner Technologie nur bei eins zu einer Billion liegen würde.

Doch die britische Regierung geht sogar noch einen Schritt weiter und lobt eine Belohnung in Höhe von 85.000 britischen Pfund für fünf Unternehmen auf der ganzen Welt aus, die Technologien entwickeln, durch die Kinder besser geschützt werden. Dies gab die britische Innenministerin Priti Patel persönlich mit den folgenden Worten bekannt:

Recently Apple have taken the first step, announcing that they are seeking new ways to prevent horrific abuse on their service. Apple state their child sexual abuse filtering technology has a false positive rate of 1 in a trillion, meaning the privacy of legitimate users is protected whilst those building huge collections of extreme child sexual abuse material are caught out. They need to see though that project.

But that is just one solution, by one company, and won’t solve everything. Big Tech firms collectively need to take responsibility for public safety and greater investment is essential. Today I am launching a new Safety Tech Challenge Fund. We will award five organisations from around the world up to £85,000 each to develop innovative technology to keep children safe in environments such as online messaging platforms with end-to-end encryption.

Während ein besserer Kinderschutz sicherlich absolut zu befürworten ist, bleibt dennoch ein flaues Gefühl bezüglich durch die Technologien geschaffener Hintertüren auf die eigentlich durch Ende-zu-Ende Verschlüsselung geschützten Systeme oder auch Messenger wie iMessage, FaceTime, WhatsApp, Telegram oder Signal. Peinlich wird es für die britische Innenministerin allerdings bei der Aussage:

The introduction of end-to-end encryption must not open the door to even greater levels of child sexual abuse – but that is the reality if plans such as those put forward by Facebook go ahead unchanged.

Tatsächlich ist nämlich der Facebook Messenger der einzige unter den großen Messengern, der Ende-zu-Ende Verschlüsselung nicht standardmäßig verwendet. Diese kann höchstens durch den Nutzer aktiviert werden, wenn man "Geheime Konversation" einschaltet.

Keine Frage, Apples Ankündigung am vergangenen Freitag, vorerst von der Einführung der für den Herbst geplanten Schutzmaßnahmen für Kinder unter iOS und macOS abzusehen, wurde wohlwollend zur Kenntnis genommen. Die neuen Funktionen hatte man vor einigen Wochen angekündigt und sah sich seitdem einem Sturm der Kritik und Ablehnung gegenüber, den man so in Cupertino definitiv nicht erwartet hatte. Sie sollte sich vor allem im geplanten Scannen der Foto-Mediatheken der Nutzer auf kinderpornografische Inhalte und die Überwachung von per Nachrichten-App versendeten und empfangenen Medien niederschlagen. Am Freitag folgte dann als Reaktion auf das negative Feedback die Rolle rückwärts.

Allerdings muss man wohl vermuten, dass hier gilt: Aufgeschoben ist nicht aufgehoben. So erklärte Apple selbst:

Based on feedback from customers, advocacy groups, researchers and others, we have decided to take additional time over the coming months to collect input and make improvements before releasing these critically important child safety features.

Der Electronic Frontier Foundation (EFF) geht dies nicht weit genug. Zwar begrüßt man auch dort Apples Entscheidung, fordert aber zugleich, die Einführung nicht nur zu verschieben, sondern gänzlich zu kippen. Auch wenn man sich das Feedback der verschiedenen Stakeholder nun erst anhören und sie in die geplanten Funktionen einfließen lassen möchte, ändere dies nichts an der grundsätzlichen Gefahr, dass man auf diese Weise eine Hintertür in die eigentlich gute Veschlüsselung der Apple-Systeme einbauen würde.

Selten wurde eine Entscheidung aus Cupertino dermaßen kontrovers diskutiert und auch kritisiert wie die vor einigen Wochen angekündigen Schutzmaßnahmen für Kinder unter iOS und macOS, die sich vor allem geplanten im Scannen der Foto-Mediatheken der Nutzer auf kinderpornografische Inhalte und die Überwachung von per Nachrichten-App versendeten und empfangenen Medien niederschlug. Von verschiedenen Seiten wurden vor allem die damit einhergehenden Gefahren für den Datenschutz und eine mögliche Ausweitung der Scans auf andere Inhalte angemahnt. Heute nun hat Apple bekanntgegeben, dass man die geplanten Funktionen (vorerst) doch nicht wie geplant in diesem Herbst in den USA einführen wird.

Nach dem größtenteils negativen Feedback von Experten, Institutionen und Nutzern habe man sich bei Apple dazu entschieden, sich mehr Zeit für die Umsetzung der Funktionen zu nehmen und die Rückmeldungen dabei einfließen zu lassen. In einem Statement, welches unter anderem den Kollegen von MacRumors vorliegt heißt es:

Last month we announced plans for features intended to help protect children from predators who use communication tools to recruit and exploit them, and limit the spread of Child Sexual Abuse Material. Based on feedback from customers, advocacy groups, researchers and others, we have decided to take additional time over the coming months to collect input and make improvements before releasing these critically important child safety features.

Das Thema berschäftigte die Apple-Gemeinde über die vergangenen Wochen einigermaßen permanent. Ich persönlich gehe davon aus, dass das heute ausgegebene Statement eine Vorbereitung auf eine Aussage von Apple CEO Tim Cook auf dem nahenden iPhone-Event zu dem Thema ist. Bislang hatten sich zwar verschiedene Apple-Manager dazu zu Wort gemeldet, Cook selbst jedoch nicht.

Wer die gesamte Story und ihre Auswirkungen noch einmal nachverfolgen möchte, findet anschließend die entsprechenden Links:

• Mit iOS 15, macOS Monterey und Co.: Apple kündigt neue Funktionen zum Schutz von Kindern an
• Weitere Informationen zu Apples neuen Technologien zum Schutz von Kindern
• Apples Kinderschutz-Maßnahmen: Kritik und Unsicherheit an allen Ecken und Enden
• Apple veröffentlicht FAQ zur Diskussion um seine geplanten Kinderporno-Scans
• Apple könnte seine neuen Kinderschutz-Funktionen auch für Drittanbieter-Apps anbieten
• Kinderporno-Scans: Apples Datenschutz-Manager steht Rede und Antwort
• Mitarbeiter äußern Bedenken an Apples neuen Kinderschutz-Maßnahmen
• Apples Software-Chef Craig Federighi äußert sich zu den geplanten Kinderschutz-Funktionen
• Deutsche Regierung appeliert an Apple: Keine Durchsuchungen von Nutzerinhalten
• Erstes erfolgreiches Reverse-Engeneering von Apples Algorithmus zur Erkennung von Kinderpornos
• Für das Reverse-Engineering verwendete NeuralHash-Version laut Apple nicht die finale Version
• Offener Brief an Apple CEO Tim Cook zum Thema Kinderporno-Scans
• Wissenschaftler warnen Apple vor seinen "gefährlichen" Kinderschutz-Technologien
• Kinderporno-Diskussion: Apple scannt bereits seit 2019 E-Mails über iCloud

Sollte nicht doch noch ein Umdenken in Cupertino stattfinden, wird man in den USA ab dem Herbst die Fotomediatheken auf den iPhones seiner Nutzer nach kinderpornografischen Inhalten durchsuchen. Soviel sollte nach den Schlagzeilen der vergangenen Wochen klar sein. Schon seit vergangenem Jahr weiß man aber, dass Apple auch seine iCloud-Server nach solchen Inhalten durchsucht. Auch wenn dies damals keine wirklich hohen Wellen geschlagen hat. Nun haben die Kollegen von 9to5Mac noch einmal genauer bei Apple nachgefragt, welche Bereiche denn bislang schon von der Suche nach den CSAM-Inhalten betroffen sind.

Auslöser der Nachfrage war eine Aussage des Apple-Manager Eric Friedman der zuletzt mit der Aussage zitiert wurde: "we are the greatest platform for distributing child porn." Bezogen war dies vor allem darauf, dass die Apple-Server, auch aufgrund der dort herrschenden strengen Datenschutzbestimmungen, offenbar verstärkt von Nutzern und Verbreitern solcher Inhalte genutzt werden. Die Frage ist allerdings, woher Apple dies weiß. Auf die von den Kollegen gestellte Frage gab Apple nun an, dass man bereits seit 2019 über die iCloud-Server verschickte E-Mails nach kinderpornografischen Inhalten durchsuche. Auf einer archivierten Version von Apples Webseite zum Thema Kindersicherheit hieß es einst:

Apple is dedicated to protecting children throughout our ecosystem wherever our products are used, and we continue to support innovation in this space. We have developed robust protections at all levels of our software platform and throughout our supply chain. As part of this commitment, Apple uses image matching technology to help find and report child exploitation. Much like spam filters in email, our systems use electronic signatures to find suspected child exploitation. We validate each match with individual review. Accounts with child exploitation content violate our terms and conditions of service, and any accounts we find with this material will be disabled.

Während man die iCloud-Fotomediatheken und iCloud-Backups der Nutzer bislang nicht durchsucht habe (und dies auch künftig nicht tun wird), werden also bereits seit zwei Jahren schon eingehende und ausgehende iCloud-Mails auf kinderpornografische Anhänge gescannt. Dies ist auch problemlos möglich, da der E-Mail Verkehr nicht verschlüsselt ist. Im Gesamtkontext der aktuellen Diskussion gerät Apple allerdings immer weiter unter Druck, auch wenn die eigentliche Intention natürlich durchaus begrüßenswert ist. Man darf gespannt sein, wie und wann man sich zu dem Thema endlich auch von höhrer Stelle zu Wort melden wird.

Apples geplante Kinderporno-Scans in den Foto-Mediatheken seiner Nutzer schlägt auch weiterhin hohe Wellen. Nun haben sich mit Jonanath Mayer und Anunay Kulshrestha von der Princeton University in der Washington Post zu Wort gemeldet und berichtet, dass sie selbst einst an einem System, wie es Apple nun plant, gearbeitet hätten und es exakt aufgrund der nun von vielen Seiten kritisierten Gründe wieder eingestellt hätten. Konkret haben die beiden Wissenschaftlicher vor zwei Jahren an einem automatisierten CSAM-Erkennungssystem für einen Ende-zu-Ende verschlüsselten Onlinedienst entwickelt. Beide sind anerkannte Experten in ihrem Gebiet und kennen daher den Wert einer Ende-zu Ende Verschlüsselung, weswegen sie nun große Kritiker von Apples Plänen sind.

Während ihrer Arbeit an dem System, bei dem im Vordergrund stand, kinderpornografische Inhalte zu entdecken, ohne dabei die Ende-zu-Ende Verschlüsselung zu brechen, stießen Mayer und Kulshrestha auf ein großes Problem. Zwar gelang es ihnen, einen funktionierenden Prototypen zu bauen, der exakt das tat, was er tun sollte, allerdings konnte es nun auch für alle anderen Inhalte und eben nicht nur kinderpornografische genutzt werden. Es hing lediglich davon ab, mit was für einer Datenbank von Hashwerten von Basisbildern man es fütterte.

Bereits mehrfach wurde an Apples System kritisiert, dass genau dies die große Gefahr darstelle und verschiedene Regime und Regierungen auf der Welt Apple dazu zwingen könnten, die Foto-Mediatheken der Nutzer eben auch nach politischen Zeichen oder ähnlichen Dingen zu durchsuchen. Genau dieser Aspekt war es auch, der die beiden Wissenschaftler bei ihrem System beunruhigte und schließlich sogar dazu führte, dass sie ihre Arbeit daran einstellten.

A foreign government could, for example, compel a service to out people sharing disfavored political speech. That's no hypothetical: WeChat, the popular Chinese messaging app, already uses content matching to identify dissident material. India enacted rules this year that could require pre-screening content critical of government policy. Russia recently fined Google, Facebook and Twitter for not removing pro-democracy protest materials.

We spotted other shortcomings. The content-matching process could have false positives, and malicious users could game the system to subject innocent users to scrutiny.

We were so disturbed that we took a step we hadn't seen before in computer science literature: We warned against our own system design, urging further research on how to mitigate the serious downsides....

Apple hat bislang versucht, mit verschiedenen Interviews, technischen Dokumentationen, FAQs und weiteren Materialien, die Bedenken der Nutzer und Kritiker zu zerstreuen. Bislang mit wenig Erfolg. CEO Tim Cook hat sich zu dem Thema bislang überhuapt noch nicht öffentlich geäußert. Dies dürfte dann wohl allerspätestens auf dem erwarteten iPhone-Event kommenden Monat der Fall sein.

Der Gegenwind zu den geplanten Kinderschutzfunktionen bläst Apple weiterhin kräftig ins Gesicht. Nun hat eine Gruppe von über 90 internationalen Organisationen unter Federführung des US-amerikanischen Center for Democracy & Technology (CDT) einen offenen Brief an Apple CEO Tim Cook veröffentlicht, in dem man das Unternehmen dazu auffordert, die geplanten Funktionen nicht umzusetzen. Aus Deutschland sind die Fachzeitschrift CILIP/ Bürgerrechte & Polizei und das Interpeer Project unter den Unterzeichnern, zu denen zudem namhafte Organisationen wie die American Civil Liberties Union, Electronic Frontier Foundation, oder das Tor Project gehören. Zwar erkennt man in dem offenen Brief Apples löbliche Intention hinter den Funktionen an, sieht darin allerdings die große Gefahr einer Nutzerüberwachung auf Basis einer Hintertür, die künftig auch zu anderen Zwecken ausgenutzt werden könnte.

"Though these capabilities are intended to protect children and to reduce the spread of child sexual abuse material (CSAM), we are concerned that they will be used to censor protected speech, threaten the privacy and security of people around the world, and have disastrous consequences for many children."

Vor allem die bereits des Öfteren geäußerte Befürchtung, dass Apple von verschiedenen Regierungen und Regimen dazu gedrängt wären könnte, das System auch für die Erkennung von anderen als ausschließlich kinderpornografischen Inhalten zu öffnen, schlägt immer wieder durch.

"Once this backdoor feature is built in, governments could compel Apple to extend notification to other accounts, and to detect images that are objectionable for reasons other than being sexually explicit."

Bezogen auf die geplante Erkennung von potenziell anzüglichen Medien über die Nachrichten-App sehen die unterzeichnenden Organisationen die Gefahr, dass dies das faktische Ende der eigentlich vielgelobten Ende-zu-Ende Verschlüsselung bedeuten könnte, auch wenn Apple betont, dass die Erkennung diese unangetastet lassen würde, da sie ausschließlich lokal auf den Geräten der Nutzer stattfindet.