端到端|苹果将推出的“儿童保护”功能，为何会引发争议_icloud|斯诺登|iphone

自1959年的《儿童权利宣言》到1989年《儿童权利公约》在联合国大会上被批准以来，在二战后的人类现代化进程中，对于儿童的保护也成为了共识。但随着近年来通过互联网侵犯儿童权利的现象不时出现，日前苹果方面宣布，将与专业组织合作推出全新的儿童安全功能。

文章插图
8月7日，苹果在官网正式发布“扩大儿童保护”公告，宣布将在iOS 15、iPadOS 15，以及macOS Monterey系统中，推出3项新功能为儿童提供更好的保护措施，分别为Messages通信安全、Siri搜索拓展以及iCloud照片检测。
然而，苹果的善意之举却在海外一石激起千层浪，相当多人肯定了这一举动的初衷，但对具体做法持反对意见，更有超过4000余家组织和个人联署公开信，敦促其放弃“儿童安全”功能。这封由安全专家、密码学家、法律界人士和普通消费者等共同发起的联名信，谴责苹果这项新技术侵犯个人隐私，其中既有爱德华·斯诺登这样的名人，也有此前为苹果加密和隐私政策摇旗呐喊的电子前沿基金会（EFF），以及社交软件WhatsApp的CEOWill Cathcart，以及Epic Games CEO Sweeney。

文章插图
那么，苹果宣布即将推出的这项功能，到底如何触动了这些人的神经呢？具体来说，引发争议的是其中iCloud照片检测功能。据悉，苹果计划根据美国国家失踪和受剥削儿童中心（NCMEC）资料库中已知的信息，来扫描用户的iCloud照片库，以寻找匹配的内容和儿童信息，以帮助加强对儿童安全和隐私的保护。
也就是说，苹果方面将利用iPhone、iPad、Mac的机器学习能力，扫描上传到iCloud的照片，此后与美国NCMEC提供的数据库进行对比，一旦系统检测发现匹配的图片达到阈值就会开启人工干预，并向相关机构发出警报。

文章插图
当然，苹果肯定不是直接在云端扫描用户iCloud里的图片信息，而是利用A系列、M1处理器的AI算力在本地进行检测。并且苹果方面也不会直接查看用户的相册内容，而是使用一种名为“NeuralHash”的加密技术，在确保相同且视觉上相似的图像具有相同哈希值的基础上，将NCMEC的数据库以及用户设备上的图片分别提取出一组“哈希值”来进行比对。

文章插图
据悉，这一匹配过程将由“私有集交集”（PSI）加密技术提供支持，而PSI技术则是雾计算的成果。作为云计算的延伸，雾计算的数据集中在网络边缘的设备中，而非性能强大的服务器集群，这就给了苹果让“iCloud照片检测”运行在用户本地的基础。同时，PSI计算允许两方实体，也就是NCMEC资料库与用户iCloud中的照片在不泄露除交集结果以外其他信息的前提下，计算出双方实体的集合交集。
此外，为进一步提高用户的接受程度，“iCloud照片检测”为使用NeuralHash的比对结果设计了“阈值秘钥分享”，只有比对结果超出临界值，设备才会自动回报，并授权给苹果浏览内容的权限，下一步才是进入人工审查以确认是否有违法事件，确认才会通报给NCMEC。苹果方面对此宣称，这一阈值拥有极高的准确度，可确保每年错误标记账户的概率低于万亿分之一。

文章插图
从苹果无法看到用户具体的iCloud照片、而是只能看到一组哈希值，到检测是在用户本地设备而不是在云端进行，再到准确性极高的阈值设定以避免殃及无辜，这一套设计看上去可谓是滴水不漏，既实现了保护儿童的目标，又在一定程度上降低了用户的抵触心理。