根據外國Vice報道,蘋果最近宣佈的防兒童色情新系統,未推出即爆出漏洞。有專業人士發現,兩張相片加密後hash字串竟然一樣。這表示一張正常相片有可能會被誤認為兒童色情相片,令用戶無辜出事。
蘋果防兒童色情系統的其中一個部份NeuralHash,就是把用戶相片加密轉化成hash字串,然後與CSAM已知兒童色情資料庫中已加密的hash字串配對,若果兩款字串成功配對,這代表用戶相片或與兒童色情有關。有專業人士發現蘋果加密的方式並公開,其後再有程式設計員發現上圖兩張相片加密後hash字串竟然一樣,這代表用家的相片有可能被系統誤認與其他相片為相同。正如剛才所述,這代表一張正常相片有可能會被誤認為兒童色情相片,令人被標籤為有問題用戶。
報道形容就像防毒軟件般,只是因為其hash一樣,就誤把正常的檔案認為有毒檔案,把正常檔案刪除一樣。不過,報道亦提到蘋果的系統若發現用戶有超過30次配對成功,蘋果會再以人手檢查,確保該用戶真的有兒童色情內容,才會通知執法部門。但是,有專家擔心,有上述如此大的漏洞,除了極有可能令用戶無辜中招外,也有可能令蘋果人手檢查的次數增多。有專家更擔心,未來可能會有人專登傳送與已知兒童色情資料庫中加密hash字串一樣的相片,針對指定目標讓目標受害。
蘋果回應稱公開了的NeuralHash演算法只是一般版本,並不是最終使用版本。