Le système anti-pédophilie d’Apple “dangereux pour la vie privée”, selon des experts

Des experts en cybersécurité affirment que le système ne fonctionne pas et représente un risque important pour la vie privée.

Les technologies de reconnaissances d’images évoluent et avec elles la volonté des états et des entreprises de surveiller davantage les appareils des utilisateurs. 14 spécialistes en cybersécurité ont publié une étude de 46 pages afin d’alerter sur les dangers de ce type de système et plus spécifiquement, le système anti-pédophilie proposé par Apple.

Depuis quelques mois, beaucoup de discussions ont eu lieu sur la technologie d’Apple de « client side scanning », qui vise à détecter les images d’abus sexuels sur des enfants dans les téléphones en analysant les images téléchargées sur iCloud et en les comparant à des bases de données connues. Ce système est supposé signaler les actes répréhensibles aux autorités.

Apple a indiqué en août que l’outil suivrait les « empreintes digitales » des fichiers en les comparant à celles connues de manière automatique, sans que personne ne regarde réellement les images privées des utilisateurs. Il est toutefois difficile d’imaginer qu’aucune vérification humaine ne sera effectuée.

Un danger pour la liberté d’expression
L’annonce de l’outil a suscité de nombreuses réactions de la part des internautes et d’organisations de protection de la vie privée. Les experts estiment que ce type de technologie est dangereuse pour la liberté d’expression, car mise entre de mauvaises mains, elles pourraient permettre à des régimes totalitaires de poursuivre des opposants politiques ou d’autres groupes de personnes. « La résistance aux tentatives d’espionnage de citoyens qui respectent la loi doit être une priorité de la sécurité nationale », ont écrit les chercheurs.

L’Union européenne est quant à elle favorable à la mise en place de cet outil et réfléchit à mettre en place des systèmes similaires pour lutter contre le crime organisé et le terrorisme. « L’expansion des pouvoirs de surveillance de l’État franchit la ligne rouge », prévient le professeur de Cambridge Ross Anderson au NYTimes. Susan Landau, professeur à l’université de Tufts, à Boston, ajoute : « Cela vous permet de scanner des appareils privés sans aucun soupçon d’infraction possible. C’est extraordinairement dangereux. C’est dangereux pour les entreprises, pour la sécurité nationale, pour la sécurité publique et pour la vie privée. »

Si les objectifs derrière ce type de technologie peuvent paraître louables, il est important de mettre dès à présent des limites afin d’éviter toutes dérives. Les chercheurs concluent en affirmant que ces technologies ne fonctionnent pas et indiquent que des personnes ont déjà montré qu’en modifiant très légèrement les images, l’outil n’est plus capable de détecter la modification.