Le plan d'Apple pour scanner votre téléphone augmente les enjeux sur une question clé : pouvez-vous faire confiance à Big Tech ?


Apple a développé les moyens de numériser des images sur votre téléphone. Pouvez-vous faire confiance à l'entreprise pour protéger votre vie privée ? Sheldon Cooper/SOPA Images/

ce qui a conduit l'entreprise à annoncer un retard.

Apple, Facebook, Google et d'autres sociétés scannent depuis longtemps les images des clients qui sont stockées sur les serveurs des sociétés pour ce matériel. L'analyse des données sur les appareils des utilisateurs est un changement important.

Aussi bien intentionné soit-il, et qu'Apple soit ou non disposé et capable de tenir ses promesses de protéger la vie privée des clients, le plan de l'entreprise met en évidence le fait que les personnes qui achètent des iPhones ne sont pas maîtres de leurs propres appareils. De plus, Apple utilise un système d'analyse compliqué qui est difficile à auditer. Ainsi, les clients sont confrontés à une dure réalité :, vous devez faire confiance à Apple.

Plus précisément, les clients sont obligés de faire confiance à Apple pour n'utiliser ce système que comme décrit, faire fonctionner le système en toute sécurité au fil du temps et faire passer les intérêts de leurs utilisateurs avant ceux des autres parties, y compris les gouvernements les plus puissants de la planète.

Malgré le plan jusqu'à présent unique d'Apple, le problème de la confiance n'est pas spécifique à Apple. D'autres grandes entreprises technologiques ont également un contrôle considérable sur les appareils des clients et un aperçu de leurs données.

Qu'est-ce que la confiance ?

La confiance est " la volonté d'une partie d'être vulnérable aux actions d'une autre partie ", selon les sociologues. Les gens fondent la décision de faire confiance sur l'expérience, les signes et les signaux. Mais le comportement passé, les promesses, la façon dont quelqu'un agit, les preuves et même les contrats ne vous donnent que des points de données. Ils ne peuvent garantir une action future.

Par conséquent, la confiance est une question de probabilités. En un sens, vous lancez les dés chaque fois que vous faites confiance à quelqu'un ou à une organisation.

La fiabilité est une propriété cachée. Les gens recueillent des informations sur le comportement futur probable d'une personne, mais ne peuvent pas savoir avec certitude si la personne a la capacité de tenir parole, est vraiment bienveillante et a l'intégrité - principes, processus et cohérence - pour maintenir son comportement au fil du temps, sous pression ou lorsque l'inattendu se produit.

Faites confiance à Apple et à la Big Tech

Apple a déclaré que son système d'analyse ne serait jamais utilisé que pour détecter le matériel d'abus sexuel d'enfants et qu'il dispose de plusieurs protections solides en matière de confidentialité. Les détails techniques du système indiquent qu'Apple a pris des mesures pour protéger la confidentialité des utilisateurs à moins que le matériel ciblé ne soit détecté par le système. Par exemple, les humains n'examineront le matériel suspect d'une personne que lorsque le nombre de fois que le système détectera le matériel ciblé atteint un certain seuil. Cependant, Apple a donné peu de preuves sur la façon dont ce système fonctionnera dans la pratique.

Après avoir analysé l'algorithme "NeuralHash" sur lequel Apple base son système d'analyse, les chercheurs en sécurité et les organisations de défense des droits civiques avertissent que le système est probablement vulnérable aux pirates, contrairement aux affirmations d'Apple.

Les critiques craignent également que le système ne soit utilisé pour rechercher d'autres éléments, tels que des indices de dissidence politique. Apple, ainsi que d'autres acteurs Big Tech, a cédé aux demandes des régimes autoritaires, notamment la Chine, pour permettre la surveillance gouvernementale des utilisateurs de technologies. En pratique, le gouvernement chinois a accès à toutes les données des utilisateurs. Qu'est-ce qui sera différent cette fois-ci ?

Il convient également de noter qu'Apple n'exploite pas ce système seul. Aux États-Unis, Apple prévoit d'utiliser les données du National Center for Missing and Exploited Children et de lui signaler des éléments suspects. Ainsi, faire confiance à Apple ne suffit pas. Les utilisateurs doivent également faire confiance aux partenaires de l'entreprise pour agir avec bienveillance et intégrité.

Le bilan moins qu'encourageant de Big Tech

Cette affaire existe dans un contexte d'invasions régulières de la vie privée des Big Tech et vise à restreindre davantage les libertés et le contrôle des consommateurs. Les entreprises se sont positionnées comme des parties responsables, mais de nombreux experts en protection de la vie privée affirment qu'il y a trop peu de transparence et peu de preuves techniques ou historiques de ces allégations.

Une autre préoccupation concerne les conséquences imprévues. Apple pourrait vraiment vouloir protéger les enfants et protéger la vie privée des utilisateurs en même temps. Néanmoins, la société a maintenant annoncé - et jalonné sa fiabilité - une technologie bien adaptée à l'espionnage d'un grand nombre de personnes. Les gouvernements pourraient adopter des lois pour étendre la numérisation à d'autres documents jugés illégaux.

Apple, et potentiellement d'autres entreprises technologiques, choisiraient-ils de ne pas suivre ces lois et de se retirer potentiellement de ces marchés, ou se conformeraient-ils à des lois locales potentiellement draconiennes ? On ne sait rien de l'avenir, mais Apple et d'autres entreprises technologiques ont déjà choisi d'accepter des régimes oppressifs. Les entreprises technologiques qui choisissent d'opérer en Chine sont contraintes de se soumettre à la censure, par exemple.

Peser s'il faut faire confiance à Apple ou à d'autres entreprises technologiques

Il n'y a pas de réponse unique à la question de savoir si on peut faire confiance à Apple, Google ou leurs concurrents. Les risques sont différents selon qui vous êtes et où vous vous trouvez dans le monde. Un militant en Inde fait face à des menaces et à des risques différents de ceux d'un avocat de la défense italien. La confiance est une question de probabilités, et les risques ne sont pas seulement probabilistes mais aussi situationnels.

C'est une question de probabilité d'échec ou de tromperie avec laquelle vous pouvez vivre, quels sont les menaces et les risques pertinents, et quelles protections ou atténuations existent. La position de votre gouvernement, l'existence de lois locales strictes sur la protection de la vie privée, la force de l'état de droit et vos propres capacités techniques sont des facteurs pertinents. Pourtant, il y a une chose sur laquelle vous pouvez compter : les entreprises technologiques ont généralement un contrôle étendu sur vos appareils et vos données.

Comme toutes les grandes organisations, les entreprises technologiques sont complexes : les employés et la direction vont et viennent, et les réglementations, les politiques et la dynamique du pouvoir changent.

Une entreprise peut être digne de confiance aujourd'hui mais pas demain.

[Over 100. Sign up today.]

Big Tech a montré dans le passé des comportements qui devraient amener les utilisateurs à remettre en question leur fiabilité, en particulier en ce qui concerne les violations de la vie privée. Mais ils ont également défendu la confidentialité des utilisateurs dans d'autres affaires, par exemple dans l'affaire de la fusillade de masse de San Bernadino et les débats ultérieurs sur le cryptage.

Enfin, la Big Tech n'existe pas dans le vide et n'est pas toute puissante. Apple, Google, Microsoft, Amazon, Facebook et d'autres doivent répondre à diverses pressions et pouvoirs externes. Peut-être, compte tenu de ces circonstances, une plus grande transparence. plus de contrôle des utilisateurs.

Bien qu'il ne s'agisse que d'une première étape, les consommateurs seraient au moins en mesure de faire des choix plus éclairés sur les produits à utiliser ou à acheter.

Laurin Weissinger reçoit un financement du Social Science Research Council.