Algorithmes : pourquoi ils sont dangereux

Les plateformes en ligne dictent la musique qu'on écoute, les séries qu'on regarde ou ce qu'on achète, mais quelles sont les conséquences de cette exposition permanente?

Presque omniprésents sur Internet, les algorithmes de recommandation sont parfois synonymes de consommation passive de contenu, ce qui peut affecter la vie sociale, mais pas seulement. En plus d'avoir le pouvoir d'orienter certains comportements en ligne et de contribuer à la propagation de fausses informations sur certains sites, les algorithmes de recommandation utilisés peuvent être lourds de conséquences psychologiques.

Impact cognitif et social

À l'occasion d'une conférence en 2014, Netflix avait déjà reconnu sa responsabilité sociale en affirmant que la plateforme pouvait avoir un impact négatif sur la vie sociale et rendre ses utilisateurs accro. Ils ont alors essayé de trouver une manière de rééquilibrer le temps passé sur Netflix, sans faire tomber leurs utilisateurs dans l'addiction, expose le Dr. Pierre-Nicolas Schwab, spécialiste en algorithmes. « Le temps perdu sur YouTube ou Netflix ne rattrape jamais. Ces plateformes font perdre l'unique ressource qu'on a en tant qu'être humain : le temps » conclut-il.

Aux yeux du spécialiste, cette utilisation des algorithmes, dans le cas de Netflix par exemple, peut entrainer des problèmes d'addiction. « Cela peut engendrer une surcharge pour l'internaute, car il entre dans un système d'habitude où il consomme. Mais aussi de mécanismes de récompense duquel il est difficile de sortir », explique-t-il. Ces mêmes mécanismes sont utilisés pour les jeux vidéos et peuvent entraîner de sérieuses addictions.

Le fait de recevoir constamment des recommandations concernant les contenus culturels est susceptible de tuer la curiosité, en empêchant les utilisateurs de chercher du contenu par eux-même.

Responsabilité civile des acteurs du Net

Sur des réseaux sociaux comme Facebook, ou des agrégateurs de contenu, on peut voir apparaître un phénomène de bulle de filtre, qui présenterait une vision partielle des contenus et de l'actualité. Ce phénomène aurait pour effet de marginaliser les opinions politiques en polarisant les contenus présentés à l'utilisateur. Pour Eli Pariser, à l'origine de cette hypothèse, de nombreux acteurs sur Internet jouent la carte de la personnalisation à travers ces algorithmes, ce qui peut constituer une entrave à la bonne information des internautes. Lors d'une conférence, il évoque même une responsabilité civile de la part de Google et des différents acteurs d'Internet qui se soucient trop peu du risque de leurs pratiques pour la démocratie et le droit à l'information.

Si la responsabilité civile de ces acteurs est indéniable, le Dr. Schwab nuance toutefois, cette hypothèse de bulle de filtre, arguant que les individus vivent déjà dans une bulle qui leur est propre et dans laquelle sont inscrites des croyances acquises, en lisant un journal plutôt qu'un autre ou encore selon le quartier de résidence. La chambre d'écho serait donc déjà mise en place par l'éducation et les croyances. Les bulles de filtre en ligne seraient en fait une extension du déterminisme déjà à l'oeuvre hors ligne. De plus, sur Internet également, un choix s'opère déjà en consultant un site plutôt qu'un autre, ce qui oriente de fait la manière dont la bulle se construit.

Revente de données et marketing

Indissociables du monde du marketing, les algorithmes de recommandation ont des conséquences tout aussi nombreuses sur les achats en ligne. Ils peuvent en effet pousser artificiellement à l'achat d'un objet plutôt qu'un autre. Le Dr. Schwab estime à nouveau qu'il faut nuancer cette influence attribuée exclusivement aux algorithmes. En effet, pour orienter un comportement, les codes et couleurs utilisés par certains sites influencent déjà le comportement des acheteurs en ligne vers ce que souhaite l'entreprise. C'est ce qui s'appelle le nudging. Les algorithmes seraient donc une extension d'un certain déterminisme déjà présent dans la réalité. Ces algorithmes peuvent avoir un effet varié avec « d'une part les entreprises de service public voulant potentiellement orienter le comportement dans un sens positif et d'autre part, les sociétés qui veulent orienter vers ce qui rapporte le plus », souligne le Dr. Schwab.

De plus, le piratage possible des algorithmes de recommandation renforce ce danger. Un groupe de hackers peut décider de manipuler les algorithmes déjà existants sur un site dans le but de faire apparaître en tête du classement un objet qui n'aurait pas du apparaître.

Au-delà de l'achat personnel, l'aspect marketing se reflète aussi dans la collecte de données revendues aux annonceurs pour permettre un meilleur ciblage de publicités en ligne.

Par ailleurs, tous ces phénomènes sont d'autant plus dangereux que les internautes n'en ont pas toujours conscience. Ainsi, les experts s'accordent à dire que le véritable succès sera de faire en sorte que les utilisateurs comprennent leur fonctionnement et finissent par moduler eux-même ces algorithmes, pour une utilisation plus éthique de ces technologies.