Apple revoit l’algorithme de Siri pour le rendre moins féministe

La firme californienne souhaite que son assistant personnel soit aussi neutre que possible, notamment sur les questions relatives au féminisme.

Contrairement à ses concurrents directs que sont Alexa et Google Assistant, Siri ne laisse sous-entendre aucune opinion lorsqu’il répond aux questions de ses utilisateurs. Si Google et Amazon n’hésitent pas à prendre parti sur certains sujets, la firme de Cupertino préfère jouer la carte de la neutralité, notamment avec son assistant personnel. C’est pourquoi en juin 2018, Apple aurait réécrit certaines réponses concernant des sujets tels que le féminisme ou le mouvement #MeToo, comme le révèle le journal américain The Gardian.

En effet, selon des documents internes dénichés par le journal, Apple aurait procédé à une modification de l’algorithme de Siri pour éviter de se mettre à dos qui que ce soit. Ainsi, les documents auxquels a eu accès The Gardian sous-entendent que « Siri doit être prudent sur les contenus potentiellement controversés », tels que le féminisme ou le mouvement #MeToo.

La reprogrammation de Siri aurait eu lieu en juin 2018 et l’assistant personnel aurait intégré de nouvelles règles inspirées des célèbres lois de la robotique d’Asimov :

« Un être artificiel ne doit ni se présenter en tant qu’humain, ni, par omission, laisser penser à l’utilisateur qu’il en est un »
« Un être artificiel ne doit pas trancher avec les standards éthiques et moraux humains ayant cours dans sa zone d’opération »
« Un être artificiel ne doit pas imposer ses propres principes, valeurs ou opinions à un humain »
L’objectif est avant tout d’éviter que Siri affiche un point de vue. Si un utilisateur pose des questions sur des sujets polémiques, l’assistant personnel d’Apple le renverra vers des définitions « neutres » tout en excluant certaines définitions qui pourraient laisser sous-entendre une prise de position de la part de Siri ou de sa maison-mère.

Certaines interactions ont également été modifiées. Ainsi, lorsqu’on lui adresse une insulte sexiste, Siri ne répond plus que par « je ne répondrai pas à ça ». Auparavant, sa réponse était plutôt du registre de « je rougirais si je le pouvais ».