Stefana BROADBENT, anthropologue à l’école de Polytechnique de Milan, a exposé des éléments de réponse à l’Académie des sciences : « Entre maîtrise et dépossession, l’IA au service au service d’une cognition distribuée » (c’est la 2e vidéo et ça commence à 47:20)
Sur la base de ses études et ceux de ses collègues, il y a un paradoxe :
- le numérique est vécu par ses utilisateurs comme un espace de choix et de pouvoir agir.
- les chercheurs de ces études pointent une exploitation massive des données de l’attention (ex: temps passé sur une page), des contenus et à une opacité systématique des objectifs
Pour Stefana, la préoccupation des utilisateurs commence à apparaître, lorsque que les « algorithmes » s’accompagnent d’un pouvoir « bureaucratique » qui peut prendre une décision critique sur la vie d’individu. Cette anthropologue prend cet exemple qui a eu lieu en 2020 en Angleterre :
- Au moment du BAC, les épreuves ont été annulés à cause du COVID : les notes des épreuves du BAC n’étaient donc plus le critère pour admis dans une université.
- Pour apporter une solution, il était au départ prévu que la note finale serait basée sur les notes scolaires et les recommandations des professeurs.
- Cependant, le ministère de l’éducation a décidé qu’il fallait prendre d’autres critères, pour homogénéiser la comparaison d’étudiants issus d’établissements différents. L’algorithme qui a été retenu était celui basé sur la taille du lycée: les notes des étudiants, dans les établissements ayant un grand nombre d’élèves, ont donc été ajusté vers le bas. Ces établissements, étant situés dans les milieux les plus défavoriser, a été perçu comme injuste et une réaction immédiate s’en est suivie.
- D’importantes manifestations ont eu lieu et ont finalement mis un terme à ces résultats, pour revenir à un retour de la situation décrite au point 2.
La chercheuse pose donc la question « Comment un individu peut réagir ou s’approprier de certains de ces éléments ? ». Elle cite Mozilla Foundation travaille sur une IA personnelle, qui interagirait avec des systèmes « bureaucratiques » pour interroger et éventuellement contrer certaines décisions. Une autre piste serait de combiner l’IA avec les individus: la possibilité de faire collaborer un grand nombre de personnes, pour générer des contenus de connaissances plus vastes, plus diversifiées.
Selon cette professeur, le mythe de l’IA n’est donc pas dans celui du « monstre », de cette intelligence substitutive qui remplacerait le cerveau humain, mais celui d’un système prédictif sans appel: celui des choix algorithmiques arbitraires et indiscutables. Construisons donc un autre mythe: celui des d’une participation citoyenne, qui serait aidée par des techniques de l’intelligence artificielle, comme celle du « machine learning » par exemple.