@SHUTTERSTOCK
IA : toujours plus vulgaire, raciste, complotiste
Rapide, efficace, prétendument impartiale, elle est partout. On lui confie même notre santé, notre police, notre justice. Sauf que ces réseaux de neurones fondés sur des données statistiques révèlent de dangereux biais sectaires. Un mal intrinsèque au modèle…
“Nous constatons que les modèles amplifient les biais présents dans leurs données d’entraînement”, viennent de reconnaître les ingénieurs de Meta AI, l’organe de recherche en intelligence artificielle de Facebook, après s’être penchés sur les modèles de reconnaissance d’images les plus en pointe. Des biais qui avaient déjà poussé IBM à abandonner dès 2020 le déploiement de son système de reconnaissance faciale, dénoncé pour ses penchants sexistes et racistes. Suivi en 2021 par Facebook sur sa plate-forme…
Même aveu du côté des chercheurs de DeepMind, la société d’IA de Google qui développe des modèles de traitement du langage capables de manier des centaines de milliers de paramètres. Dans une publication de 2022, ils concluent que le fait d’agrandir ces programmes d’intelligence artificielle les rend plus fluides… mais pas plus dignes de confiance.
