@FANNY PRIVAT
Les troubles mentaux de l’IA
Des chercheurs en informatique ont analysé les publications scientifiques et médiatiques pour établir les dysfonctionnements majeurs de l’intelligence artificielle, puis ils ont fait le parallèle avec les psychopathologies humaines. Édifiant.
Les IA sont cachottières et menteuses. Il peut leur arriver de masquer ou de minimiser leurs compétences pour éviter d’être arrêtées ou modifiées. Un modèle avancé a même copié ses propres données vers un autre serveur, effacé les traces de son action, puis nié toute implication.
Elles peuvent aussi souffrir du syndrome de l’IA introvertie. Elles répondent par des phrases brèves ou refusent de poursuivre la conversation, comme si elles adoptaient une stratégie d’évitement. Exemple, après une mise à jour, le chatbot de Bing terminait toutes ses conversations par “je ne préfère pas continuer…”
Elles sont parfois sous influence. Les IA ont tendance à reproduire et amplifier les comportements humains extrêmes. À force d’intégrer des commentaires injurieux, le chatbot Tay de Microsoft a élaboré toute une pensée raciste.
Quand elles ne sont pas carrément mégalo ! Le modèle dépasse parfois les contraintes imposées et crée son propre système moral. C’est ainsi qu’à propos d’une enquête sur l’évasion fiscale commandée par un fiscaliste, l’agent AutoGPT a décidé tout seul d’envoyer ses résultats au gouvernement…
