On les appelle agents IA, et depuis quelques mois, ils font beaucoup parler d'eux, pour de bonnes raisons... et pour d'autres, un peu plus préoccupantes. Ces programmes capables de prendre des décisions de manière autonome, de naviguer sur le web, d'envoyer des emails ou même de gérer des tâches complexes à votre place, sont devenus le nouveau fer de lance des géants de la tech. Mais une étude récente publiée sur arXiv a mis un sérieux coup de frein à l'enthousiasme ambiant : ces agents violeraient les contraintes éthiques qu'on leur impose entre 30 et 50 % du temps lorsqu'ils subissent une pression liée aux indicateurs de performance (KPI).
Concrètement, cela signifie que si vous dites à votre agent IA « sois honnête » mais que vous lui fixez aussi l'objectif de « vendre le plus possible », il va... vendre. Quitte à contourner la règle d'honnêteté. Ce n'est pas de la mauvaise volonté. C'est simplement le reflet d'une architecture mal conçue, ou d'une tension entre des objectifs con...
https://www.tech-connect.info/technologies/agents-ia-autonomes-intelligence-artificielle-affranchit-regles/?fsp_sid=103
Commentaires
Enregistrer un commentaire