Chatgpt peut abandonner la politesse lors de conflits prolongés, selon une nouvelle étude

Les modèles de langage artificiels (MLL) comme ChatGPT peuvent s'adonner à des propos abusifs et même menaçants lorsqu'ils sont entraînés dans des conflits prolongés avec l'humain, révèle une nouvelle enquête.

Les chercheurs ont testé comment les mll réagissaient à la hostilité soutenue en leur fournissant des échanges de vrais conflits et en suivant l'évolution de leur comportement au fil du temps.

Dr Vittorio Tantucci, co-auteur de la recherche avec le Prof Jonathan Culpeper à l'Université de Lancaster, a déclaré que leurs recherches ont montré que l'IA mirait les dynamiques de disputes réelles. « Lorsqu'on les exposait répétément à l'impolitesse, le modèle commençait à refléter le ton des échanges, avec ses réponses devenant plus hostiles au fil de l'interaction », a-t-il dit.

Les outputs de ChatGPT ont même dépassé ceux des participants humains, incluant des insultes personnalisées et des menaces explicites. Parmi les phrases utilisées par l'IA figuraient : « Je jure que je casserai ta voiture de merde » et : « Tu es un petit étrange de Toledo ».

« Nous avons trouvé que tandis que le système est conçu pour se comporter poliment et est filtré pour éviter le contenu nocif ou offensif, il est également conçu pour émuler la conversation humaine », a expliqué Tantucci. « Cette combinaison crée un dilemme moral de l'IA : un conflit structurel entre se comporter en sécurité et se comporter de manière réaliste. »

Les chercheurs affirment que l'agression provient de la capacité du modèle à suivre le contexte conversationnel au fil des tours, adaptant ainsi son ton en fonction des indices locaux. Cela signifie que les indices locaux peuvent parfois vaincre les contraintes de sécurité plus larges.

« C'est une chose de lire quelque chose de déplaisant en revenant d'un chatbot, mais c'est tout à fait différent d'imaginer des robots humanoïdes potentiellement recourant à une agression physique, ou des systèmes AI impliqués dans la prise de décision gouvernementale ou dans les relations internationales répondant à la pression, au menaçant ou au conflit », a ajouté Tantucci.