IA favorise civilité en ligne

En utilisant l’IA, les chercheurs ont mis au point une méthode visant à améliorer la qualité et la politesse des conversations en ligne sur des sujets controversés. Ils affirment que, s’ils sont utilisés efficacement, les systèmes d’IA ont le potentiel d’établir un environnement en ligne plus compatissant et sécurisé.

Les discussions en ligne sont devenues un aspect essentiel du discours public. Cependant, les sections de commentaires sur les plateformes de médias sociaux et les sites d’actualités numériques regorgent de conversations qui ont dégénéré en disputes, menaces et langage offensant, en particulier lorsqu’elles portent sur des sujets divisifs.

Des chercheurs de la Brigham Young University (BYU) et de l’Université Duke ont introduit une technologie d’IA conçue pour modérer les discussions en ligne, dans le but d’en améliorer la qualité et de favoriser des interactions plus civiles.

Évaluation des performances du système par le biais d’une expérience sur le terrain

Pour tester l’efficacité du système, ils ont mené une expérience sur le terrain impliquant 1 574 participants. Ces individus ont été chargés de participer à une discussion en ligne sur le sujet controversé de la régulation des armes à feu aux États-Unis, un sujet souvent associé à des débats politiques houleux. Chaque participant a été associé à quelqu’un ayant un point de vue opposé sur les politiques en matière d’armes à feu.

Dans cette expérience, les paires de conversation ont été réparties au hasard en deux groupes : le groupe de traitement et le groupe témoin. Les participants du groupe de traitement avaient la possibilité de recevoir trois reformulations de messages suggérées par GPT-3 avant d’envoyer leurs messages. Ils pouvaient choisir d’envoyer l’une de ces alternatives générées par l’IA, leur message d’origine ou apporter leurs propres modifications.

En fait, dans chaque conversation, en moyenne 12 messages ont été échangés, et un total de 2 742 reformulations proposées par l’IA ont été offertes. Cependant, les participants ont adopté les reformulations suggérées par l’IA dans environ 66% des cas. Les partenaires de discussion des personnes qui ont incorporé une ou plusieurs reformulations recommandées par l’IA ont noté une amélioration substantielle de la qualité de la conversation et ont fait preuve d’une plus grande ouverture à considérer les points de vue de leurs adversaires politiques.

“Nous avons observé que plus fréquemment les participants utilisaient les reformulations suggérées, plus ils estimaient que la conversation n’était pas divisée, et ils se sentaient reconnus et compris”, a expliqué David Wingate, l’un des co-auteurs de l’étude.

L’IA comme solution évolutive pour lutter contre la toxicité en ligne

Les chercheurs soutiennent que leurs conclusions indiquent une solution évolutive pour lutter contre la culture toxique prévalant sur Internet. Ils affirment que la mise en place d’interventions basées sur l’IA serait plus pratique que les approches traditionnelles telles que les sessions de formation professionnelle sur la civilité en ligne, qui sont souvent limitées en termes de portée et de disponibilité. L’IA, en revanche, peut être largement déployée sur différentes plates-formes numériques.

En fin de compte, la recherche souligne que, lorsqu’elle est utilisée de manière appropriée, l’IA peut jouer un rôle essentiel dans la promotion d’un environnement en ligne plus positif, favorisant des discussions qui mettent l’empathie et le respect au premier plan.

Pour conclure, Wingate a exprimé l’espoir que davantage d’étudiants de BYU développent des applications pro-sociales comme celle-ci, positionnant BYU comme un leader démontrant des applications éthiques de l’apprentissage automatique. Il a déclaré : “Dans un monde axé sur l’information, nous avons besoin d’étudiants capables d’utiliser cette information de manière constructive et socialement bénéfique.”

---

Lire l’article original sur : New Atlas

Lire la suite : Robots au match des Chargers