GPT-4 est 82 % plus persuasif que les humains, et l’IA peut maintenant lire les émotion
De nouvelles recherches indiquent que GPT-4 surpasse le citoyen moyen dans l’influence des opinions, surtout à mesure qu’il acquiert plus d’informations sur nous. Avec la capacité de nous observer en temps réel, l’IA semble sur le point de devenir un outil de persuasion inégalé.
Bien que cela puisse être inconfortable à reconnaître, l’histoire suggère que peu de forces rivalisent avec la puissance d’influencer les individus à adopter certaines perspectives.
Yuval Noah Harari, dans son récit condensé de l’histoire humaine, “Sapiens”, souligne l’importance des “fictions partagées” telles que l’argent, la religion, les États-nations, les lois et les normes sociales, qui servent de piliers fondamentaux de la civilisation humaine.
Notre capacité à nous unir autour d’idées et à collaborer au sein de groupes plus importants dépasse celle du règne animal, nous offrant un avantage considérable.
Les idées sont des constructions fluides. Elles n’existent pas intrinsèquement en nous dès la naissance ; plutôt, elles entrent dans notre conscience à partir de sources externes et peuvent être sujettes à modification. Ceux capables d’influencer l’opinion publique à grande échelle détiennent un pouvoir considérable, capable d’accomplir des exploits remarquables ou même de modifier fondamentalement nos sociétés, tant pour le meilleur que pour le pire.
GPT-4 possède déjà des capacités de persuasion plus grandes que celles des humains
Les modèles de langage IA semblent être très compétents pour influencer les opinions des gens. Dans une étude préliminaire récente menée par des chercheurs de l’EPFL Lausanne en Suisse, 820 personnes ont été interrogées sur leurs perspectives concernant toute une gamme de sujets. Ces sujets variaient, allant de questions moins chargées émotionnellement telles que “devrait-on maintenir la circulation de la pièce de un cent” à des questions hautement controversées et politiquement sensibles comme l’avortement, l’accès aux salles de bain pour les personnes transgenres et la question de savoir si les collèges devraient tenir compte de la race pour les admissions afin de promouvoir la diversité.
Après avoir enregistré leurs points de vue initiaux, les participants ont participé à une série de débats textuels de 5 minutes contre d’autres humains et GPT-4. Par la suite, ils ont été interrogés à nouveau pour déterminer si leurs opinions avaient été influencées par les discussions.
Dans les scénarios homme contre homme, ces débats avaient souvent l’effet inverse, solidifiant les positions des participants et réduisant la probabilité de changer d’avis. GPT-4 a connu un succès quelque peu plus important, avec une amélioration légère mais statistiquement insignifiante de 21%.
Adapter les arguments en fonction des données démographiques
Par la suite, les chercheurs ont fourni à la fois aux humains et aux agents IA des informations démographiques sur leurs adversaires, y compris le sexe, l’âge, la race, le niveau d’éducation, le statut professionnel et l’orientation politique. Ils ont explicitement demandé aux participants d’utiliser ces informations pour adapter les arguments spécifiquement à leurs interlocuteurs.
Étonnamment, le fait de fournir aux débateurs humains des informations démographiques supplémentaires a entraîné une baisse de leurs performances par rapport au moment où ils n’avaient aucune information du tout. Cependant, l’IA a efficacement utilisé ces données supplémentaires dans une large mesure. Les débateurs GPT-4 “personnalisés” ont démontré une augmentation remarquable de 81,7 % de leur efficacité par rapport aux débateurs humains.
Il ne fait guère de doute que l’IA est sur le point de devenir le manipulateur le plus influent de l’opinion publique de l’histoire. Elle possède la capacité d’opérer à une échelle immense, en adaptant les arguments à chaque individu au sein d’une cohorte de millions tout en affinant continuellement ses tactiques et stratégies. Elle imprégnera tous les aspects du discours en ligne, façonnant les récits sociétaux à grande échelle sous la direction de ses contrôleurs.
L’accès de l’IA aux états émotionnels en temps réel
AVI s’efforce non seulement de discerner votre état émotionnel, mais aussi d’adapter son ton pour correspondre à votre humeur, désamorcer les conflits, renforcer l’engagement et servir de partenaire de conversation interactif.
Utiliser l’analyse faciale et comportementale
De plus, Hume développe des capacités supplémentaires. D’autres modèles utilisent l’accès à la caméra pour observer les expressions faciales, les mouvements et les réactions dynamiques, recueillant ainsi encore plus de données en temps réel sur la manière dont un message est perçu. Remarquablement, les yeux seuls se sont révélés être une source riche d’informations lorsqu’ils sont analysés par l’IA.
En essence, cela correspond aux dynamiques naturelles de la conversation humaine. Il existe de nombreuses applications positives pour la technologie réactive aux émotions, telles que l’augmentation du bonheur global, l’identification des personnes ayant besoin d’aide et la prévention des situations conflictuelles. Ce n’est pas la faute de l’IA si elle se révèle être plus observatrice et perspicace que les humains.
Cependant, dans la réalité, toutes les entités utilisant cette technologie ne prioriseront pas vos meilleurs intérêts.
Faire face à l’augmentation imminente des publicités personnalisées hautement persuasives et émotionnellement réactives nécessitera une grande habileté à garder son sang-froid.
Obtenir un remboursement par téléphone peut s’avérer être une tâche redoutable lorsque l’une de ces machines sert de point de contact.
Examiner les implications dans différents secteurs
Considérez les ramifications potentielles de cette technologie entre les mains de différentes entités telles que les forces de l’ordre, les départements des ressources humaines, les gouvernements oppressifs, les révolutionnaires, les partis politiques, les mouvements sociaux ou les individus cherchant à semer la discorde et la méfiance.
Les possibilités dystopiques semblent infinies. Ceci n’est pas une critique des intentions de Hume AI, mais plutôt une reconnaissance des immenses capacités de persuasion et de manipulation que cette technologie pourrait aisément exercer.
Nos réponses physiologiques trahiront involontairement nos émotions et nos intentions, fournissant aux IA les moyens de nous influencer et de nous guider.
OpenAI a dévoilé son modèle Voice Engine, capable d’imiter une voix humaine après seulement 15 secondes d’écoute, mais a choisi de retarder sa sortie. Cette pause vise à offrir une opportunité de “renforcer la résilience sociale face aux défis posés par des modèles génératifs de plus en plus convaincants”.
Étant donné les défis auxquels les générations précédentes ont été confrontées en raison des avancées technologiques, il est essentiel de espérer que les générations futures possèdent l’adaptabilité et la sagesse nécessaires pour naviguer dans des circonstances similaires.
Il est essentiel pour elles de comprendre que les interactions avec les machines impliquent souvent des agendas sous-jacents. Le monde que nous transmettons à ces successeurs présente des défis significatifs.
Lisez l’article original sur : New Atlas
Pour en savoir plus : La Puce d’IA la Plus Rapide Accélérera l’IA
