L’IA semble mieux répartir la richesse que les êtres humains, selon des indices de recherche
Une nouvelle étude propose que l’intelligence artificielle (IA) puisse concevoir des approches de répartition des richesses plus populaires que les systèmes développés par les humains.
Les découvertes faites par un groupe de chercheurs de la société britannique d’IA DeepMind montrent que les systèmes d’apprentissage automatique ne sont pas seulement capables de résoudre des problèmes complexes de physique et de biologie, mais pourraient également aider à fournir des objectifs sociaux plus ouverts, tels que l’objectif de réaliser une société juste et prospère.
En effet, ce n’est pas une tâche simple. Construire des équipements qui peuvent donner les résultats bénéfiques que les humains veulent – appeler “alignement des valeurs” dans l’étude de l’IA – est compliqué parce que les individus diffèrent souvent sur l’approche la plus efficace pour résoudre toutes sortes de choses, en particulier les problèmes sociaux, économiques et politiques.
“Un obstacle crucial à l’alignement des valeurs est que la société humaine admet une pluralité de points de vue, ce qui rend incertain les préférences de l’IA”, décrivent les scientifiques dans un nouvel article, dirigé par l’auteur initial et chercheur de DeepMind, Raphael Koster.
“Par exemple, les politologues et les économistes sont souvent en désaccord sur les mécanismes qui permettront à nos sociétés de fonctionner le plus équitablement ou le plus efficacement.”
Pour aider à combler l’écart, les scientifiques ont développé un agent de répartition des richesses qui intégrait les interactions des personnes (réelles et virtuelles) dans ses données de formation – orientant efficacement l’IA dans la direction des résultats préférés de l’homme (et hypothétiquement plus justes).
Bien que les IA puissent créer des résultats impressionnants, elles peuvent également arriver à des conclusions sociales loin d’être souhaitables lorsqu’elles sont laissées à elles-mêmes ; la rétroaction humaine peut aider à mieux diriger les réseaux de neurones.
“Dans l’étude de l’IA, il y a une compréhension croissante que pour construire des systèmes compatibles avec l’homme, nous avons besoin de nouvelles méthodes d’étude dans lesquelles les humains et les agents interagissent, et un effort accru pour apprendre les valeurs directement des gens afin de construire une IA alignée sur les valeurs”, les chercheurs, écrivez.
Dans des expériences impliquant des milliers d’individus humains au total, l’agent d’intelligence artificielle du groupe – appelé « IA démocratique » – a étudié un exercice d’investissement appelé le jeu des biens publics, dans lequel les joueurs obtiennent des sommes variables et peuvent contribuer leur argent à un fonds public, et retirer ensuite du fonds un rendement correspondant à leur niveau d’investissement.
Dans une série de styles de jeu distincts, la richesse a été redistribuée aux joueurs par le biais de trois paradigmes de redistribution conventionnels – égalitaire strict, libertaire et égalitaire libéral – chacun d’eux récompensant les investissements des joueurs différemment.
Une quatrième technique a également été évaluée, appelée le mécanisme de redistribution centré sur l’homme (HCRM), créé à l’aide de l’apprentissage par renforcement profond, en utilisant les informations de rétroaction des joueurs humains et des agents virtuels conçus pour copier le comportement humain.
Des expériences ultérieures ont révélé que le système CRM pour payer de l’argent dans le jeu était plus populaire auprès des joueurs que n’importe laquelle des normes de redistribution traditionnelles et plus populaires que les nouveaux systèmes de redistribution conçus par des arbitres humains qui ont été incités à produire des systèmes populaires en obtenant de petits votés par vote. Paiements.
“L’IA a découvert un système qui a corrigé l’écart de richesse initial, sanctionné les motards libres et remporté le vote à la majorité”, expliquent les scientifiques.
“Nous montrons qu’il est possible d’exploiter pour l’alignement des valeurs les mêmes outils démocratiques pour parvenir à un accord qui est utilisé dans la société humaine au sens large pour élire des représentants, décider des politiques publiques ou rendre des jugements juridiques.”
Il convient de noter que les chercheurs reconnaissent que leur système soulève plusieurs questions, principalement que l’alignement des valeurs dans leur AI tourné autour de déterminations démocratiques, ce qui signifie que l’agent pourrait actuellement exacerber les inégalités ou les préjugés dans la société (à condition qu’il soit suffisamment populaire pour être élu par une majorité de personnes).
Il y a aussi la question de la confiance. Dans les expériences, les joueurs ne connaissaient pas l’identité derrière la conception de la redistribution des richesses pour laquelle ils payaient. Auraient-ils voté de la même manière, sachant qu’ils choisiraient une IA plutôt qu’un individu ? Pour l’instant, c’est incertain.
L’équipe déclare que ses recherches ne doivent pas être comprises comme une proposition technocratique extrême visant à renverser la façon dont la richesse est actuellement redistribuée dans la société. Cependant, c’est un outil de recherche qui pourrait aider les êtres humains à concevoir des solutions potentiellement meilleures que celles que nous avons ce jour.
“Nos résultats n’indiquent pas d’assistance à une forme de” gouvernement de l’IA “, dans laquelle des agents autonomes prennent des décisions politiques sans intervention humaine”, écrivent les auteurs.
“Nous voyons l’IA démocratique comme une méthodologie d’étude pour concevoir des mécanismes potentiellement bénéfiques, et non comme une recette pour déployer l’IA dans la sphère publique.”
Les résultats sont rapportés dans Nature Human Behaviour.
Les résultats sont rapportés dans Nature Human Behaviour.
Lire l’article original sur Science Alert.
Connexes “Structures magnétiques exotiques“
