Stephen Hawking a mis en garde contre les dangers de l’intelligence artificielle – mais l’IA lui a offert une voix

Le regretté Stephen Hawking était une voix puissante dans la discussion sur la façon dont l’humanité peut tirer parti d’un système expert. Hawking a clairement exprimé ses craintes que l’équipement de réflexion puisse un jour prendre en charge. Il est allé jusqu’à prévoir que les futures croissances de l’IA “pourraient conduire à la fin de l’humanité”.

Mais la relation d’Hawking avec l’IA était encore plus complexe que cette phrase sonore souvent citée. Les problèmes profonds qu’il a exprimés avaient à voir avec l’IA surhumaine, le facteur auquel les systèmes d’IA non seulement dupliquent les processus d’intelligence humaine, mais continuent également de les augmenter, sans notre soutien – une étape qui est au mieux dans des années si elle se produit déjà dans tous . Et pourtant, la capacité même d’Hawking à interagir avec ces inquiétudes et toutes ses autres idées impliquées dépend de l’innovation standard de l’IA.

La relation conflictuelle d’Hawking avec l’IA Dans les centres de réglementation du droit d’auteur et du bien-être de l’Université DePaul, mes collègues et moi avons étudié les résultats de technologies émergentes comme celles sur lesquelles Stephen Hawking a insisté. À la base, l’idée de l’IA implique une technologie informatique moderne développée pour faire fonctionner les appareils avec une prévoyance qui ressemble et finit par dépasser les procédures de pensée humaines.

Hawking a mis en garde contre un type sévère d’IA, dans lequel les créateurs de pensée se “supprimeraient” par eux-mêmes, se changeant ainsi que les individus fabriquant et construisant des systèmes toujours plus performants. Les gens, liés par la lenteur de l’évolution biologique, seraient tragiquement déjoués.

L’IA comme danger pour l’humanité ?

Eh bien, avant de spécifier une technologie moderne surhumaine, l’IA peut être utilisée à des fins horribles. Actuellement, les universitaires et les analystes soulignent que les drones autonomes pourraient être des précurseurs de la robotique indépendante mortelle.

Le début de l’IA d’aujourd’hui soulève également plusieurs autres problèmes éthiques et pratiques. Les systèmes d’IA reposent en grande partie sur des algorithmes opaques qui prennent des décisions dont leurs propres concepteurs peuvent être incapables de discuter. Les modèles mathématiques sous-jacents peuvent être compromis et des erreurs de calcul peuvent se produire. L’IA pourrait considérablement déplacer les capacités humaines et augmenter le chômage. De plus, un accès limité à l’IA peut accroître les inégalités internationales.

L’étude de cent ans sur le système expert, publiée par l’Université de Stanford en 2014, a mis en évidence quelques-unes de ces inquiétudes. Cependant, il n’a identifié aucune preuve que l’IA représentera sans aucun doute une “menace de brassage” pour l’humanité, comme Hawking l’a craint.

Pourtant, les vues d’Hawking sur l’IA sont un peu moins alarmistes et plus nuancées que celles pour lesquelles il obtient généralement des cotes de crédit. En leur cœur, ils expliquent la nécessité de comprendre et également de gérer les technologies modernes émergentes. Il a appelé à plusieurs reprises à davantage de recherches sur les avantages et les risques de l’IA. Il pensait pareillement que même les systèmes d’IA non surhumains pourraient aider à éradiquer la bataille, la pauvreté et la condition.

Hawking parle

Cette contradiction évidente – une préoccupation pour l’humanité d’être finalement dépassée par l’IA, mais une vision positive de ses avantages entre-temps – peut provenir de sa propre vie : Hawking avait dû dépendre de l’IA pour se connecter au monde. Incapable de parler, depuis 1985, il a utilisé une collection de divers systèmes d’interaction qui l’ont aidé à parler et à écrire, se terminant par l’ordinateur désormais légendaire actionné par un muscle de sa joue droite.

La toute première itération du programme informatique était d’une lenteur exaspérante et aussi vulnérable aux erreurs. Une IA extrêmement fondamentale a transformé cela. Un programme open-source a rendu son choix de mots beaucoup plus rapide. Plus important encore, il a utilisé l’intelligence artificielle pour examiner les propres mots d’Hawking, puis il a utilisé ces informations pour l’aider à partager de nouvelles idées. En traitant les livres, les comptes rendus et les scripts de cours d’Hawking, le système a si bien fonctionné qu’il n’a pas eu à taper le terme que les gens se rapportent le plus à lui, “le trou noir”. Lorsqu’il sélectionnait “le”, “noir” était automatiquement suggéré pour le suivre, et “noir” invitait certainement “trou” sur l’écran.

L’IA améliore la santé et le bien-être des gens

L’expérience de Stephen Hawking avec un type d’IA aussi fondamental illustre à quel point une IA non surhumaine peut sans aucun doute améliorer la vie des individus. La prédiction de la parole l’a aidé à gérer une maladie neurologique dévastatrice. D’autres systèmes basés sur l’IA aident actuellement à éviter, à combattre et à réduire le fardeau de la maladie.

Par exemple, l’IA peut évaluer les unités de détection cliniques et d’autres informations sur le bien-être pour anticiper la probabilité qu’un patient contracte une infection sanguine grave. Dans les recherches, elle était considérée comme encore plus précise – et offrait des précautions beaucoup plus avancées – que les différentes techniques.

Un différent groupe de chercheurs a créé un programme d’IA pour examiner les dossiers électroniques de santé et de bien-être de 700 000 personnes. Le programme, appelé “Deep Person”, a mis au jour des affiliations qui n’étaient pas apparentes aux professionnels de la santé, identifiant de nouveaux schémas de danger pour des cellules cancéreuses spécifiques, des problèmes de diabète ainsi que des troubles psychiatriques.

L’IA a également alimenté un système de traitement chirurgical robotisé qui a surpassé les spécialistes humains dans le traitement des porcs qui sont très similaires à une procédure sur des patients humains.

Il y a tellement de garanties pour que l’IA améliore la santé et le bien-être des individus que la collecte d’informations cliniques est devenue un fondement à la fois de l’avancement des logiciels et de la politique puth aux États-Unis. D’un million d’Américains. Le format sera mis à la disposition des systèmes d’IA pour examen lors de la recherche de nouveaux traitements médicaux, améliorant potentiellement les diagnostics médicaux et le rétablissement des personnes.

Tous ces gains de l’IA sont offerts aujourd’hui, et bien d’autres sont dans les emplois. Ils suggèrent que les systèmes d’IA surhumains pourraient être incroyablement efficaces. Pourtant, malgré les avertissements d’Hawking et de son collègue visionnaire de l’innovation Elon Musk, ce jour pourrait ne jamais arriver. En attendant, comme l’a reconnu Hawking, il y a beaucoup à gagner. L’IA lui a fourni une voix bien meilleure et plus fiable que ce que son corps pouvait donner, avec laquelle il avait besoin à la fois de recherche et de restriction.