Expert du MIT sur les ordinateurs puissants et l’innovation
Questions-réponses : Neil Thompson du MIT sur la puissance de calcul et l’innovation
La technologie dans de nombreuses industries a été alimentée par des augmentations rapides de la vitesse et de la puissance des micropuces, mais la trajectoire future de ces énormes progrès peut être menacée.
Gordon Moore, cofondateur d’Intel, a annoncé que le nombre de transistors sur une puce se débloquerait chaque année ou plus. Cette prédiction est connue sous le nom de loi de Moore.
Depuis les années 1970, cette prévision a été majoritairement réalisée ou dépassée ; la puissance de traitement augmente environ tous les 2 ans, tandis que les micropuces bien meilleures et aussi plus rapides deviennent moins chères.
Pendant de nombreuses années, cette augmentation exponentielle de la puissance des ordinateurs a stimulé l’innovation. Cependant, au début du 21e siècle, les chercheurs ont commencé à s’inquiéter du fait que la loi de Moore pourrait ralentir. Il existe des restrictions physiques sur la dimension et le nombre de transistors qui peuvent être entassés dans un microprocesseur économique utilisant la technologie actuelle du silicium.
Afin d’évaluer la valeur d’ordinateurs plus puissants pour améliorer les résultats dans l’ensemble de la société, Neil Thompson, chercheur au Laboratoire d’informatique et d’intelligence artificielle (CSAIL) du MIT, également à la Sloan School of Administration, et son équipe de recherche ont décidé de faire simplement cela. Ils ont examiné 5 domaines où l’informatique est nécessaire, tels que les prévisions météorologiques, l’exploration pétrolière et le repliement des protéines (vital pour la découverte de médicaments), dans un document de travail actuel. Gabriel F. Manso et Shining Ge, 2 assistants de recherche, sont co-auteurs du document de travail.
Ils ont vu que la contribution de la puissance de traitement à ces avancées variait de 49 à 94 %. Par exemple, multiplier par 10 la puissance des ordinateurs améliore les prévisions à trois jours d’un tiers de niveau dans les prévisions météorologiques.
Néanmoins, les progrès technologiques dans le domaine des ordinateurs sont à la traîne, ce qui pourrait avoir des effets importants sur l’économie et la société. Thompson a discuté de cette recherche et de l’efficacité de la mort de la loi de Moore dans une interview avec MIT Information.
Q : Comment avez-vous abordé cette analyse et mesuré l’impact de l’informatique sur d’autres domaines ?
R : Il est difficile de quantifier l’impact de l’informatique sur les résultats finaux réels. Le moyen le plus courant d’examiner la puissance de calcul et les progrès informatiques de manière plus générale est d’étudier le nombre d’entreprises qui y consacrent des dépenses et d’examiner également comment cela est corrélé aux résultats. Néanmoins, les dépenses sont une mesure difficile à utiliser, car elles ne montrent que partiellement la valeur de la puissance de calcul achetée.
Par exemple, la puce informatique d’aujourd’hui peut coûter la même quantité que celle de l’année dernière, mais elle est aussi beaucoup plus puissante. Les économistes essaient de réglementer ce changement de qualité ; cependant, il est difficile d’obtenir exactement ce que ce nombre devrait être. Pour notre projet, nous avons mesuré la puissance de calcul plus directement, par exemple en examinant les capacités des systèmes lorsque le repliement des protéines a été effectué pour la première fois en utilisant l’apprentissage en profondeur. En examinant directement les dispositions, nous pouvons avoir des mesures plus précises et ainsi obtenir de meilleures estimations de la façon dont la puissance de calcul influence les performances.
Q : Comment des ordinateurs plus puissants permettent-ils d’améliorer les prévisions météorologiques, l’exploration pétrolière et le repliement des protéines ?
R : La courte réponse est que l’augmentation de la puissance de calcul a considérablement affecté ces domaines. Avec la prévision météorologique, nous avons découvert qu’il y avait eu un trillion de la puissance de calcul utilisée pour ces modèles. Ce qui met en perspective l’augmentation réelle de la puissance de calcul et la manière dont nous l’avons utilisée. Ce n’est pas quelqu’un qui se contente de prendre un vieux programme et de le mettre sur un ordinateur beaucoup plus rapide ; au lieu de cela, les utilisateurs doivent constamment repenser leurs algorithmes pour tirer parti de 10 ou 100 fois plus de puissance informatique. Il y a encore beaucoup d’ingéniosité humaine qui doit être investie dans l’amélioration des performances, mais ce que nos effets montrent, c’est qu’une grande partie de cette ingéniosité se concentre sur la façon d’exploiter des moteurs informatiques toujours plus puissants.
L’expédition pétrolière est un fascinant cas, car elle devient plus complexe au fil du temps au fur et à mesure que les puits simples sont forés, donc ce qui reste est plus ardu. Les entreprises pétrolières importantes luttent contre cette tendance avec certains superordinateurs les plus au monde, les utilisant pour interpréter les informations sismiques et cartographier la géologie du sous-sol. Cela peut les aider à faire un meilleur travail de forage précisément au bon endroit.
L’utilisation de l’informatique pour améliorer la réponse des protéines est un objectif de longue date, car elle est cruciale pour comprendre les formes tridimensionnelles de ces molécules, qui à leur tour déterminent comment elles interagissent avec diverses autres molécules. Ces dernières années, les systèmes Alpha Fold ont en effet apporté des innovations remarquables dans ce domaine. Ce que montre notre analyse, c’est que ces raffinements sont bien prédits par les augmentations matérielles de la puissance de calcul qu’ils utilisent.
Q : Quelles ont été certaines des énormes difficultés rencontrées pour mener cette analyse ?
R : Lorsque l’on considère deux tendances qui se développent au fil du temps, dans ce cas, les performances et la puissance de calcul, l’un des défis les plus vitaux est de démêler ce qui, dans le partenariat entre elles, est une causalité et ce qui est en fait simplement une corrélation.
Nous pouvons répondre à cette question en partie parce que, dans les domaines que nous avons comptés, les entreprises investissent de grosses sommes d’argent, donc elles font beaucoup de vérifications. Dans la modélisation météorologique, par exemple, ils ne se contentent pas de dépenser des dizaines d’euros innombrables pour des machines flambantes neuves et espèrent ensuite qu’elles fonctionnent.
Ils effectuent une analyse et constatent que l’exécution d’un modèle deux fois et améliorent rapidement les performances. Après cela, ils achètent un système suffisamment puissant pour effectuer ce calcul dans un délai plus court afin de pouvoir l’utiliser de manière opérationnelle. Cela nous donne une grande confiance.
Cependant, il existe également d’autres façons de voir la causalité. Par exemple, nous voyons qu’il y a eu un certain nombre de sauts importants dans la puissance de calcul utilisée par la NOAA (la National Oceanic and Atmospheric Administration) pour la prévision météorologique. De plus, lorsqu’ils ont acheté un ordinateur plus complet et qu’il a été installé en une seule fois, les performances augmentent vraiment.
Q : Ces progrès auraient-ils pu être possibles sans des augmentations exponentielles de la puissance de calcul ?
R : C’est une question compliquée, car il y a beaucoup d’intrants différents : le capital humain, le capital traditionnel et aussi la puissance de calcul. Tous les trois évoluent progressivement. On pourrait dire que si la puissance de calcul est multipliée par un milliard, cela a en effet l’effet le plus significatif.
De plus, c’est une bonne intuition, mais vous devez également tenir compte des rendements marginaux décroissants. Par exemple, si vous passez de l’absence d’ordinateur à un seul ordinateur, c’est un changement considérable. Cependant, si vous passez de 100 ordinateurs à 101, cet ordinateur supplémentaire ne fournit pas autant de gain.
Il y a donc 2 forces concurrentes – des augmentations notables de l’informatique d’un côté, mais une diminution des avantages limités de l’autre. Nos recherches utilisées que, bien que nous ayons déjà des tonnes de puissance de calcul, celle-ci augmente si rapidement qu’elle explique en grande partie l’amélioration des performances dans ces domaines.
Q : Quelles sont les implications du ralentissement de la loi de Moore ?
R : Les implications sont assez inquiétantes. À mesure que l’informatique s’améliore, elle permet de meilleures prévisions météorologiques et les autres domaines que nous avons étudiés. Cependant, cela améliore également d’innombrables autres domaines que nous n’avons pas mesurés, mais qui sont néanmoins des éléments essentiels de notre économie et de notre société. Si ce moteur d’amélioration diminue, cela signifie que tous ces effets de suivi ralentissent aussi.
Certains peuvent ne pas être d’accord, arguant qu’il existe de nombreux moyens d’innover – si une voie ralentit, d’autres compenseront ; à un certain degré, c’est vrai. Par exemple, nous constatons déjà un intérêt accru pour la conception de puces informatiques spécialisées comme moyen de compenser la fin de la loi de Moore. Néanmoins, le problème est l’ampleur de ces effets. Les gains de la loi de Moore étaient si importants que, dans de nombreux domaines d’application, d’autres sources d’innovation ne pourront pas compenser.
Référence :
“L’importance de la puissance de calcul (exponentiellement plus)” par Neil C. Thompson, Shuning Ge et Gabriel F. Manso, 28 juin 2022, Informatique > Architecture d’équipement. DOI : 10.48550/ arXiv.2206.14007.
Lisez l’article original sur Scitech Daily.
Connexes “Des preuves informatiques dévoilent une forme inattendue d’enchevêtrement“
