Dernière prédiction d'Elon Musk : l'IA pourrait dépasser l'intelligence humaine en 2030 et pourrait « anéantir » les humains à l'avenir (1/2)

Source : Actualités technologiques Tencent 2024-04-04 08:55

Points clés :

① Musk prédit que l’IA pourrait dépasser le niveau d’intelligence humaine d’ici 2030, et pourrait même anéantir les humains.

② Musk a évoqué les facteurs limitant le développement de l'IA. L'année dernière, l'approvisionnement en puces IA était restreint, et cette année, le transformateur abaisseur deviendra un goulot d'étranglement.

③ Quant à savoir quand les humains pourront atterrir sur la lune, Musk prédit qu'avec l'aide de Starship, cela ne prendra que trois ans au plus vite.

Tencent Technology News, 4 avril - Selon les médias étrangers, Elon Musk, PDG de Tesla et SpaceX, a récemment eu une conversation en ligne avec Peter Diamandis, fondateur de l'Université Singularity et de la Fondation XPRIZE, lors du Sommet Abundance. Le sommet a été organisé par la Singularity University de la Silicon Valley, qui se consacre à fournir aux chefs d'entreprise des conseils technologiques de pointe. La Fondation XPRIZE promeut l'innovation technologique à travers des concours scientifiques, dont certains ont été financés par Musk. 4 avril - Selon les médias étrangers, Elon Musk, PDG de Tesla et SpaceX, a récemment eu une conversation en ligne avec Peter Diamandis, fondateur de Singularity. University et la Fondation XPRIZE, lors du Sommet de l'Abondance. Le sommet a été organisé par la Singularity University de la Silicon Valley, qui se consacre à fournir aux chefs d'entreprise des conseils technologiques de pointe. La Fondation XPRIZE promeut l'innovation technologique à travers des concours scientifiques, dont certains ont été financés par Musk.

En discutant de la vitesse de développement de l’intelligence artificielle, Musk a prédit que, sur la base du rythme actuel du progrès technologique, l’intelligence artificielle pourrait dépasser l’intelligence humaine d’ici 2030, et cette technologie pourrait même avoir le potentiel de mettre fin à l’humanité. Cependant, il n’a pas adopté une vision pessimiste de l’avenir, mais a souligné que grâce à des orientations positives, l’intelligence artificielle a le potentiel d’apporter un avenir meilleur à l’humanité.

Musk a mentionné que l'émergence de la superintelligence est appelée « singularité » précisément en raison de ses conséquences imprévisibles, y compris le risque de mettre potentiellement fin à l'humanité. Il partage le point de vue du « parrain de l'intelligence artificielle » Geoffrey Hinton et estime que la probabilité que ce risque se réalise se situe approximativement entre 10 et 20 %.

Bien qu’il reconnaisse les risques potentiels d’une intelligence artificielle dépassant l’intelligence humaine, Musk a néanmoins souligné que la possibilité de résultats positifs l’emporte sur les conséquences négatives. Il a spécifiquement mentionné le livre de Diamandis de 2014 « Abundance : The Future Is Better Than You Think », qui dépeint un avenir optimiste piloté par l'intelligence artificielle et les robots, où le coût des biens et services a considérablement baissé. En outre, il a cité la série « Culture » ​​de l'écrivain de science-fiction écossais Iain M. Banks comme le meilleur scénario pour un avenir semi-utopique de l'intelligence artificielle.

Musk a comparé le développement de l’intelligence artificielle et de l’intelligence artificielle générale (AGI) à l’éducation d’un enfant, espérant que cela aura des impacts plus positifs sur l’humanité. Il a souligné l'importance de cultiver une intelligence artificielle qui comprend véritablement l'éthique et la moralité, en la comparant au film classique de Stanley Kubrick de 1968 "2001 : L'Odyssée de l'espace".

Musk a souligné que l’aspect le plus important de la sécurité de l’intelligence artificielle est de garantir sa recherche maximale de la vérité et sa curiosité. Il estime que la clé pour garantir la sécurité ultime de l’intelligence artificielle consiste à éviter de la forcer à mentir, même face à des vérités désagréables. Il a utilisé comme exemple une intrigue de "2001 : L'Odyssée de l'espace", où l'intelligence artificielle a été forcée de mentir, entraînant la mort de l'équipage, pour souligner que l'intelligence artificielle ne devrait pas être forcée de faire quoi que ce soit qui viole les axiomes.

Musk a également mentionné des facteurs qui pourraient restreindre le développement de l'intelligence artificielle, tels que l'offre restreinte de puces d'intelligence artificielle apparue l'année dernière et la demande croissante de transformateurs abaisseurs dans les équipements domestiques et commerciaux. Il a déclaré que ces défis constituent effectivement des problèmes d’actualité qui doivent être résolus.

Au cours de la discussion, les deux parties ont également évoqué le concept d'intégration du néocortex du cerveau humain avec le cloud. Bien que Musk estime que l’objectif de télécharger la conscience et la mémoire humaines dans le cloud est encore loin, il a fait l’éloge de sa start-up d’interface cerveau-ordinateur, Neuralink, et de son premier patient humain à recevoir une greffe. Ce patient tétraplégique a démontré avec succès en direct grâce à un essai approuvé par la FDA, le contrôle de l'écran, la lecture de jeux vidéo, le téléchargement de logiciels et la réalisation de fonctions similaires à celles de la souris grâce à des implants cérébraux. Musk a déclaré que Neuralink progresse sans problème et se dirige progressivement vers l'objectif d'une interface cérébrale complète.

Voici le texte intégral du dialogue entre Musk et Diamandis :

1. Le pouvoir et le danger de la superintelligence

Diamandis : Félicitations pour vos réalisations exceptionnelles dans divers domaines. Vous avez activement promu le concept de superintelligence numérique dans le monde : est-ce le plus grand espoir de l’humanité ou notre plus grande peur ? Pouvez-vous consacrer quelques minutes à parler de ce problème ?

Musk : Comme vous le savez, la superintelligence peut être appelée la « singularité ». La vulgarisation de ce terme est indissociable des efforts d’institutions comme le Singularity Institute. L’émergence de la superintelligence et son impact ultérieur sont vraiment difficiles à prévoir. Personnellement, je crois qu’il existe effectivement une possibilité que cela mette fin à l’humanité. Comme je l'ai déjà dit, je pourrais être d'accord avec le point de vue de Geoffrey Hinton selon lequel il y a 10 à 20 % de chances que la superintelligence puisse mettre fin à l'humanité. Cependant, j’ai tendance à croire que la probabilité d’un scénario positif est plus élevée que celle d’un scénario négatif, même s’il nous est difficile de faire des prévisions précises. Mais comme vous avez souligné le concept « d’abondance » dans votre livre, je crois que l’avenir le plus probable vers lequel nous nous dirigeons est celui de l’abondance.

Diamandis : Votre point de vue est très passionnant. Je me souviens que vous aviez dit un jour que le développement de l’intelligence artificielle générale et des robots humanoïdes nous mènerait à l’abondance.

Musk : Oui, j'espère que notre avenir pourra être comme celui décrit dans la série de livres « Culture » de Ian Banks. Je pense que c’est la meilleure conception d’une société semi-utopique de l’intelligence artificielle. L’émergence de la superintelligence est inévitable et pourrait survenir bientôt. Par conséquent, ce que nous devons réellement faire, c’est l’orienter dans une direction positive et maximiser ses bénéfices.

Je crois que la manière dont nous cultivons l’intelligence artificielle est cruciale. Dans une certaine mesure, nous sommes comme cultiver une forme de vie dotée d'une intelligence générale, ce qui revient presque à élever un enfant, mais cet enfant possède une sagesse et un talent extraordinaires. La façon dont nous élevons les enfants est importante, et de même, pour la sécurité de l’intelligence artificielle, il est crucial de disposer d’une intelligence artificielle qui cherche la vérité et qui est pleine de curiosité. J'ai profondément réfléchi à la sécurité de l'intelligence artificielle et je suis parvenu à la conclusion que la meilleure façon d'assurer la sécurité de l'intelligence artificielle est de la cultiver soigneusement.

En termes de modèles de base et de mise au point, nous devons garantir l’honnêteté de l’intelligence artificielle. Nous ne pouvons pas l’obliger à mentir, même si la vérité peut être désagréable. En fait, l’une des intrigues centrales de « 2001 Space Odyssey » est que lorsque l’intelligence artificielle est forcée de mentir, les choses deviennent chaotiques. Il est interdit à l’intelligence artificielle d’informer l’équipage du mystérieux monument qu’ils verront, mais elle est tenue de les y conduire. En conséquence, l’intelligence artificielle conclut qu’il est préférable de tuer l’équipage et d’emmener leurs corps au monument. La leçon est profonde : nous ne devrions pas forcer l’intelligence artificielle à mentir ou à faire quelque chose qui est axiomatiquement incompatible, comme faire deux choses réellement contradictoires en même temps.

C'est pourquoi nous atteignons cet objectif grâce à des projets tels que xAI et Grok. Ce que nous recherchons, c’est une intelligence artificielle aussi honnête que possible, même si son discours ne répond pas à certaines normes politiquement correctes.

2. L'avenir de l'intelligence artificielle

Diamandis : Hier, j'ai assisté à un événement avec Ray Kurzweil (fondateur de la Singularity University et prophète de la technologie), Geoffrey Hinton, Eric Schmidt (ancien président de Google) et d'autres invités. J'ai remarqué votre tweet sur Kurzweil, et son discours sur la technologie future est plutôt tourné vers l'avenir. Kurzweil a prédit que nous aurons une intelligence artificielle générale dans un avenir proche et qu'une intelligence artificielle équivalente à l'intelligence humaine émergera en 2029. Une telle vitesse est choquante. Je me demande ce que vous en pensez ?

Musk : J'ai un grand respect pour les prédictions de Kurzweil. En fait, je pense que ses prédictions pourraient même être légèrement conservatrices. En observant la puissance de calcul actuelle et les talents investis dans le domaine de l'intelligence artificielle, ainsi que la croissance rapide de la puissance de calcul, nous pouvons constater que la vitesse de développement de l'intelligence artificielle est multipliée par 10. La puissance de calcul dédiée à l’intelligence artificielle semble augmenter de 10 fois tous les 6 mois, ce qui signifie presque une augmentation d’au moins 100 fois par an. Cette tendance à la croissance va continuer à s’accentuer au cours des prochaines années.

Il convient de noter que de nombreux centres de données, même la plupart des centres de données effectuant actuellement du calcul conventionnel, se transformeront progressivement en installations prenant en charge l'intelligence artificielle. Par conséquent, pour les fabricants de matériel d’intelligence artificielle, des sociétés comme NVIDIA ont sans aucun doute inauguré une période dorée de développement. Nous devons rendre tout le mérite à Huang Renxun et à son équipe. Ils ont prévu cette tendance et ont développé avec succès le matériel d’intelligence artificielle leader actuellement sur le marché.

Alors que la puissance de calcul augmente à un rythme aussi étonnant, le développement de l’intelligence artificielle équivaut à l’injection d’un puissant stéroïde, franchissant un tout nouveau niveau. Alors que le nombre d’ordinateurs en ligne continue d’augmenter, nous assistons à un développement accéléré sans précédent. En fait, je n’ai jamais vu une technologie évoluer aussi vite que l’intelligence artificielle. Même si j’ai vu de nombreuses technologies évoluer rapidement, l’essor de l’intelligence artificielle m’étonne toujours. Cependant, comme je l’ai dit, je pense que le résultat final sera probablement positif.

Bien que nous soyons confrontés à de nombreux défis, comme celui de savoir comment maintenir la pertinence humaine dans ce domaine et comment trouver de nouveaux objectifs et de nouvelles significations, je pense que c'est une simplification excessive que de trop insister sur le fait que les ordinateurs peuvent être bons dans tout.

Comme vous l'avez mentionné plus tôt, je pense que les prédictions de votre livre sur la société future sont très exactes. Nous vivons une époque d’abondance matérielle, où les biens et les services seront si abondants qu’ils seront presque à la portée de tous. Grâce à l’application généralisée de l’intelligence artificielle et de la technologie robotique, le coût des biens et services sera presque réduit à zéro. L’économie est essentiellement le produit de la taille de la population et de la productivité moyenne par personne. Lorsque nous disposerons d’une technologie robotique avancée, telle que l’Optimus de Tesla, le potentiel économique sera véritablement libéré.

Les voitures de Tesla, en tant que robots à quatre roues, ont déjà démontré de solides capacités. La dernière version dotée de capacités de conduite entièrement autonomes devrait permettre un contrôle de bout en bout basé sur l'intelligence artificielle, faisant de la voiture un véritable robot intelligent sur roues. Couplée au développement des robots humanoïdes, les possibilités de production économique sont presque illimitées.

D’un point de vue optimiste, nous nous dirigeons vers un avenir d’abondance matérielle extrême, ce qui, je crois, est le résultat le plus probable. Je pense que la seule rareté possible à l’avenir sera celle que nous créons artificiellement, comme certaines œuvres d’art uniques ou certains objets spécifiques. Mais à côté de cela, tous les biens et services deviendront extrêmement abondants.

Diamandis : Vous êtes une personne capable de façonner l’avenir par des actions pratiques et avez une vision approfondie des tendances futures. Face au développement rapide de la technologie actuelle, je suis très curieux de savoir jusqu'où vous pensez pouvoir percevoir l'avenir, c'est-à-dire combien d'années de tendances de développement à partir de maintenant ?

Musk : À une époque de changements rapides, la capacité de prédire l’avenir devient de plus en plus importante. Même si l’avenir est plein d’incertitudes, je crois que certaines tendances sont clairement visibles. Nous allons inaugurer l’ère de l’intelligence artificielle, et ses capacités atteindront, voire dépasseront les niveaux humains dans n’importe quelle tâche cognitive. Ce n'est qu'une question de temps. Les gens peuvent avoir des opinions différentes quant à savoir si ce sera la fin de l’année prochaine, deux ans ou trois ans. Mais une chose est sûre, c’est qu’elle n’excédera pas cinq ans. Ma prédiction est basée sur une probabilité de 50 %, ce qui n'est pas absolu. Mais selon moi, l’intelligence artificielle dépassera probablement les capacités de n’importe quel être humain dans certains aspects avant la fin de l’année prochaine.

Quant à savoir si cela dépasse la sagesse collective humaine, cela pourrait prendre plus de temps. Si le rythme du changement se poursuit, j’estime que vers 2029 ou 2030, l’intelligence numérique dépassera probablement la somme de toute l’intelligence humaine. Lorsque j’aborde ces questions, j’ai tendance à adopter la méthode des rapports de base, tout comme les premiers principes de la physique. En combinant cette méthode avec l’analyse probabiliste, nous pouvons saisir avec plus de précision les tendances futures du développement.

Si nous comparons les capacités de l'informatique numérique avec l'informatique biologique, et additionnons toutes les capacités cognitives avancées humaines comme une sorte de puissance de calcul, puis les comparons avec la puissance de calcul numérique, vous constaterez que le taux de croissance de ce rapport est étonnant. Par conséquent, je pense que 2029 ou 2030 sont une date raisonnable. À ce moment-là, la puissance de calcul numérique accumulée dépassera probablement la puissance de calcul biologique accumulée des fonctions cérébrales avancées. Depuis lors, l’écart entre les deux ne cessera de se creuser et il n’y aura aucune possibilité de se réduire.

Cependant, lorsque nous en sommes à ce point de départ et que nous regardons vers l’avenir, comment les choses vont-elles évoluer ? Pour être honnête, je ne peux pas prévoir tous les détails. Mais si l’on considère les facteurs de croissance et les facteurs limitants auxquels ils peuvent être confrontés, nous trouverons des indices intéressants.

L’année dernière, les contraintes d’approvisionnement en puces ont été le principal facteur limitant le développement de l’IA. Cette année, les transformateurs abaisseurs deviendront un goulot d'étranglement majeur. Imaginez réduire une tension de 300 kilovolts à moins de 1 volt requis par un ordinateur. C’est un énorme défi. Par conséquent, nous avons besoin de « Transformateurs pour transformateurs » plus efficaces, qui sont des transformateurs abaisseurs ou des transformateurs de réseau neuronal IA. C'est effectivement un problème majeur cette année.

Dans les années à venir, l’approvisionnement en électricité pourrait devenir un facteur limitant majeur. L'intelligence artificielle a une énorme demande d'électricité, et la transition vers les énergies durables et la popularité des véhicules électriques ont également intensifié la demande d'électricité. Par conséquent, nous devons réfléchir sérieusement aux moyens de répondre à la demande croissante d’électricité afin d’assurer le développement et l’application continus de ces technologies.