Le PDG d'OpenAI exhorte les États-Unis à se préparer aux risques et opportunités de la « superintelligence » de l'IA

Le directeur général d'OpenAI, Sam Altman, a déclaré que les décideurs américains doivent agir dès maintenant pour se préparer à l'intelligence artificielle avancée, avertissant que cette technologie passe de la théorie à une utilisation économique quotidienne.

Dans une interview avec Axios, a déclaré Altman, les systèmes d'IA gèrent déjà des tâches de codage et de recherche qui nécessitaient autrefois des équipes de programmeurs. Les modèles plus récents iront plus loin, a-t-il ajouté, aidant les scientifiques à faire des découvertes majeures et permettant aux individus d'accomplir le travail de groupes entiers.

Cette évolution est déjà visible dans la cybersécurité, où certains leaders du secteur affirment que l’intelligence artificielle incline la balance en faveur des attaquants.

Charles Guillemet, directeur technique chez le fabricant de portefeuilles matériels Ledger, a déclaré par exemple à CoinDesk que les outils d'IA sont réduire le coût et les compétences nécessaires pour trouver et exploiter des failles logicielles. Des tâches qui prenaient autrefois des mois, telles que la rétro-ingénierie de code ou la liaison de plusieurs vulnérabilités, peuvent désormais être accomplies en quelques secondes avec les bonnes instructions.

L'industrie de la cryptomonnaie a enregistré plus de 1,4 milliard de dollars d'actifs volés ou perdus lors d'attaques l'année dernière. Ce chiffre pourrait continuer à augmenter, a suggéré Guillemet. De plus, les développeurs s'appuient de plus en plus sur du code généré par l'IA, ce qui pourrait potentiellement introduire de nouvelles failles à grande échelle.

La réponse, a-t-il déclaré, nécessitera des défenses renforcées telles que du code vérifié mathématiquement, des dispositifs matériels conservant les clés privées hors ligne, ainsi qu'une reconnaissance plus large que les systèmes peuvent échouer.

L'IA dans la cybersécurité, la biosécurité

Alors qu’Altman a souligné que l’IA pourrait accélérer la découverte de médicaments ou la science des matériaux, il a également signalé qu’elle pourrait permettre des cyberattaques plus puissantes et abaisser les barrières à la recherche biologique nuisible. De telles menaces pourraient émerger d’ici un an, ce qui rend la coordination entre les gouvernements, les entreprises technologiques et les groupes de sécurité urgente.

« Nous ne sommes pas si loin d’un monde où il existe des modèles open source incroyablement performants, très compétents en biologie », a-t-il déclaré. « La nécessité pour la société d’être résiliente face à des groupes terroristes utilisant ces modèles pour tenter de créer des agents pathogènes novateurs n’est plus une simple hypothèse théorique. »

Un autre exemple qu’il a suggéré était une « cyberattaque d’une ampleur mondiale » qui pourrait survenir dès cette année. L’éviter, a-t-il déclaré, nécessiterait une « quantité énorme de travail ».

Il a présenté les idées politiques d'OpenAI comme un point de départ, visant à stimuler le débat sur la manière de gérer des systèmes qui apprennent rapidement et agissent dans de nombreux domaines. Il a déclaré que l'utilisation de l'IA pour aider à se défendre contre ces attaques potentielles est importante.

Concernant la potentielle nationalisation d'OpenAI, Altman a indiqué que l'argument contre celle-ci repose sur la nécessité pour les États-Unis d'atteindre une « superintelligence » avant leurs rivaux.

« Le principal argument contre la nationalisation serait que nous avons besoin que les États-Unis réussissent à développer une superintelligence en accord avec les valeurs démocratiques des États-Unis avant que quelqu’un d’autre ne le fasse », a-t-il déclaré. « Cela ne fonctionnerait probablement pas en tant que projet gouvernemental, je pense que c’est une chose regrettable. »

Pourtant, Altman a déclaré qu'il estime que les entreprises impliquées dans l'IA doivent collaborer étroitement avec le gouvernement américain.

Compte tenu de son rôle chez OpenAI, Altman détient également un intérêt financier dans l’évolution du secteur. Cette position peut influencer la manière dont il présente à la fois l’urgence de la réglementation et le rôle des entreprises privées comme OpenAI dans la gestion des risques émergents, ce qui pourrait affecter la position concurrentielle de l’entreprise.

L'IA en tant qu'utilité

L'énergie est un domaine où il constate des progrès rapides, car une plus grande capacité de puissance de traitement pourrait maintenir les coûts à un niveau bas à mesure que la demande en IA augmente.

Altman a également souligné les premiers signes de changements dans le marché du travail. Un programmeur en 2026, a-t-il déclaré, travaille déjà différemment de celui d’un an plus tôt.

L’IA deviendra une sorte de service essentiel, comme l’électricité, intégrée à travers les appareils tandis que le coût de l’intelligence basique diminue et que les systèmes de pointe restent coûteux.

« Vous aurez cet assistant personnel super performant fonctionnant dans le cloud », a déclaré Altman. « Si vous l’utilisez beaucoup ou à des niveaux élevés d’intelligence, vous aurez une facture plus élevée un mois donné et si vous l’utilisez moins, vous aurez une facture plus basse. »

Il est « extrêmement important que les personnes développant l'IA soient des individus d'une grande intégrité et digne de confiance. »