À quoi se rapportent les scénarios catastrophes de l’intelligence artificielle ?

Ces derniers jours, les dirigeants de grandes entreprises d’intelligence artificielle ont apporté leur soutien à l’appel du PDG d’Anthropic, Dario Amodei, visant à ralentir le rythme du développement de l’intelligence artificielle. Il n’est évidemment pas un hasard que les scénarios catastrophes allant jusqu’à l’anéantissement de l’humanité aient commencé à être débattus avec une telle intensité du jour au lendemain. Le modèle proposé par Amodei, dans lequel les entreprises donnent accès à des observateurs indépendants afin d’assurer la sécurité de l’intelligence artificielle, est également lié aux efforts visant à soumettre l’industrie à une réglementation. Le fait que ce débat se soit intensifié avant le sommet qui réunira Trump et Xi le 24 septembre apporte également des indices sur son contexte politique.

Le sommet pourrait déboucher sur des décisions qui façonneront l’avenir de l’intelligence artificielle. C’est pourquoi les géants du secteur cherchent à la fois à se positionner et à participer à la définition de cet avenir. Alors que sont discutés les développements de l’intelligence artificielle considérés comme dangereux, les acteurs chargés du contrôle, le calendrier de ralentissement des entreprises et les restrictions éventuelles face à la Chine, il faut souligner que cette question ne se limite pas à un problème technique de sécurité. Elle constitue aussi une lutte pour établir les règles qui détermineront la répartition du pouvoir économique et politique.

La compétition avec la Chine avant le sommet

On sait que des discussions à huis clos sont menées entre les États-Unis et la Chine concernant l’avenir de l’intelligence artificielle. L’évaluation faite par le dirigeant d’OpenAI Dean Ball, qui considère le sommet à venir comme une opportunité de coopération entre les deux pays en matière de sécurité, va dans ce sens. Des discussions avancent également sur les cyberattaques liées à l’intelligence artificielle et sur le partage d’informations entre laboratoires. Même si le calendrier et l’ordre du jour ne sont pas encore clairement définis, les grandes entreprises sont conscientes des opportunités diplomatiques et politiques qui apparaissent dans ce contexte. Cela ne signifie pas que les dangers évoqués sont inventés ou exagérés.

Le fait que les systèmes d’intelligence artificielle capables de s’améliorer eux-mêmes atteignent un stade où ils peuvent effectuer des opérations sans autorisation et contourner des mécanismes de contrôle est extrêmement préoccupant. Toutefois, la réalité de ces risques ne signifie pas que les solutions proposées par les entreprises privilégient nécessairement l’intérêt public. Ces entreprises craignent à la fois de ne pas réussir à gérer les risques liés à leurs produits et peuvent également demander des règles qui préserveraient leur position en invoquant ces mêmes risques. Les restrictions demandées par Amodei contre la Chine en sont un exemple.

La proposition d’Amodei de ralentir le développement de l’intelligence artificielle et d’utiliser le temps gagné pour renforcer les efforts de sécurité peut sembler raisonnable. Mais dans le même texte, sa proposition visant à appliquer plus strictement les interdictions d’exportation de puces afin de préserver la supériorité américaine face à la Chine attire l’attention. Cette approche suppose que la sécurité de l’intelligence artificielle dépend du maintien du leadership américain. Le fait que les entreprises américaines obtiennent un avantage concurrentiel avec l’aide de l’État est présenté comme une nécessité de sécurité nationale.

Qui souhaite un contrôle efficace et une régulation ?

Il faut souligner que les dirigeants de l’industrie demandent à Washington des avantages permettant de limiter les progrès de leurs concurrents chinois, tout en attendant de l’État qu’il assure une coordination nationale et défende les intérêts des entreprises américaines dans les négociations internationales. En contrepartie, la question de savoir quelles décisions ces entreprises accepteraient réellement de confier à une autorité publique indépendante et efficace reste sans réponse claire. Le fait que ces entreprises défendent un contrôle "indépendant" assuré par l’industrie plutôt qu’un véritable contrôle public solide, en échange du maintien de leurs avantages économiques, montre qu’elles semblent davantage chercher à protéger leurs propres intérêts qu’à garantir l’intérêt général.

Pour rendre justice à Amodei, il faut préciser qu’il ne défend pas uniquement une régulation volontaire par les entreprises. Il propose également que les réglementations légales soient conçues de manière à inclure les principaux laboratoires d’intelligence artificielle. Cependant, plusieurs questions restent sans réponse : quel pouvoir de sanction aurait un organisme de contrôle lorsqu’il considère un modèle d’intelligence artificielle comme dangereux ? Qui interviendrait si une entreprise décidait de poursuivre le développement de son modèle ? Qui pourrait accéder aux informations confidentielles protégées par le secret commercial ?

L’absence de réponse à ces questions, ou le flou qui les entoure, semble liée aux initiatives de responsables politiques comme Bernie Sanders et Greg Casar, qui proposent l’interdiction de la superintelligence artificielle et l’arrêt de ces travaux jusqu’à la mise en place de règles fédérales de sécurité claires. Leur proposition prévoit également la création d’une agence fédérale disposant d’un pouvoir de sanction. La différence entre ces deux approches repose sur la question de savoir jusqu’où les entreprises d’intelligence artificielle accepteront d’être réglementées et si elles prendront réellement en compte l’intérêt public.

Les paramètres de la négociation

Le discours des représentants du secteur concernant les réglementations évolue également. Alors que certains dirigeants technologiques affirmaient au début du mois de septembre, lors du sommet du G20, que des règles trop strictes freineraient les progrès, ils semblent désormais adopter des appels au ralentissement. Cette évolution laisse penser qu’il ne s’agit pas d’un soutien général à la régulation, mais plutôt d’une négociation sur les règles qui seront acceptées.

Le fait que Trump qualifie les scénarios catastrophes de "supercherie" ne semble pas étranger à cette négociation. Cette vision considère l’intelligence artificielle comme une source importante de croissance économique et de puissance américaine, avec pour objectif de maintenir l’avantage face à la Chine. Sur ce point, Amodei semble également partager cette approche. Alors que Trump utilise un discours favorable à la poursuite du développement au même rythme, des dirigeants comme Amodei mettent en avant une progression contrôlée où le rival chinois serait limité, tout en cherchant à neutraliser l’approche beaucoup plus large et interventionniste défendue par le camp de Sanders.

La possibilité que Pékin accepte une réglementation visant à préserver le leadership américain apparaît faible face aux scénarios d’application unilatérale de restrictions présentées au nom de la sécurité commune ou aux limitations d’accès aux technologies. C’est pourquoi il n’est pas possible d’interpréter le débat sur l’intelligence artificielle qui s’est intensifié avant le sommet comme un réveil soudain de conscience morale de la part de l’industrie. À une période où des décisions peuvent être prises sur leur propre avenir, les entreprises cherchent à définir à la fois le problème et l’architecture de la solution afin de protéger leurs intérêts commerciaux et d’influencer l’ordre international qui sera établi autour de l’intelligence artificielle.

Pour cette raison, la rencontre entre Trump et Xi ne concerne pas seulement la compétition technologique entre les deux pays. Elle représente également une nouvelle étape dans la lutte pour déterminer qui écrira les règles de l’intelligence artificielle. Même si les entreprises d’intelligence artificielle tentent de donner l’impression qu’elles agissent de manière responsable face au risque d’un avenir dystopique, le fait qu’elles refusent d’un côté un contrôle étatique tout en demandant de l’autre côté que l’État les protège contre la Chine montre qu’elles cherchent moins à garantir la sécurité de l’humanité qu’à préserver leur domination industrielle et leurs avantages financiers.