Qui va contrôler l’intelligence artificielle ?

La réunion organisée cette semaine par le président Trump avec les géants américains de la technologie a encore clarifié les camps dans le débat sur la question de savoir qui fixera les règles d’une évolution technologique appelée à transformer l’économie mondiale, la sécurité nationale et le développement technologique.

En signant, afin de ne pas entraver l’essor du secteur de l’intelligence artificielle, un accord fondé sur l’autorégulation de l’industrie, Trump adopte une position diamétralement opposée à celle de responsables politiques comme Bernie Sanders, qui privilégient le contrôle public. Signé le 29 septembre et qualifié de "moralement contraignant" par l’administration Trump, cet accord prévoit que les entreprises d’intelligence artificielle soient soumises à des mécanismes de contrôle interne ainsi qu’à un audit externe réalisé par une instance indépendante, mais il ne comporte aucun mécanisme de sanction. Trump ne veut pas que ce secteur, qu’il souhaite rebaptiser "superintelligence", soit entravé par des règles susceptibles de faire perdre aux États-Unis leur course face à la Chine. Aux États-Unis, le débat sur la manière dont l’intelligence artificielle doit être encadrée évolue donc, du moins pour l’instant, dans la direction souhaitée par les géants de la technologie.

LA LOGIQUE DE L’ACCORD

Le fait que le débat sur la sécurité de l’intelligence artificielle, qui a atteint son paroxysme ces dernières semaines, ait été porté au premier plan par les dirigeants mêmes du secteur indiquait que la question ne concernait pas uniquement la sécurité. L’avenir des milliers de milliards de dollars investis dans ce domaine, tout comme la définition des règles de la compétition avec la Chine, se sont imposés comme des enjeux cruciaux. Le dispositif prévoit que les entreprises technologiques mettent en place leurs propres mécanismes internes de sécurité afin de réduire les risques susceptibles d’être engendrés par des systèmes d’intelligence artificielle toujours plus puissants, qu’elles recourent à des audits indépendants et qu’elles disposent, au sein de leurs conseils d’administration, de responsables chargés de la supervision. Le caractère volontaire de ce dispositif et l’absence de contrainte fédérale doivent permettre aux entreprises de ne pas avoir à composer avec des règles excessivement restrictives susceptibles de ralentir le développement de l’intelligence artificielle. Il s’agit bien sûr d’une mauvaise nouvelle pour ceux qui estiment que ces entreprises disposent d’un pouvoir excessif et qu’il leur est impossible de se contrôler elles-mêmes.

Les partisans de l’industrie disposent d’arguments raisonnables, car il est impossible aux processus législatifs de suivre le rythme des technologies d’intelligence artificielle. Les entreprises qui développent les modèles les plus avancés disposent d’un niveau de connaissances techniques et de compétences largement supérieur à celui de la bureaucratie fédérale dans de nombreux domaines. Des règles lourdes et des réglementations rigides risquent donc à la fois d’être difficilement applicables et de ralentir le secteur. En outre, il est difficile de ne pas reconnaître, au moins en partie, la pertinence de l’argument selon lequel une telle réglementation offrirait un avantage stratégique à la Chine. Mais il n’est pas réaliste d’attendre des mécanismes d’autorégulation des entreprises qu’ils privilégient l’intérêt public plutôt que les objectifs commerciaux. Les entreprises qui ont investi des centaines de milliards de dollars pour développer ces systèmes subissent à la fois la pression visant à maximiser leurs rendements commerciaux le plus rapidement possible et celle de la course à la maîtrise des technologies les plus avancées.

LES OLIGARQUES DE LA TECHNOLOGIE

La critique de Bernie Sanders ne porte pas seulement sur le caractère volontaire de l’accord, mais aussi sur la concentration d’une immense puissance économique entre les mains d’une élite technologique restreinte et sur l’influence politique de ce groupe. Le fait que ces personnalités, que Sanders qualifie d’"oligarques qui dirigent le pays", dépensent des centaines de millions de dollars pour faire pression sur le Congrès ne passe pas inaperçu. Pour reprendre les termes de Sanders, "le Congrès ne réglemente pas l’intelligence artificielle, c’est l’intelligence artificielle qui réglemente le Congrès". L’influence des géants de la technologie sur Trump en particulier et sur le Congrès en général est indéniable, car ces entreprises, qui constituent depuis plusieurs années l’un des moteurs de l’économie américaine, contribuent également, bien que de manière limitée, à l’emploi grâce à la construction de centres de données. Si de nombreux responsables politiques locaux se plaignent de l’effet des centres de données sur les prix de l’énergie et de l’immobilier, ils ne veulent pas non plus voir les emplois partir vers d’autres États ou d’autres circonscriptions électorales.

En mars, Trump s’est penché sur la question des centres de données en soutenant une initiative dans le cadre de laquelle Amazon, Google, Meta, Microsoft, OpenAI, Oracle et xAI se sont engagés à ne pas faire supporter au public leurs coûts d’électricité. Les entreprises ont promis de produire ou de se procurer elles-mêmes l’énergie nécessaire au fonctionnement de leurs centres de données et de ne pas répercuter les coûts des infrastructures indispensables sur les factures des consommateurs ordinaires. Pourtant, loin de disparaître, le débat politique s’est poursuivi et les coûts liés au réseau électrique ont commencé à être discutés au Congrès. Cela montre que les engagements volontaires n’ont pas suffi à dissiper les inquiétudes de l’opinion publique. Le fait que les problèmes liés au contrôle et à la gouvernance de l’intelligence artificielle se transforment ainsi en enjeu électoral représente un risque à l’approche des élections de novembre, notamment pour les républicains qui souhaitent préserver la marge de manœuvre du secteur. L’insistance de Sanders sur cette question montre qu’il cherche à présenter l’administration Trump comme un gouvernement qui livre le pays aux oligarques de la technologie et fait payer aux citoyens le coût du développement de l’intelligence artificielle.

L’OMBRE DE LA CHINE

Tous les débats sur l’intelligence artificielle finissent par revenir à la compétition acharnée avec la Chine dans le domaine des technologies de pointe. Si une réglementation et une surveillance strictes du secteur ralentissent les entreprises américaines et permettent à la Chine de combler son retard, Washington craint de perdre son leadership dans un domaine appelé à être déterminant tant sur le plan économique que militaire. Prétendre maintenir un rythme d’innovation rapide tout en maîtrisant les risques grâce aux mécanismes de sécurité propres aux entreprises revient, pourrait-on dire, à garantir que la sécurité passera au second plan. Cette course, dans laquelle les États-Unis et la Chine considèrent tout retard par rapport à l’autre comme une défaite stratégique, pourrait également accroître la tolérance au risque des entreprises comme des États. Il est évident que les États-Unis ont besoin à la fois de progrès technologiques et de réglementation, mais, dans cette compétition placée sous l’ombre de la Chine, la question de savoir si l’autorité ultime doit appartenir au secteur privé ou à l’État demeure sans réponse.

L’accord signé par Trump avec les géants de la technologie semble avoir reporté le débat sur le contrôle de l’intelligence artificielle plutôt que de l’avoir résolu. Un accord fondé sur le volontariat et dépourvu de pouvoir de sanction permet au secteur de poursuivre sa course face à la Chine sans ralentir, mais il ne crée aucun mécanisme contraignant. Si la dénonciation de l’oligarchie par Sanders trouve un écho pendant cette année électorale, si les coûts engendrés par les centres de données deviennent un enjeu de politique locale et si la pression du Congrès augmente, ces facteurs pourraient jouer un rôle déterminant lors des élections de novembre. L’autorégulation des entreprises apparaît comme un modèle susceptible de fonctionner jusqu’à ce qu’un scandale majeur éclate, mais il est évident qu’elle ne constitue pas une solution durable. Dans la période à venir, le véritable défi pour Washington sera de savoir s’il parviendra à établir un cadre réglementaire permettant de contrôler l’intelligence artificielle sans perdre la course face à la Chine.