Seize entreprises d'intelligence artificielle prennent de nouveaux engagements pour la sécurité

14:57, 21/05/2024, mardi

AFP

Retrouvez plus souvent les actualités de Nouvelle Aube : cliquez et ajoutez-nous à vos favoris sur Google !

Seize entreprises d'intelligence artificielle prennent de nouveaux engagements pour la sécurité — **OLIVIER MORIN**AFP
Des icônes de l'application d'IA (Intelligence Artificielle) de Google BardAI (ou ChatBot) (C-L), de l'application d'OpenAI ChatGPT (C-R) et d'autres applications d'IA sur l'écran d'un smartphone.

Seize des principales entreprises mondiales d'intelligence artificielle (IA), dont les représentants sont réunis mardi à Séoul, ont pris de nouveaux engagements pour assurer le développement en toute sécurité de cette science, a annoncé le gouvernement britannique.

"Ces engagements garantissent que les principales entreprises d'IA du monde feront preuve de transparence et de responsabilité quant à leurs projets de développement d'une IA sûre"
, a déclaré le Premier ministre britannique, Rishi Sunak, dans un communiqué publié par le ministère britannique de la Science, de l'Innovation et de la Technologie.

L'accord, signé notamment par OpenAI (ChatGPT), Google DeepMind et Anthropic, s'appuie sur les consensus atteint lors du premier "sommet"
mondial sur la sécurité de l'IA, l'an dernier à Bletchley Park, au Royaume-Uni.

Ce second
"sommet"
à Séoul est organisé conjointement par les gouvernements sud-coréen et britannique. Les entreprises d'IA qui n'ont pas encore rendu publique la façon dont elles évaluent la sécurité des technologies qu'elles développent s'engagent à le faire.

Risques "intolérables"

Il s'agit notamment de déterminer quels sont les risques "jugés intolérables"
et ce que les entreprises feront pour s'assurer que ces seuils ne sont pas franchis, explique le communiqué.

Dans les circonstances les plus extrêmes, les entreprises s'engagent également à "ne pas développer ou déployer un modèle ou un système"
si les mesures d'atténuation ne permettent pas de maintenir les risques en deçà des seuils fixés.

Ces seuils seront définis avant le prochain "sommet"
sur l'IA, en 2025 en France. Parmi les entreprises qui acceptent ces règles de sécurité figurent également les géants américains de la technologie Microsoft, Amazon, IBM et Meta, le français Mistral AI et le chinois Zhipu.ai.

Le succès fulgurant de ChatGPT peu après sa sortie en 2022 a déclenché une ruée dans le domaine de l'IA générative, les entreprises technologiques du monde entier investissant des milliards de dollars dans le développement de leurs propres modèles.

Les modèles d'IA générative peuvent produire du texte, des photos, du son et même des vidéos à partir de simples invites. Leurs partisans les présentent comme une percée qui améliorera la vie des citoyens et des entreprises dans le monde entier.

Mais les défenseurs des droits humains et les gouvernements craignent aussi leur utilisation à mauvais escient dans un grand nombre de situations, notamment pour manipuler les électeurs par le biais de fausses nouvelles ou de photos et de vidéos "deepfake"
de dirigeants politiques. Beaucoup exigent que des normes internationales soient instituées pour encadrer le développement et l'utilisation de l'IA.

Outre la sécurité, le
"sommet"
de Séoul examinera comment les gouvernements peuvent contribuer à stimuler l'innovation (notamment la recherche sur l'IA dans les universités) et comment la technologie pourrait contribuer à résoudre des problèmes tels que le changement climatique et la pauvreté.

La réunion de Séoul, qui dure deux jours, se tient partiellement de façon virtuelle, certaines séances se déroulant à huis clos tandis que d'autres sont ouvertes au public dans la capitale sud-coréenne.

À lire également:

Titres : IA entreprises gouvernement technologies télécoms mobiles sciences GB informatique cybersécurité sommet Corée du Sud Rishi Sunak

Commentaires

Cookie Name	Cookie Storage Period
_ga Un cookie Google Analytics qui stocke des données pour mesurer les performances.	730 jours
_gid Un cookie Google Analytics qui stocke des données pour mesurer les performances.	1 jours
_ga_XXXXXXX Conserve l’état de session Google Analytics.	730 jours
_gat Limite le taux de requêtes Google Analytics.	Pour la durée de la session

Cookie Name	Cookie Storage Period
_fbp Utilisé par Facebook Pixel pour la mesure publicitaire et le remarketing.	90 jours
GPS Cookie de préférences et de mesure des vidéos YouTube intégrées.	Pour la durée de la session
YSC Cookie de préférences et de mesure des vidéos YouTube intégrées.	Pour la durée de la session
VISITOR_INFO1_LIVE Cookie de préférences et de mesure des vidéos YouTube intégrées.	180 jours
_gcl_au Utilisé par Google Ads pour la mesure des conversions.	90 jours