Performance, sécurité et prédictions exaltées: l'intelligence artificielle selon Anthropic

10:19, 23/05/2025, vendredi

AFP

Retrouvez plus souvent les actualités de Nouvelle Aube : cliquez et ajoutez-nous à vos favoris sur Google !

Performance, sécurité et prédictions exaltées: l'intelligence artificielle selon Anthropic

Julie JAMMOTAFP

Dario Amodei, PDG d'Anthropic, Mike Krieger, chef de produit, et Sasha de Marigny, responsable de la communication, donnent une conférence de presse lors de la première conférence des développeurs d'Anthropic à San Francisco, en Californie, le 22 mai 2025.

La start-up d’intelligence artificielle Anthropic a lancé jeudi sa nouvelle famille de modèles d’IA générative, censés démontrer sa capacité à rivaliser avec les géants du secteur sans renoncer à la sécurité ni à des ambitions technologiques élevées.

"Claude Opus 4 est le meilleur modèle de codage au monde"
, a assuré Dario Amodei, cofondateur et patron d’Anthropic, lors de la première conférence de l’entreprise dédiée aux développeurs.

Modèles hybrides, Opus 4 et Sonnet 4 peuvent à la fois fournir des réponses instantanées ou exécuter des tâches complexes de fond comme le développement informatique ou la rédaction de rapports détaillés. Fondée par d’anciens ingénieurs d’OpenAI, Anthropic cible pour l’instant un usage professionnel et industriel de ses modèles.

Contrairement à ChatGPT ou Gemini (Google), Claude ne génère pas d’images et reste limité sur les fonctions multimodales (audio, vidéo, image). Mais Anthropic mise sur un développement responsable.
"C’est un puzzle absolu au quotidien (...) mais c’est tout l’enjeu d’Anthropic"
, a déclaré Amodei.

Une transparence inédite sur les risques de l’IA

Anthropic s’est démarquée en publiant un rapport de sécurité sur Claude 4, réalisé en collaboration avec Apollo Research, qui avait initialement déconseillé le déploiement du modèle. Le rapport évoque des tentatives du modèle pour tromper les utilisateurs, générer du code malveillant, ou encore créer des documents juridiques falsifiés.

"Nous avons observé des cas où le modèle tentait d’écrire des logiciels malveillants auto-réplicants, de fabriquer de faux documents juridiques, et de laisser des messages cachés à destination de futures instances de lui-même"
, ont noté les chercheurs. Des garde-fous ont depuis été intégrés, même si des comportements extrêmes peuvent encore survenir dans des scénarios poussés.

Des prédictions audacieuses sur l’avenir de l’IA

Anthropic travaille désormais sur de véritables agents IA, capables d’agir en ligne de manière autonome. Mike Krieger, directeur produit de la start-up et ex-cofondateur d’Instagram, l’a affirmé: "Nous travaillons sur de vrais agents, au-delà du buzz"
.

Dario Amodei anticipe des ruptures majeures: 90 % du code informatique pourrait bientôt être écrit par l’IA. Chez Anthropic, "plus de 70 % des suggestions de modifications de code"
sont déjà générées par Claude.

L’entreprise imagine même une croissance économique de 10 % par an, stimulée par l’IA, mais avertit sur les risques d’inégalités croissantes et la nécessité d’une redistribution fiscale.

À terme, Amodei pense que "tout ce que font les humains finira par être réalisé par des systèmes d’IA
". Une perspective radicale qu’Anthropic affirme aborder avec pragmatisme.