Anthropic rend publique son IA la plus puissante, bridée pour des raisons de sécurité

La société américaine Anthropic, éditrice des modèles d'intelligence artificielle (IA) Claude, a mis mardi à la disposition du public la version la plus puissante de sa technologie, tout en la bridant dans des domaines sensibles comme la cybersécurité et, fait nouveau, les risques d'attaque biologique ou chimique.

Baptisé Fable 5, ce modèle est le premier de la classe Mythos - la gamme la plus avancée d'Anthropic, dévoilée en avril mais restreinte pour des raisons de sécurité - à être ouvert au public. Il sera toutefois réservé d'ici deux semaines aux clients haut de gamme, capable de payer le prix fort.

En parallèle, la start-up de San Francisco déploie le même modèle dans une version débridée, Claude Mythos 5, réservée aux entreprises et organisations disposant déjà d'un accès à cette famille, présentée comme capable de détecter et exploiter des failles de sécurité avec une vitesse et une acuité inédites.

Début avril, Anthropic avait annoncé simultanément l'existence de Mythos et sa décision d'en limiter l'accès à des partenaires de confiance pour renforcer leur protection cyber.

La nouvelle lui avait valu des accusations de "marketing de la peur" et provoqué une vive agitation étatique, pour se préparer aux menaces de l'IA sur les infrastructures essentielles (bancaires, énergétiques, etc.).

Depuis, plusieurs entreprises ayant eu accès à Mythos ont confirmé ses capacités, et l'administration Trump, malgré son lourd contentieux avec Anthropic, a fini par le tester.

Washington a depuis instauré un dispositif d'évaluation facultatif des modèles d'IA américains les plus puissants, avant leur commercialisation.

Le déploiement de Mythos 5 et le choix des partenaires pouvant y avoir accès se fait désormais "en collaboration avec le gouvernement américain", a précisé Anthropic.

Attaques biologiques?

Jusqu'ici, l'entreprise justifiait de restreindre l'accès à Mythos par les seuls risques cyber. Avec Fable 5, elle étend cette vigilance à la biologie et à la chimie.

Anthropic invoque un bond de capacité, permettant d'accomplir des tâches scientifiques. La société affirme aussi qu'elle a accéléré d'environ dix fois certaines étapes de conception de médicaments et formulé des hypothèses inédites en biologie moléculaire.

Ces compétences pourraient, prévient-elle, offrir un "coup de pouce" à des acteurs malveillants. Elle cite l'exemple de la conception de virus adéno-associés (AAV), potentiellement dangereux. Mais aussi bénéfique en thérapie génique. C'est pourquoi la version débridée sera ouverte à des chercheurs sélectionnés.

Selon l'entreprise, les requêtes sur Fable 5 touchant à la cybersécurité, à la biologie ou à la chimie reçoivent une réponse du modèle inférieur, Opus 4.8. Idem pour les tentatives de "distillation", c'est-à-dire de recopie du modèle pour entraîner des concurrents, qu'Anthropic dit avoir détectée à grande échelle depuis des "pays autoritaires".

Anthropic affirme avoir chargé des experts extérieurs de chercher à déjouer ses garde-fous par des simulations d'attaque (le "red teaming") et rémunéré ceux qui y parvenaient.

Selon l'entreprise, aucun, en 1.000 heures de test, n'a réussi un "contournement universel", c'est-à-dire débrider entièrement le système. Mais "il est probablement impossible d'empêcher entièrement" les contournements, reconnaît l'entreprise, qui compte seulement les rendre assez lents et coûteux pour les détecter avant leur déploiement à grande échelle.

Toujours au nom de la sécurité, elle conservera pendant 30 jours toutes les données de ces modèles de pointe.

Tarif élevé

Les considérations sécuritaires, dont Anthropic a fait un argument commercial majeur, a entraîné la société dans un bras de fer inédit avec l'administration Trump, pour son refus de lever ses restrictions sur la surveillance de masse et les armes létales autonomes.

Dans la foulée, le Pentagone avait rompu ses contrats avec l'entreprise, dont les IA étaient les seuls habilitées secret défense.

Le lancement de Fable 5 s'accompagne d'un tarif élevé - jusqu'à 50 dollars par million de "tokens", l'unité de compte des requêtes et des résultats produits -, soit le double des prix pour Opus 4.8.

Une session intensive de programmation peut engloutir un million de tokens en quelques heures. Anthropic a récemment revu sa tarification pour tenir compte de l'essor des agents d'IA, qui démultiplient cette consommation.

Fable 5 est inclus pendant deux semaines dans les offres d'abonnements d'Anthropic, mais sera ensuite facturé à l'usage, le réservant à une clientèle haut de gamme.

Car Anthropic doit encore prouver sa rentabilité durable, lestée par le coût très élevé de la puissance de calcul. En manque de processeurs et de serveurs, la société a passé un accord avec Elon Musk pour utiliser un de ses centres de données, pour une facture imposante de 1,25 milliard de dollars par mois.

Ces lancements interviennent en pleine effervescence financière autour de l'IA. Anthropic et OpenAI viennent d'annoncer le dépôt de leurs dossiers d'introduction en Bourse, à quelques jours d'une première cotation record pour SpaceX.