Le patron de l'IA chez Google appelle à la création d'une autorité de régulation dirigée par les Etats-Unis

Le responsable de l'intelligence artificielle (IA) chez Google a appelé mardi les Etats-Unis à créer une nouvelle organisation qui testerait les systèmes d'IA les plus puissants avant qu'ils ne soient rendus disponibles pour le grand public.

Dans un texte publié sur Substack, Demis Hassabis, qui est à la tête de DeepMind, a estimé qu'une IA capable d'égaler l'ensemble des capacités intellectuelles humaines sera disponible d'ici quelques années.

Le scientifique, Prix Nobel de Chimie en 2024 pour ses recherches sur les protéines, est à la tête de la division de Google en charge de l'ensemble des outils IA du groupe, en concurrence avec OpenAI et Anthropic dans la course aux systèmes les plus puissants.

Sa proposition intervient alors que des responsables de ses concurrents ont déjà appelé à un renforcement de la supervision du gouvernement américain sur la technologie, quelques semaines après des tensions entre ce dernier et Anthropîc sur l'absence de règles claires dans le secteur.

Le département du Commerce a ordonné en juin à l'entreprise de suspendre l'accès de tous client ou salarié étranger à ses modèles Claude Fable 5 et Mythos 5, au motif de risques pour la sécurité nationale.

L'entreprise a dû rendre totalement inaccessibles ses deux modèles pendant deux semaines, avant de pouvoir y donner de nouveau progressivement accès.

Selon Demis Hassabis, le régulateur pourrait être bâti sur le modèle de l'Autorité de régulation de l'industrie financière (FINRA), un régulateur privé qui surveille, sous supervision fédérale, les maisons de courtage de Wall Street.

La nouvelle entité serait formée des meilleurs experts techniques et financé en premier lieu par l'industrie de l'IA, avec pour mission de développer le cadre formel qu'un modèle doit atteindre avant sa mise sur le marché.

Les règles s'appliqueraient pour tout modèle considéré comme étant suffisamment puissant pour être catégorisé dans "la classe de frontière", qu'il soit construit aux Etats-Unis ou à l'étranger, M. Hassabis espérant que les entreprises étrangères rejoindront le superviseur une fois celui-ci mis en place.

Outre les Etats-Unis, la Chine est parmi les pays où le développement de modèles d'IA est le plus avancé, les entreprises chinoises proposant des produits considérés comme compétitifs mais à moindre coût.

"Quand il y a un tel degré d'incertitude et que les enjeux sont élevés, avancer avec un optimisme prudent est la bonne stratégie", a-t-il expliqué.

Demis Hassabis n'est pas le premier à proposer une telle approche: le patron d'Anthropic, Dario Amodei, a lui aussi appelé début juin à plus de régulation de la part du gouvernement et défendu l'idée d'une agence fédérale qui pourrait tester les modèles avant leur déploiement.