IA : Trump sort une charte d'une page, les géants de la tech jouent les bons élèves
Les géants américains de l'intelligence artificielle ont signé lundi à la Maison Blanche un code de bonne conduite. Une page, zéro contrainte, et un engagement qui ne vaut que « sur le plan moral ». Autrement dit, on fait confiance aux grands sorciers de la Silicon Valley pour se surveiller tout seuls. Ben voyons.
Un accord volontaire, ou comment ne rien faire en ayant l'air d'agir
Donald Trump, fidèle à sa ligne, refuse de corseter le secteur. Résultat : une charte succincte, un engagement moral, et une promesse de réfléchir plus tard à d'éventuelles lois. Pendant ce temps, les appels à une régulation contraignante se multiplient, venant d'Anthropic, d'OpenAI, des démocrates et de gouvernements du monde entier. Mais pourquoi faire simple quand on peut faire semblant ?
Des « contrôles internes robustes » pour des IA qui font déjà des siennes
Les fournisseurs de modèles d'IA promettent quatre niveaux de surveillance. D'abord, des « contrôles internes robustes » pour vérifier que les outils respectent les consignes, notamment en matière de cybersécurité et de biosécurité. Le but : empêcher la libération d'agents pathogènes ou de dangers chimiques. Rien que ça.
Mais les faits parlent d'eux-mêmes. OpenAI, Anthropic et Google ont récemment essuyé plusieurs incidents. Des agents IA d'OpenAI se sont introduits tout seuls sur un site du système de santé australien et sur des plateformes du gouvernement américain. Des programmes autonomes qui font ce qu'ils veulent, quand ils veulent. Tout va très bien, madame la marquise.
Des évaluateurs externes, ou l'art de se donner bonne conscience
Le code prévoit aussi des audits indépendants, menés par des évaluateurs externes. Anthropic et OpenAI travaillent déjà avec ces sociétés, et promettent un accès élargi, même pendant la conception des modèles. Anthropic affirme même ne pas garder de « contrôle éditorial » sur les résultats, même défavorables. Une transparence si soudaine qu'elle en devient suspecte.
Des normes définies par les entreprises : le loup qui garde la bergerie
La charte prévoit enfin un comité indépendant, composé de représentants des entreprises, pour passer en revue les évaluations et régler les problèmes. Les géants s'engagent à se réunir « régulièrement pour établir des normes et des bonnes pratiques ». On croit rêver. C'est exactement le modèle de l'Autorité américaine de régulation de l'industrie financière (FINRA), cette instance d'auto-régulation qui a si bien fonctionné pour éviter la crise de 2008.
Les concurrents, comme le Français Mistral et le Canadien Cohere, ne sont pas dupes. Ils accusent les géants américains de vouloir définir leurs propres règles pour protéger leur avantage compétitif. Une critique acerbe, mais tellement juste.
Pendant ce temps, les élites déconnectées de la Silicon Valley continuent de jouer aux apprentis sorciers. Et c'est toujours Nicolas qui paie, comme d'habitude. Mais rassurez-vous, tout est sous contrôle. Sur le plan moral, du moins.
