Anthropic veut un recours au juge contre les IA dangereuses

Anthropic veut donner aux pouvoirs publics un moyen judiciaire d’empêcher certains déploiements d’intelligence artificielle. Reuters rapporte le 28 octobre le contenu d’une lettre adressée le 15 octobre à Gavin Newsom. L’agence précise qu’un porte-parole de l’entreprise a confirmé l’authenticité du courrier.

L’idée consiste à permettre aux autorités de demander une décision de justice lorsqu’une évaluation révèle un risque grave pour le public. Il s’agit d’une proposition de l’entreprise. Cette lettre ne crée aucun nouveau pouvoir d’interdiction et ne signifie pas qu’un tribunal a ordonné le blocage d’un modèle.

Anthropic défend un contrôle assorti de garanties judiciaires

La démarche prolonge un cadre de régulation publié par Anthropic. L’entreprise y soutient que les gouvernements devraient pouvoir bloquer ou dissuader les déploiements présentant des risques catastrophiques. Elle évoque notamment les menaces biologiques, les cyberattaques et la perte de contrôle de systèmes autonomes.

Son document détaillé envisage plusieurs garanties contre un usage excessif de ce pouvoir. Parmi elles figure l’obligation, pour une autorité, d’engager une procédure judiciaire afin d’obtenir les mesures demandées. Il prévoit aussi la possibilité de contester certaines décisions devant un juge.

Cette architecture reste une proposition destinée en premier lieu au gouvernement fédéral américain. Elle confirme la position publique de l’entreprise, sans valoir adoption par la Californie. Le débat prolonge les interrogations sur le rythme de développement des modèles, abordées dans notre article sur les appels de Dario Amodei à ralentir la progression de l’IA.

La Californie attend des recommandations le 16 novembre

Le contexte est établi par l’ordonnance exécutive signée le 18 septembre par Gavin Newsom. Elle demande à la Government Operations Agency, en consultation avec les services d’urgence de l’État, de remettre des recommandations au plus tard le 16 novembre 2026.

Ces travaux doivent notamment examiner la présence d’évaluateurs indépendants dans les laboratoires et la vérification des documents de sécurité. Ils portent aussi sur la faisabilité technique et l’efficacité d’un dispositif d’arrêt d’urgence pour les modèles les plus avancés.

La distinction juridique est importante : l’ordonnance commande l’étude de modifications des lois existantes. Elle n’impose pas, par cette seule disposition, un bouton d’arrêt général à tous les modèles. Les recommandations devront encore être distinguées des obligations qui pourraient ensuite être adoptées.

Un désaccord sur la manière d’interrompre les systèmes

D’après Reuters, Anthropic s’oppose à une obligation de construire un mécanisme capable d’arrêter un modèle entier en cas de perte de contrôle. L’entreprise privilégie des interventions ciblées, comme désactiver un agent problématique ou couper l’accès d’un client. Elle les présente comme plus efficaces.

Cette appréciation appartient à l’entreprise. Elle ne démontre pas que ces mesures suffiraient dans toutes les situations. Interrompre un accès particulier et empêcher la diffusion d’un modèle répondent d’ailleurs à des problèmes différents.

La Californie dispose déjà d’obligations de transparence. Le département de la Justice de l’État détaille celles issues de la loi SB 53. Les grands développeurs concernés doivent notamment publier leur cadre de sécurité et transmettre certains résumés d’évaluation des risques. Ce dispositif ne doit pas être confondu avec le mécanisme judiciaire supplémentaire défendu dans la lettre.

Pour les entreprises clientes, anticiper une interruption de service

Pour une PME française, ce débat ne crée pas une nouvelle obligation californienne à appliquer immédiatement. Il soulève toutefois une question de dépendance opérationnelle : que devient un processus métier si l’accès au modèle utilisé est suspendu ?

Un assistant documentaire indisponible peut ralentir une équipe. Un agent connecté à des logiciels métiers peut interrompre une chaîne de travail plus large. L’entreprise peut donc examiner ses possibilités de reprise manuelle et les conditions de changement de fournisseur. Ce sont des précautions d’organisation, sans présumer d’une prochaine interdiction.

Notre entretien sur la protection des données et des accès dans l’IA générative en PME examine l’autre versant de cette dépendance : les autorisations confiées aux outils. En Californie, la prochaine échéance vérifiable est désormais le 16 novembre, date fixée pour les recommandations au gouverneur.