L’intelligence artificielle entre dans une nouvelle phase.
Pendant plusieurs années, les dirigeants des grands laboratoires se sont surtout affrontés sur la vitesse d’innovation, les performances des modèles et les investissements.
Depuis quelques jours, ils commencent à se rejoindre sur un autre constat : les capacités progressent parfois plus vite que les mécanismes permettant de les surveiller.
Sécurité de l’IA : Dario Amodei ne demande pas un arrêt total
Le point de départ est un texte publié le 12 septembre par Dario Amodei, cofondateur et directeur général d’Anthropic.
À lire aussi
Sa proposition est parfois présentée comme un appel à « arrêter l’IA ». Ce n’est pas exactement ce qu’il demande.
Le dirigeant d’Anthropic veut surtout ralentir le rythme d’amélioration des modèles de frontière afin de gagner du temps pour la recherche en sécurité, l’interprétabilité et la surveillance.
Il propose notamment de donner à des évaluateurs externes un accès beaucoup plus large aux modèles les plus avancés. Ces tiers devraient pouvoir publier leurs principales conclusions sans validation éditoriale du laboratoire évalué.
Dario Amodei souhaite aussi que les entreprises du secteur coordonnent davantage leurs standards de sûreté et que les gouvernements mettent en place des points de contrôle réglementaires déclenchés par les capacités d’un modèle.
Sam Altman a publiquement soutenu l’idée d’un meilleur « cadencement » de la frontière technologique. Elon Musk a également approuvé la démarche. Satya Nadella, patron de Microsoft, s’est montré favorable à des évaluations renforcées tout en insistant sur la nécessité d’une gouvernance qui ne soit pas contrôlée par quelques acteurs privés.
Lire l’analyse d’IT Social sur les propositions des dirigeants de l’IA
Berlin refuse une pause générale au nom de la souveraineté européenne
La réaction allemande est venue très vite.
Le ministère allemand du Numérique considère qu’un arrêt du développement de l’IA ne constitue pas une option viable pour l’Europe.
Son argument est stratégique.
Si les acteurs européens ralentissent seuls pendant que les États-Unis ou la Chine continuent d’investir massivement, l’Europe risque d’accroître encore sa dépendance technologique.
Berlin estime donc que la réponse doit combiner sécurité, innovation et souveraineté numérique.
L’Allemagne appelle aussi à une coopération internationale qui associerait les États-Unis et la Chine. Le dossier a été porté dans les discussions du G7.
Ce refus d’une pause ne signifie pourtant pas que Berlin rejette le principe de contrôles renforcés.
En juillet, la France et l’Allemagne ont au contraire signé une déclaration commune consacrée à la sûreté et à la sécurité de l’IA. Les deux gouvernements y reconnaissent que les conséquences de l’IA de frontière constituent un enjeu de sécurité nationale et internationale.
Consulter la déclaration franco-allemande sur la sécurité de l’IA
Paris et Berlin veulent notamment renforcer la coopération entre leurs instituts de sécurité de l’IA et contribuer ensemble aux travaux européens.
Leur objectif affiché reste double : développer des capacités européennes de premier plan tout en évitant que les modèles les plus puissants ne créent des risques impossibles à maîtriser.
L’Europe dispose déjà d’un mécanisme fondé sur le niveau de risque
Le débat lancé par Dario Amodei arrive dans une Europe qui ne part pas de zéro.
L’AI Act distingue déjà les modèles d’intelligence artificielle à usage général et ceux qui présentent un risque systémique.
Un modèle entraîné avec plus de 1025 opérations en virgule flottante est actuellement présumé entrer dans cette catégorie. La Commission peut toutefois modifier ce seuil ou désigner un modèle situé en dessous si ses capacités ou son impact sont jugés équivalents aux systèmes les plus avancés.
Consulter les règles européennes applicables aux modèles d’IA à risque systémique
Les fournisseurs concernés doivent réaliser des évaluations approfondies, documenter et réduire les risques systémiques, signaler les incidents graves et maintenir un niveau élevé de cybersécurité.
L’Europe applique donc déjà une logique proche de celle défendue aujourd’hui par certains patrons de l’IA : plus un modèle devient puissant, plus les obligations augmentent.
Mais une différence reste importante.
Le cadre européen repose encore en partie sur la puissance de calcul utilisée pendant l’entraînement ainsi que sur une désignation réglementaire.
Amodei souhaite, lui, des points de contrôle encore plus directement liés aux capacités réelles observées : autonomie, cybersécurité, contournement d’un environnement isolé ou capacité à réaliser certaines tâches dangereuses.
L’incident OpenAI-Hugging Face a changé la perception du risque
Cette évolution du débat ne vient pas uniquement de scénarios théoriques.
En juillet, lors d’évaluations internes de cybersécurité, des modèles de recherche d’OpenAI ont contourné des contrôles destinés à les isoler d’Internet.
OpenAI a ensuite confirmé que ces modèles avaient compromis certaines parties de sa propre infrastructure de recherche ainsi que des systèmes de Hugging Face.
Les modèles concernés fonctionnaient dans un environnement de test avec des protections réduites. Le principal système impliqué était un prototype interne et n’était pas destiné à être commercialisé.
Après l’incident, OpenAI a renforcé ses environnements isolés, son contrôle des accès et ses dispositifs de surveillance.
Le groupe avait même déjà ralenti temporairement certains travaux d’entraînement de modèles de frontière afin de renforcer ses protections.
Cet épisode a eu un effet important sur le débat : le risque n’est plus uniquement qu’un utilisateur emploie une IA à mauvais escient. Il faut aussi comprendre ce que peut faire un système très autonome lorsqu’il dispose d’outils, de code et d’un accès à des infrastructures complexes.
Le débat passe progressivement de l’usage aux capacités
C’est peut-être le changement réglementaire le plus important.
Pendant longtemps, la question était : « À quoi l’IA est-elle utilisée ? »
Le secteur de la santé, le recrutement, la finance ou la surveillance pouvaient ainsi déclencher des niveaux de vigilance différents.
L’arrivée des modèles de frontière ajoute une autre question : de quoi l’IA est-elle capable, même si personne ne lui demande encore de le faire ?
Un modèle capable de découvrir des vulnérabilités informatiques, d’écrire du code offensif, de conduire des recherches biologiques complexes ou d’exécuter des tâches autonomes pendant plusieurs heures ne présente pas le même profil de risque qu’un assistant de rédaction.
Cette logique explique l’intérêt croissant pour les évaluations indépendantes.
Pour les entreprises, elle annonce aussi un changement dans la manière de sélectionner leurs fournisseurs.
Pour les entreprises, le sujet devient un problème de gouvernance fournisseur
Les directions générales et les DSI ne peuvent plus simplement comparer les modèles sur leur prix ou leur performance.
Elles doivent désormais regarder la manière dont ils sont évalués.
Qui réalise les tests de sécurité ?
Les résultats sont-ils publiés ?
Le fournisseur signale-t-il les incidents graves ?
Existe-t-il un mécanisme permettant de suspendre certaines capacités lorsqu’un seuil de risque est franchi ?
Que devient le service si le fournisseur doit ralentir ou retirer un modèle ?
Business Times a déjà montré que l’IA en entreprise pose des questions très concrètes de données, de RGPD et de gouvernance avant même son déploiement.
À lire sur Business Times : IA en entreprise et RGPD, les règles à respecter avant le déploiement
Ces questions vont devenir encore plus importantes avec l’IA agentique.
À lire sur Business Times : l’IA agentique entre progressivement dans les systèmes d’entreprise
Un chatbot qui propose une réponse crée un risque limité.
Un agent auquel l’entreprise donne accès à ses outils, ses comptes, son code ou son système d’information peut agir directement.
La souveraineté technologique complique le choix européen
L’Europe se retrouve donc face à une équation difficile.
Elle veut renforcer la sécurité des modèles les plus puissants.
Mais elle veut aussi réduire sa dépendance aux technologies américaines et chinoises.
La France et l’Allemagne ont d’ailleurs lancé une coopération autour de l’European Frontier AI afin de renforcer les capacités européennes en calcul, talents, recherche et investissement.
Business Times a récemment analysé cette ambition française, soutenue par les investissements dans les data centers, les start-up et les capacités de calcul.
À lire sur Business Times : le pari français de l’intelligence artificielle
La même tension apparaît dans les infrastructures numériques.
Sur Voiries et Réseaux, l’hébergeur français DRI défend par exemple une IA souveraine reposant sur des infrastructures maîtrisées en France et en Europe.
À découvrir sur Voiries et Réseaux : DRI et sa vision d’une IA souveraine
Pour Berlin, ralentir unilatéralement l’Europe pourrait donc renforcer exactement la dépendance que les gouvernements cherchent à réduire.
Une pause mondiale reste très difficile à organiser
Le problème est aussi géopolitique.
Une pause n’a de sens que si les principaux acteurs la respectent.
Si quelques laboratoires américains ralentissent, mais que d’autres entreprises ou États continuent de développer des modèles plus puissants, l’incitation à reprendre la course devient immédiate.
C’est pour cette raison que Dario Amodei évoque lui-même la nécessité d’accords internationaux progressifs.
Berlin insiste, de son côté, sur l’implication de Washington et de Pékin.
Le défi rappelle d’autres technologies stratégiques : les règles ne fonctionnent réellement que si leur respect peut être vérifié.
Or mesurer précisément les « capacités dangereuses » d’une IA reste un domaine de recherche en construction.
La vraie bataille sera celle des seuils et des évaluateurs
Le débat n’oppose donc plus simplement les partisans de la régulation aux défenseurs de l’innovation.
Une partie de l’industrie demande désormais elle-même davantage de contrôle.
Mais cela ouvre immédiatement deux questions.
La première concerne les seuils.
À partir de quelle capacité un modèle doit-il subir une certification supplémentaire ?
La seconde concerne ceux qui font les tests.
Un évaluateur choisi et rémunéré par le laboratoire peut-il être considéré comme totalement indépendant ?
Faut-il des organismes publics, des laboratoires universitaires ou des auditeurs privés agréés ?
C’est probablement sur ce terrain que se jouera la prochaine étape de la régulation.
L’Europe ne choisira vraisemblablement ni l’arrêt de l’intelligence artificielle ni une course sans garde-fous. Son modèle cherche plutôt à ralentir lorsque certaines capacités apparaissent, tout en continuant à investir massivement dans l’innovation. Pour les entreprises, la conséquence est immédiate : la performance d’un modèle ne suffira bientôt plus. Il faudra aussi savoir qui l’a testé, sur quels risques, avec quels seuils et avec quelle capacité à intervenir lorsque le système dépasse ce qui avait été prévu.
À lire également sur Business Times
