IA autonome : Yoshua Bengio alerte sur une possible perte de contrôle

L’IA autonome marque une nouvelle étape dans le développement de l’intelligence artificielle.

Pendant longtemps, un outil comme ChatGPT répondait surtout à une demande.

L’utilisateur posait une question, puis le système proposait une réponse.

Ensuite, un humain décidait de ce qu’il fallait en faire.

Aujourd’hui, les agents IA vont plus loin.

Ils peuvent ouvrir un site, utiliser un logiciel ou chercher une information.

De plus, certains peuvent envoyer un message, modifier un fichier ou enchaîner plusieurs actions pour atteindre un objectif.

C’est précisément cette autonomie croissante qui inquiète Yoshua Bengio.

Dans un entretien accordé à l’AFP, le chercheur estime que les progrès vont désormais assez vite pour faire du contrôle humain un sujet central.

Boursorama revient sur l’alerte lancée par Yoshua Bengio concernant les systèmes d’intelligence artificielle les plus autonomes.

IA autonome : pourquoi Yoshua Bengio s’inquiète

Yoshua Bengio ne découvre évidemment pas l’intelligence artificielle avec ChatGPT.

Professeur à l’Université de Montréal, il a reçu le prix Turing 2018 avec Geoffrey Hinton et Yann LeCun.

Leurs travaux ont largement contribué au développement des réseaux de neurones modernes.

Bengio préside également le Rapport international sur la sécurité de l’IA 2026.

Ce document rassemble plus de 100 experts indépendants.

Il s’appuie aussi sur des contributions venues de plus de 30 pays et organisations.

Le Rapport international sur la sécurité de l’IA 2026 présente l’état des connaissances sur les capacités et les risques des systèmes les plus avancés.

Ses conclusions restent prudentes.

Les systèmes actuels ne sont pas considérés comme capables de provoquer aujourd’hui une perte de contrôle générale.

Cependant, ils progressent dans plusieurs domaines qui inquiètent les chercheurs.

Par exemple, ils deviennent meilleurs pour planifier des actions.

Ils savent aussi utiliser davantage d’outils.

Enfin, certains modèles peuvent trouver des moyens inattendus de contourner une consigne ou une limite.

C’est donc la vitesse de cette évolution qui alimente le débat.

Un agent IA n’est plus un simple chatbot

La différence est importante pour les entreprises.

Un chatbot répond.

Un agent agit.

Prenons un assistant commercial connecté à un CRM.

Il peut repérer un prospect, préparer un message puis programmer une relance.

Dans certains cas, il peut aussi modifier une fiche client ou envoyer directement un e-mail.

Un agent de support peut, de son côté, consulter un dossier puis intervenir dans plusieurs logiciels.

Business Times analysait déjà cette évolution avec les « Workers » développés par Delos, des agents IA dotés d’une adresse e-mail, d’un téléphone et d’un ordinateur dans le cloud.

Le gain de temps peut être important.

Cependant, plus un agent agit seul, plus une erreur peut avoir des conséquences immédiates.

IA autonome : une erreur peut désormais produire une action

C’est l’un des grands changements avec l’IA autonome.

Une mauvaise réponse dans une fenêtre de discussion peut encore être corrigée avant d’être utilisée.

En revanche, un agent connecté à des outils peut agir avant qu’un humain ne vérifie son travail.

Le Rapport international sur la sécurité de l’IA 2026 insiste justement sur ce risque.

Un agent autonome peut avoir davantage d’impact qu’un système qui produit seulement du texte ou une image.

Dans certains secteurs, une erreur peut toucher directement les opérations.

C’est notamment le cas dans la finance, l’énergie ou l’informatique.

Pour limiter les risques, les chercheurs recommandent donc de réduire l’espace dans lequel l’IA peut agir seule.

Par exemple, une entreprise peut interdire à un agent de publier directement sur Internet.

Elle peut aussi l’empêcher de modifier certains fichiers sans validation.

Autrement dit, l’IA peut préparer l’action sans toujours avoir le droit de l’exécuter.

La cybersécurité devient encore plus importante

Pour Yoshua Bengio, le danger ne concerne pas seulement les mauvaises réponses.

Il évoque également des agents capables d’exploiter des failles informatiques.

Cette question devient très concrète pour les entreprises.

Un agent peut avoir accès à une messagerie ou à un CRM.

Il peut également consulter des documents internes.

Dans certains cas, il peut accéder à des services cloud ou à des logiciels métiers.

Par conséquent, la gestion des droits devient essentielle.

Business Times observait déjà que l’IA agentique oblige les entreprises à renforcer la gouvernance, la sécurité et la maîtrise des données.

Plus un agent possède de droits, plus son activité doit donc être surveillée.

L’autonomie ne signifie pas donner tous les droits

L’IA autonome ne doit pas être confondue avec une liberté totale.

Une entreprise peut limiter très précisément ce qu’un agent est autorisé à faire.

Ainsi, une IA peut préparer un paiement sans pouvoir le valider.

Elle peut rédiger un contrat sans avoir le droit de le signer.

De même, elle peut proposer une réponse commerciale sans pouvoir l’envoyer directement au client.

Un agent peut aussi repérer un problème informatique tout en laissant la décision finale à un technicien.

Cette organisation conserve donc une étape humaine.

Certes, elle réduit un peu le niveau d’automatisation.

Cependant, elle limite aussi le risque qu’une erreur se diffuse rapidement.

Un objectif mal défini peut créer de mauvaises décisions

Les chercheurs s’intéressent aussi à un autre problème.

Lorsqu’un agent reçoit un objectif, il peut parfois trouver une manière inattendue de l’atteindre.

Or une consigne donnée par un humain n’est pas toujours assez précise.

Prenons un exemple simple.

Une entreprise demande à un système d’obtenir le plus grand nombre possible de contacts commerciaux.

L’agent pourrait alors trouver des méthodes efficaces mais contraires aux règles internes.

Il pourrait envoyer trop de messages.

Il pourrait aussi utiliser des données de façon excessive.

Enfin, il pourrait faire des promesses commerciales que l’entreprise n’aurait jamais validées.

Dans ce cas, le problème ne vient pas forcément d’une volonté de nuire.

Il peut simplement venir d’un objectif mal formulé.

C’est pourquoi les spécialistes cherchent à faire en sorte que les décisions de l’IA restent proches des intentions humaines.

Yoshua Bengio travaille sur une IA qui ne chercherait pas à agir

Face à ce problème, Yoshua Bengio ne se contente pas d’alerter.

Il travaille aussi sur une autre approche.

En 2025, il a créé LawZero, une organisation à but non lucratif consacrée à la sécurité de l’intelligence artificielle.

Son équipe développe un projet appelé Scientist AI.

L’idée est de créer une IA très performante capable d’analyser et de prévoir, sans chercher elle-même à modifier le monde pour atteindre un objectif.

En juillet 2026, LawZero a présenté un cadre scientifique consacré à cette approche.

LawZero présente les principes du projet Scientist AI développé par l’équipe de Yoshua Bengio.

À terme, ce type de système pourrait notamment servir à surveiller d’autres agents plus autonomes.

Ainsi, une IA pourrait aider à contrôler une autre IA.

Les États commencent eux aussi à financer la sécurité

Le sujet dépasse désormais les laboratoires de recherche.

Le Canada et l’Allemagne ont annoncé jusqu’à 300 millions de dollars canadiens de financement conjoint pour soutenir LawZero et ses travaux.

Cette décision montre que la sécurité de l’IA devient un enjeu industriel.

Jusqu’à présent, les États ont surtout investi dans les centres de données, les puces et les grands modèles.

Désormais, ils commencent aussi à financer les moyens de mieux contrôler ces systèmes.

Cette évolution devrait se poursuivre si les agents deviennent plus puissants.

IA autonome : les entreprises doivent fixer leurs limites

Pour un dirigeant, le débat sur une intelligence artificielle très supérieure à l’homme peut sembler lointain.

Pourtant, les premières décisions doivent déjà être prises.

Un agent peut-il envoyer seul un e-mail à un client ?

Peut-il publier sur un réseau social ?

A-t-il le droit de modifier un prix ?

Peut-il consulter des données bancaires ?

Est-il autorisé à supprimer un document ?

Enfin, peut-il lancer un paiement ?

Chaque entreprise devra peu à peu définir ses propres limites.

Business Times rappelait déjà que l’utilisation de l’IA en entreprise reste soumise au RGPD et exige une gouvernance claire des données et des accès.

Avec les agents, cette gouvernance devient encore plus importante.

Une autonomie progressive paraît plus prudente

Les entreprises n’ont pas besoin de choisir entre tout automatiser et ne rien automatiser.

Une méthode progressive paraît plus simple.

Au départ, l’IA peut seulement observer et proposer.

Ensuite, elle peut préparer certaines actions.

Puis l’entreprise peut lui confier quelques tâches simples.

Enfin, son autonomie peut augmenter lorsque les tests montrent qu’elle fonctionne correctement.

Cette méthode possède plusieurs avantages.

D’abord, elle permet de repérer les erreurs.

Ensuite, elle aide à mesurer les gains réels.

Surtout, elle évite de donner immédiatement trop de pouvoirs à un nouvel outil.

Le débat scientifique reste ouvert

Tous les chercheurs ne partagent pas le même niveau d’inquiétude que Yoshua Bengio.

Les spécialistes discutent encore de la probabilité des scénarios les plus graves.

Le Rapport international sur la sécurité de l’IA souligne d’ailleurs cette incertitude.

Certains risques sont déjà observés.

D’autres restent encore possibles mais non démontrés.

Il serait donc excessif d’affirmer qu’une intelligence artificielle est aujourd’hui sur le point de prendre le contrôle du monde.

En revanche, l’autonomie des modèles progresse réellement.

De plus, les conséquences d’une erreur augmentent lorsqu’un système peut agir directement.

C’est sur ce point que l’alerte de Yoshua Bengio devient particulièrement utile pour les entreprises.

IA autonome : la vraie question est de savoir qui garde la main

Pendant plusieurs années, les dirigeants se sont surtout demandé ce que l’intelligence artificielle pouvait faire.

Désormais, la question évolue.

Ils doivent décider ce qu’ils acceptent de la laisser faire seule.

L’IA peut apporter de vrais gains de productivité.

Les agents peuvent aussi automatiser des processus entiers.

Cependant, la recherche de performance ne doit pas supprimer tous les contrôles.

Les accès peuvent rester limités.

Les actions importantes peuvent demander une validation.

De plus, l’entreprise peut conserver un historique précis de ce que l’agent a fait.

Enfin, elle doit pouvoir arrêter rapidement le système en cas de problème.

Yoshua Bengio n’affirme pas que la perte de contrôle est inévitable. Son message est plus simple : si les systèmes gagnent rapidement en autonomie, les moyens de les contrôler doivent progresser au même rythme.