IA autonome : qui répond des erreurs dans l’entreprise ?

L’IA autonome peut séduire les salariés sans que les responsabilités paraissent claires. Dans son communiqué français, TeamViewer indique que seuls 47 % des répondants considèrent leur répartition comme clairement établie lorsqu’un système commet une erreur. La possibilité de reprendre la main rassure donc davantage que les règles qui entourent cette délégation.

L’enquête, réalisée par Sapio Research pour l’éditeur de logiciels, mesure des perceptions. Elle ne recense ni les incidents survenus en entreprise ni leurs conséquences financières. Le chiffre de 21 % exprime ainsi une opinion sur la responsabilité souhaitable. Il ne permet pas de conclure que les entreprises concernées ont effectivement supprimé tout responsable.

IA autonome : déléguer une action change le contrôle

Le rapport « Path to the Autonomous Digital Workplace » distingue plusieurs niveaux d’usage. Avec une assistance classique, une personne demande une réponse et décide de son utilisation. À un autre niveau, le système prépare une action qu’un humain valide. Enfin, un outil autonome peut intervenir sans autorisation à chaque étape, dans des limites prédéfinies.

Cette différence modifie le travail de supervision. Relire une synthèse avant de l’envoyer laisse un point de contrôle identifiable. Autoriser un outil à modifier des paramètres ou à résoudre un incident informatique exige, en revanche, de définir à l’avance ses accès et ses possibilités d’intervention.

Les 71 % de répondants français à l’aise avec cette autonomie posent une condition : pouvoir intervenir si nécessaire. Ce résultat ne décrit donc pas une adhésion à un fonctionnement sans surveillance. Il ne prouve pas non plus que les outils déployés permettent réellement cette reprise en main.

La moitié des répondants hésitent sur les vérifications

Autre résultat français communiqué par TeamViewer : 50 % des personnes interrogées ne savent pas toujours quand faire confiance à l’IA et quand vérifier ses résultats. Cette hésitation concerne directement l’organisation des tâches.

Une consigne générale demandant de « vérifier l’IA » laisse plusieurs questions ouvertes. Quels résultats faut-il contrôler ? Avec quelles informations de référence ? À quel moment doit-on suspendre l’action ? Si ces points restent implicites, chaque collaborateur construit son propre seuil de vigilance.

La CNIL rappelle les limites des systèmes génératifs : leurs réponses peuvent paraître plausibles tout en étant inexactes. Elle recommande notamment de sensibiliser les utilisateurs et de les inciter à vérifier les données d’entrée et la qualité des résultats. Ces précautions concernent la génération de contenus ; elles ne constituent pas une méthode complète de supervision des outils autonomes.

La formation doit donc porter sur le travail réellement confié au système. Notre article sur l’IA et l’apprentissage des jeunes actifs examine également ce que l’autonomie change dans l’acquisition des compétences et le recours aux collègues.

Reprendre la main suppose de voir ce qui se passe

Le rapport international identifie plusieurs moyens de rassurer les utilisateurs : accès limités, notifications avant des changements importants, historique visible des actions et possibilité de revenir en arrière. Ces éléments correspondent à des attentes déclarées, sans démontrer leur efficacité dans toutes les situations.

Pour une entreprise, leur utilité dépend du processus concerné. Dans un exemple hypothétique, un outil prépare une réponse destinée à un client. La validation avant envoi permet encore une correction. Si l’outil expédie directement le message, un bouton d’arrêt ne permettra pas de récupérer une information confidentielle déjà transmise.

Le contrôle doit ainsi intervenir au moment où il reste utile. Les questions d’accès aux informations s’ajoutent à celles de validation, comme l’explique notre décryptage sur l’IA en entreprise et les données personnelles.

Des responsabilités à préciser avant l’incident

« Les dirigeants ne doivent pas non plus présumer que leur propre niveau de confort avec l’autonomie est partagé par l’ensemble de l’organisation », souligne Jan Bee, responsable de la sécurité des systèmes d’information chez TeamViewer, dans le communiqué.

Le rapport préconise de préciser qui contrôle la technologie, qui autorise son usage et qui traite les erreurs. Cette répartition opérationnelle ne doit pas être confondue avec une conclusion juridique sur un incident particulier. Elle permet toutefois d’éviter que le salarié qui découvre le problème soit, par défaut, chargé de tout résoudre.

Les résultats demandent enfin une lecture prudente. Le rapport indique 400 répondants en France, mais ne publie pas le détail des quatre résultats nationaux cités dans le communiqué. Sa méthodologie comporte aussi des incohérences sur le périmètre international. Ces limites empêchent d’évaluer précisément la portée statistique des pourcentages français.

Avant d’élargir les droits d’un agent, une direction peut néanmoins vérifier un point concret : lorsqu’il exécute une action erronée, les équipes savent-elles qui peut l’interrompre et qui doit organiser la correction ?