Horizon3 ouvre un laboratoire pour encadrer l’IA en cybersécurité

Le nouveau laboratoire de Horizon3 part d’une question concrète. Peut-on confier une partie de la défense informatique à une IA tout en gardant la maîtrise de ses décisions ? L’entreprise veut étudier comment ces outils réagissent aux incidents et comment les équipes peuvent vérifier leurs résultats. Elle prévoit de s’appuyer sur des observations issues de tests réalisés avec sa plateforme NodeZero.

Évaluer les défenses sur des systèmes en service

Un outil de défense peut signaler un incident, recommander une correction ou aider à vérifier que celle-ci fonctionne. Chacune de ces tâches présente des risques différents. Une alerte erronée mobilise du temps. Une intervention mal choisie peut perturber un service dont dépendent des salariés ou des clients.

Horizon3 veut comparer les réactions des outils de défense à partir de situations observées sur des systèmes en fonctionnement. Le groupe indique dans son communiqué que plus de 7 000 organisations utilisent ses services. Il estime collecter chaque jour l’équivalent de 30 milliards de tokens, des unités utilisées par les modèles d’IA pour traiter les données. L’entreprise indique que ces données sont anonymisées et agrégées. Ce volume renseigne sur la taille annoncée du corpus. L’utilité des résultats dépendra aussi des conditions dans lesquelles les chercheurs pourront reproduire leurs observations.

Garder la possibilité de reprendre la main

Le premier directeur scientifique du laboratoire, Z. Berkay Celik, enseigne l’informatique à Purdue. Ses travaux portent sur la sécurité des logiciels et des systèmes. Le programme de recherche prévoit notamment d’étudier les limites à donner aux outils automatisés, les moyens de les interrompre et la possibilité de revenir sur leurs actions.

Pour les entreprises, ces questions concernent autant l’organisation que la technologie. Qui valide une action qui pourrait toucher un service important ? L’équipe informatique peut-elle comprendre ce que l’outil a fait et en examiner les effets ? Le sujet rejoint les questions que Business Times a abordées dans son article sur la protection des données et des accès lors du déploiement de l’IA en PME.

La continuité d’activité comme critère de réussite

Horizon3 prévoit aussi d’appliquer les travaux du laboratoire à la protection des infrastructures critiques. Dans un hôpital ou chez un industriel, le délai de réaction compte, tout comme la disponibilité des applications pendant l’intervention. Les enjeux rejoignent ceux de la continuité des communications lors d’une panne du cloud. Une mesure efficace sur le plan informatique doit aussi permettre aux équipes de poursuivre leur activité.

L’annonce fixe un programme de recherche. Pour juger ses résultats, les responsables informatiques auront besoin de mesures comparables. Le délai de réaction, le nombre d’alertes injustifiées et les interruptions de service permettront d’évaluer ce que l’automatisation apporte au quotidien.