IA en lecture seule : contrôler aussi ce qui sort du SOC
Un accès IA en lecture seule protège certaines opérations, mais demande aussi de maîtriser les données envoyées, conservées et restituées.
Périmètre des intégrations : Seculogik utilise une architecture indépendante des sources pour ingérer les alertes et événements de sécurité via son propre modèle de données. Wazuh et OpenSearch sont les premières intégrations. Les autres sources citées correspondent à des connecteurs prévus ; leur disponibilité doit être confirmée pour chaque évaluation.
Un assistant IA connecté au SOC en lecture seule ne peut pas forcément modifier les équipements supervisés. C’est une limitation utile.
Elle ne suffit toutefois pas à décrire l’ensemble de son exposition : l’assistant peut consulter, assembler, transmettre ou restituer des informations sensibles au cours de son traitement.
Les recommandations du NCSC sur le développement sécurisé des systèmes d’IA couvrent notamment la protection des données tout au long du cycle de vie.
Pour un SOC, cette perspective conduit à examiner le chemin complet d’une consultation, jusqu’à sa restitution et à sa conservation éventuelle. Source : NCSC, Guidelines for secure AI system development.
Imaginons un assistant préparant une synthèse d’incident. Les logs consultés contiennent des noms de comptes, des chemins internes, des adresses réseau et parfois des fragments de commandes.
La requête peut être parfaitement légitime, mais sa réponse regroupe des éléments auparavant dispersés. Cette concentration mérite une protection adaptée.
Commencez par dessiner le trajet d’une requête réelle : plateforme de sécurité, connecteur, service d’orchestration, modèle, interface et outils de diagnostic. Pour chaque étape, identifiez les données reçues, la destination, les utilisateurs pouvant y accéder et les conditions de conservation.
Les réglages applicables doivent être vérifiés dans votre offre et votre configuration effectives.
Définissez ensuite un contenu minimal par usage. Pour expliquer une chronologie, un identifiant pseudonymisé et un horodatage peuvent suffire là où un export complet exposerait inutilement des informations supplémentaires.
Ce choix doit préserver la possibilité pour l’analyste autorisé de retrouver la preuve originale.
La restitution mérite son propre contrôle. Une synthèse préparée pour un analyste d’astreinte ne devient pas automatiquement partageable dans un canal général. Il faut conserver le contexte d’habilitation et vérifier les destinataires lorsque le résultat quitte son espace initial.
Testez également les situations ordinaires qui élargissent discrètement le périmètre : téléchargement d’un rapport, partage d’une conversation, activation du diagnostic détaillé ou création d’un ticket. Ces opérations peuvent déplacer les données sans modifier la source consultée.
Le bon indicateur de départ est simple : pour une réponse donnée, pouvez-vous expliquer quelles données ont circulé et qui peut désormais les lire ? Si la réponse reste floue, le pilote doit être mieux cartographié.
Un échange avec Seculogik peut partir d’un seul parcours d’enrichissement. L’objectif est d’identifier les points de sortie à maîtriser et les informations réellement utiles, afin de conserver l’intérêt opérationnel de l’assistant avec un périmètre de données explicite.