Le plaidoyer pour une IA personnalisée et souveraine dans le secteur public

Chez deepset, notre travail open source avec Haystack reflète de profondes évolutions dans l’entreprise et le secteur public. Les organisations délaissent les phases pilotes et les solutions d’IA prêtes à l’emploi pour se concentrer sur l’orchestration de l’IA pour leurs cas d’usage transformatifs, c’est-à-dire la coordination de plusieurs modèles, outils et systèmes en flux de travail unifiés garantissant des résultats cohérents et responsables. Dans les secteurs réglementés, cela se traduit par des systèmes et agents sur-mesure, alignés sur la mission, qui produisent des résultats mesurables tout en restant conformes et résilients aux évolutions.

Alors que l’Europe prend l’initiative dans la définition des écosystèmes d’IA souveraine, nous avons conçu Haystack pour rendre possible cet avenir. D’après mon expérience, voici comment les organisations peuvent bâtir des solutions d’IA agentique souveraine, prêtes à la production pour les environnements réglementés, et pourquoi la personnalisation est la clé d’une IA digne de confiance et souveraine, de façon responsable.

Les trois piliers des systèmes d’IA souveraine

Pour les responsables produit, l’IA souveraine n’est ni une posture politique ni une simple case à cocher pour la conformité, mais un modèle d’exploitation produit adapté aux environnements réglementés. Lorsque l’IA agentique est introduite dans ces écosystèmes, elle doit être mise en œuvre de manière réfléchie, en s’intégrant dans les processus tels qu’ils existent.

Les trois piliers de l’IA souveraine sont la personnalisation, la flexibilité de déploiement et une fondation open source. Ces principes doivent guider toute stratégie de mise en œuvre de l’IA dans un secteur réglementé, peu importe leur localisation géographique.

●  Personnalisation : Adapter les chaînes de traitement de l’IA et les agents au savoir-faire, aux règles et aux exigences de gouvernance spécifiques de l’entreprise ou de l’organisme public pour garantir la confiance.

●  Flexibilité de déploiement : L’IA doit pouvoir fonctionner partout, que ce soit dans le cloud, sur des systèmes sécurisés sur site, en mode hybride, dans un cloud privé virtuel ou même dans des environnements complètement isolés (air-gapped).

●  Fondation open source : Garantir la transparence, l’auditabilité et l’absence de dépendance à un fournisseur, pour faire fonctionner les systèmes au travers de différentes frontières de souveraineté.

Ensemble, ces trois piliers permettent aux organisations de bâtir une IA qu’elles peuvent maîtriser, contrôler et véritablement posséder, tout en favorisant une collaboration étroite entre équipes produit, utilisateurs finaux, responsables de la sécurité et parties prenantes juridiques.

Spécificités du secteur public

Dans ces environnements réglementés, l’adoption de l’IA agentique comporte de nombreux risques : failles de sécurité, manquements à la conformité et décisions « boîte noire » impossibles à auditer. Étant donné que les organisations restent responsables de chaque décision prise par leurs agents IA et de toutes les données sensibles manipulées, les institutions publiques doivent, dès le premier jour, placer le contrôle, la conformité et la confiance au cœur de la mise en place des systèmes.

En outre, pour faciliter la gestion du changement et l’organisation interne, ces systèmes d’IA doivent contribuer à l’élaboration de standards sectoriels pour des processus similaires. Une solution d’IA universelle ne fonctionne tout simplement pas lorsque les agents doivent opérer sous des cadres juridiques, des classifications de données et des modèles de responsabilité différents. Sortir une « solution générique » d’un catalogue nuira à ces flux de travail réglementés et imposera un effort d’adaptation important au personnel, avec des risques et responsabilités mal définis en matière de données et de prise de décision. Voilà pourquoi, pour que l’IA réussisse dans les secteurs réglementés, la personnalisation est incontournable.

La personnalisation est souvent perçue comme lente ou coûteuse. Avec les bons niveaux d’orchestration ouverte, les équipes peuvent passer du prototypage aux tests itératifs et au déploiement en production en quelques semaines. L’orchestration permet aux systèmes d’IA d’évoluer de manière sûre et incrémentale, sans sacrifier la gouvernance. Ces systèmes deviennent alors des standards que d’autres services ou niveaux du secteur public peuvent adopter et adapter selon leurs besoins. C’est ce que les architectes d’entreprise et les équipes plateformes décrivent souvent comme la capacité à standardiser des architectures reproductibles.

À quoi ressemblent des systèmes d’IA souveraine personnalisés

Lorsqu’on étudie les options pour une IA souveraine, les systèmes d’IA souveraine qui réussissent présentent les caractéristiques suivantes :

1. Contrôle des modèles, des données et du déploiement : L’orchestration modulaire des chaînes de traitement IA évite la dépendance à un fournisseur, intègre de façon sécurisée les données sensibles et permet un déploiement sur des environnements auto-hébergés.
2. Infrastructure axée sur la sécurité et auditabilité : Journalisation intégrée, contrôles d'accès et préparation à la conformité, soutenant la confiance et la transparence du public.
3. Conception avec intervention humaine : L’humain reste responsable des décisions, l’IA automatisant les tâches répétitives sans remplacer le jugement des employés ni la connaissance historique, mais en l’intégrant plutôt aux workflows.
4. Explicabilité et traçabilité : Chaque résultat doit être visible et justifiable lors des audits et des examens de gouvernance.

C’est pourquoi les organismes gouvernementaux dépassent les grands modèles d’IA généralistes et les solutions ponctuelles pour s’orienter vers une infrastructure prête pour la production, sécurisée et spécifiquement conçue pour leurs usages réels.

En raison de l’ « engouement » pour les agents IA, les organisations se sont concentrées sur le choix et le déploiement d’un modèle d’IA. Pourtant, afin de bâtir des agents IA fiables dans des environnements réglementés, il est essentiel de commencer par l’orchestration. Les modèles et la conception des systèmes évolueront naturellement.

Les plateformes d’orchestration modulaire permettent aux organisations d’intégrer modèles, logique métier et données comme des composants interchangeables au sein de chaînes IA gouvernées. Ces chaînes sont construites avec des contrôles de données granulaires, des procédures de test pour les retours utilisateurs, des pistes d’audit, une gestion des identités et des accès et une intégration CI/CD pour une amélioration continue et une gestion des risques. Ceci place l’IA dans les pratiques standards de développement et de déploiement logiciel, rendant possible une architecture qui facilite l’autonomie des agents tout en assurant une conformité stricte et en s’adaptant aux workflows existants.

De la politique à la pratique avec Haystack : cas d’usage concrets

Si les organisations ne savent pas comment l’IA sur mesure peut être déployée, chez deepset nous avons travaillé dans des environnements réglementés et sensibles afin de démontrer que l’orchestration IA personnalisée est indispensable comme couche de gestion transverse à l’infrastructure. 

Par exemple, au Ministère fédéral allemand de la Recherche, de la Technologie et de l’Espace, le personnel peinait auparavant à naviguer dans un manuel de 200 pages régissant les programmes de financement, entraînant des retards et des incohérences dans les tâches suivantes. Ce problème a été résolu grâce à un système IA personnalisé basé sur Haystack, qui fournit désormais des réponses vérifiées aux questions des employés concernant le manuel en moins de trois secondes, avec une attribution complète des sources. L’efficacité a ainsi été améliorée, sans sacrifier la conformité, la traçabilité ni la conception humaine du processus.

Dans les contextes de défense, le projet KITCH dirigé par Airbus Defense and Space a utilisé des systèmes d’agents orchestrés reposant sur la RAG pour intégrer des simulations et des outils avancés au service de décisions en temps réel, en réponse à des situations évoluant rapidement. Ces programmes permettent de développer des analyses contextuelles dans des environnements critiques pour la mission, offrant aux décideurs des choix plus rapides et plus fiables.

À l’échelle de l’UE, la Commission européenne a construit sa propre plateforme d’IA souveraine sur Haystack afin de permettre la personnalisation nécessaire pour répondre aux besoins des différents départements, tout en assurant le contrôle sur l’infrastructure et des architectures conformes aux standards, créant ainsi un écosystème propice à l’innovation et à la reproductibilité.

Vers un avenir intégré à l’IA dans le secteur public

Les secteurs réglementés ont des besoins spécifiques pour l’IA agentique : ils doivent pouvoir gouverner, auditer, personnaliser et avoir confiance dans leur IA, ce qui exclut les solutions génériques. Les systèmes souverains conçus pour être prêts à la production définiront la prochaine vague d’adoption de l’IA dans le secteur public.

Au centre de ce changement se trouve l’orchestration IA. L’IA souveraine ne naît pas du choix du « bon » modèle, mais d’une conception architecturale du bon contexte via un système résilient et orchestré. À mesure que l’IA prend place dans les organisations, la réelle transformation des environnements réglementés proviendra de plateformes qui allient autonomie des agents, contrôle, conformité, traçabilité et responsabilité humaine. C’est l’avenir d’une IA souveraine, responsable, et la perspective pour les institutions publiques prêtes à façonner l’avenir de leurs processus avec discernement.

Restez informé

N’oubliez pas de vous abonner à notre newsletter pour recevoir davantage de ressources et de guides sur le leadership produit, ainsi que les derniers podcasts, interviews et autres perspectives de leaders et d’experts du secteur.