Ce que nous observons
Dans nos échanges avec les dirigeants des services financiers, de la santé et du secteur public, nous observons une tendance constante : l’euphorie initiale autour de l’IA générative du cloud public se heurte à la dure réalité de la sécurité d’entreprise et de la souveraineté des données. Bien que les modèles de fondation des grands fournisseurs de cloud offrent des capacités incroyables, la perspective d’envoyer des données clients sensibles ou de la propriété intellectuelle en dehors du pare-feu de l’entreprise pour l’inférence reste inenvisageable pour beaucoup. Cette friction a bloqué de nombreux projets d’IA à forte valeur ajoutée, laissant les dirigeants pris entre la pression de l’innovation et leur devoir fondamental de gérer les risques.
C’est pourquoi un récent article de recherche d’IBM, détaillant un système complet de Génération Augmentée par Récupération (RAG) fonctionnant sur un mainframe, constitue un signal si important. L’article, intitulé Spyre-Accelerated Retrieval-Augmented Generation on IBM LinuxONE: A Cloud-Native Architecture for Secure, High-Throughput Enterprise AI Inference, décrit une architecture où l’ensemble du pipeline d’IA — de la récupération des données à l’inférence du modèle — est contenu au sein d’une seule plateforme matérielle de confiance. Il valide une tendance émergente que nous suivons de près : la nécessité stratégique d’une IA sur site sécurisée pour les cas d’usage d’entreprise les plus critiques.
Le chiffre qui change tout
0
Le nombre de fois où les données d’entreprise sensibles quittent le périmètre matériel sécurisé dans la nouvelle architecture RAG sur site d’IBM.
Qui a une longueur d’avance et pourquoi
La poussée vers une IA locale et sécurisée crée une nouvelle dynamique concurrentielle. D’un côté, il y a les acteurs établis comme IBM, qui capitalisent sur leur solide héritage en matière d’informatique d’entreprise sécurisée et à haut volume de transactions pour se créer une niche défendable. En positionnant le mainframe non pas comme un système hérité mais comme une « appliance d’IA sécurisée » conçue sur mesure, ils jouent sur leurs points forts : la confiance, la fiabilité et la conformité. Pour leur clientèle existante dans les secteurs de la banque et de l’assurance, c’est une proposition convaincante qui minimise les perturbations architecturales et simplifie les audits réglementaires.
De l’autre côté, on trouve les hyperscalers du cloud public — AWS, Google et Microsoft. Bien qu’ils dominent le marché global de l’IA, ils rencontrent des difficultés avec ces cas d’usage spécifiques à haute sécurité. Leurs solutions, telles qu’AWS PrivateLink ou le Confidential Computing de Google, tentent de répondre à ces préoccupations, mais elles ajoutent souvent de la complexité. Auditer un système distribué qui assemble plusieurs services cloud et connexions réseau privées est intrinsèquement plus difficile que de valider un unique boîtier matériel intégré. Comme le souligne une étude de McKinsey sur le cloud hybride, la gestion de la sécurité et de la conformité dans les environnements hybrides reste un défi majeur pour les entreprises. L’approche d’IBM court-circuite efficacement cette complexité pour un problème spécifique et à forte valeur.
L’écueil que la plupart des équipes ignorent
De nombreuses équipes d’IA en entreprise découvrent un fossé douloureux entre la capacité fonctionnelle d’un modèle et sa déployabilité conforme. Une preuve de concept utilisant une API publique avec des données anonymisées peut sembler incroyablement prometteuse, montrant un potentiel énorme de gains d’efficacité ou de nouvelles expériences client. Cependant, le projet s’enlise souvent lorsque les équipes de sécurité et juridiques sont sollicitées pour approuver son utilisation avec des données de production réelles et sensibles. La conversation passe alors de la précision du modèle à la résidence des données, aux normes de chiffrement et à la chaîne de traçabilité des données en transit et au repos.
L’écueil que la plupart des équipes ignorent est la sous-estimation du coût total de la conformité pour l’IA basée sur le cloud. Le coût de l’inférence par jeton n’est qu’une petite partie de l’équation. Les coûts réels, souvent cachés, sont les heures de travail des équipes de sécurité, juridiques et de conformité nécessaires pour valider et surveiller en continu une architecture cloud complexe et multi-services. Une solution intégrée sur site réduit considérablement cette surface de risque et, par conséquent, la charge de gouvernance. Elle transforme la conversation sur la sécurité d’un problème de systèmes distribués en un exercice de validation de plateforme unique, ce qui est bien plus gérable pour les organisations réglementées.
Comment combler cet écart
Combler l’écart entre l’ambition en matière d’IA et la réalité de la sécurité exige une approche pragmatique de l’infrastructure, basée sur les risques. Premièrement, nous recommandons aux responsables technologiques de réévaluer explicitement l’hypothèse du « tout cloud » qui a dominé la stratégie informatique de la dernière décennie. Les exigences uniques de l’IA générative, notamment en ce qui concerne la gravité des données et la sécurité, nécessitent une stratégie hybride plus nuancée.
Deuxièmement, les entreprises doivent segmenter les cas d’usage de l’IA en fonction de la sensibilité des données et de l’impact réglementaire. Un chatbot marketing utilisant des informations publiques sur les produits a un profil de risque très différent d’un robot conseiller en gestion de patrimoine accédant aux données financières des clients. Cette segmentation permet une stratégie d’infrastructure adaptée : les charges de travail à faible risque peuvent tirer parti de l’échelle et de la flexibilité des modèles du cloud public, tandis que les charges de travail à haut risque sont dirigées vers un environnement d’IA sur site sécurisée. Cette approche à plusieurs niveaux est essentielle pour tout cadre de gouvernance et de risque de l’IA efficace.
Enfin, les équipes de sécurité et de conformité doivent être des partenaires dans le cycle de vie du développement de l’IA dès le premier jour, et non un point de contrôle final. En les impliquant dans la conception architecturale initiale, les équipes peuvent sélectionner de manière proactive des plateformes et des modèles pré-validés pour les données à haut risque, évitant ainsi des mois de remaniement et de frustration lorsqu’un pilote prometteur échoue à son examen de sécurité final. Ceci est particulièrement vrai pour les entreprises qui naviguent dans les complexités de l’IA dans la finance, comme détaillé dans notre livre blanc sur l’IA générative dans les services financiers.
| Niveau de maturité | État actuel | Prochaine action | Échéance |
|---|---|---|---|
| Exploration | Exécution de PoC sur des API de cloud public avec des données anonymisées ou synthétiques. | Classifier les cas d’usage potentiels en production par sensibilité des données et risque réglementaire. | 1-2 mois |
| Pilotage | Construction d’un pilote avec des données sensibles, rencontrant souvent des obstacles de sécurité et de conformité. | Évaluer les architectures d’IA sur site ou en cloud privé virtuel pour le cas d’usage spécifique à haut risque. | 3-6 mois |
| Mise à l’échelle | Un service d’IA basé sur le cloud est en production, mais uniquement pour les données à faible risque et non sensibles. | Développer et ratifier une stratégie formelle d’infrastructure d’IA hybride incluant une composante sur site sécurisée. | 6-9 mois |
| Optimisation | Exécution d’un mélange de charges de travail d’IA sur site et dans le cloud basé sur un cadre de risque clair. | Standardiser la gouvernance, le MLOps et les outils de surveillance des modèles sur l’ensemble de l’environnement hybride. | 9-12 mois |
Les signaux à surveiller
- Accélérateurs d’IA spécialisés : Surveillez de près le développement de matériel d’IA au-delà des GPU. Les puces et cartes conçues pour des tâches spécifiques comme l’inférence sécurisée (par ex., Spyre d’IBM) ou l’edge computing à faible consommation signaleront une maturation du marché au-delà des performances brutes d’entraînement.
- Offres « sur site » des fournisseurs de cloud : Suivez l’évolution d’AWS Outposts, Google Anthos et Azure Arc. La mesure dans laquelle ils pourront fournir leurs services d’IA gérés complets dans un environnement véritablement « air-gapped » et contrôlé par le client indiquera avec quel sérieux ils prennent la demande des entreprises en matière de souveraineté des données.
- Surveillance réglementaire : Prêtez attention aux nouvelles lois sur la résidence des données et aux réglementations sectorielles sur l’IA. Toute nouvelle législation qui augmente la charge de conformité pour les flux de données transfrontaliers accélérera directement la demande de solutions d’IA sur site.
Notre point de vue
Nous pensons que l’avenir de l’IA d’entreprise est fondamentalement hybride. L’idée que toutes les charges de travail migreront vers une poignée de clouds publics est remplacée par une compréhension plus sophistiquée du risque, du coût et de la différenciation concurrentielle. Pour les cas d’usage d’entreprise les plus précieux et les plus sensibles — ceux qui touchent à la propriété intellectuelle et à la confiance des clients — l’IA sur site sécurisée sera un modèle architectural non négociable.
L’architecture RAG de LinuxONE d’IBM est un jalon important, non pas parce qu’elle signale un retour à une ère révolue de l’informatique, mais parce qu’elle représente une stratégie tournée vers l’avenir qui répond à un besoin durable des entreprises. Elle prouve qu’une IA sécurisée, conforme et performante peut être fournie à l’intérieur du périmètre de l’entreprise. Pour les dirigeants des secteurs réglementés, cette approche offre un moyen de libérer la valeur de l’IA générative sans compromettre leurs engagements fondamentaux en matière de sécurité et de confiance. Chez Thinkia, nous aidons les dirigeants d’entreprise à naviguer dans ces décisions d’infrastructure critiques, en élaborant des stratégies d’IA à la fois ambitieuses et réalisables.