Avis d'expert
Accompagner les entreprises dans leur transformation IA et Data : bonnes pratiques et points de vigilance
Retour
Habib Messaoudi est Country Practice Leader en charge de la practice Applications, Data et AI chez Kyndryl France. Il accompagne de nombreux clients français dans la mise en place d’une stratégie et de projets IA, et évoque avec nous les principales difficultés rencontrées par les clients, ainsi que les moyens de les surmonter.
Des clients qui ont déjà commencé à mener des expériences d’IA concrètes se rendent rapidement compte que les projets d’IA nécessitent une gouvernance transverse, qui va bien au-delà de la traditionnelle collaboration entre IT et métier. Il faut élargir les parties prenantes aux Directions Juridiques, aux Instances Représentatives du Personnel.
Les clients expriment également des incertitudes sur le passage à l'échelle entre un prototype réussi et un déploiement ‘at scale’, on voit que les difficultés sont de nature différente.
Pour terminer, les décideurs de manière générale nous disent qu’ils ont du mal à lire et à suivre l'évolution de la réglementation. Enfin, les compétences pointues sur l’IA restent encore assez rares, ce qui complique l’acquisition et la rétention des meilleurs talents.
Ce sont souvent les Métiers qui ont pris l’initiative de lancer des PoC IA, parfois sans impliquer l’IT. Comment identifier ce shadow IA et l’intégrer dans une approche stratégique ?
Ce qui a favorisé l’essor rapide de ce shadow IA, c’est l’arrivée de ChatGPT, qui a suscité une curiosité et un intérêt immédiat parmi le grand public. Et ces utilisateurs ont rapidement souhaité lancer des projets IA dans leur entreprise, de façon autonome, qui ont conduit à l’éclosion de Shadow IA.
Dans les entreprises, il faut certes encourager une culture d'innovation, mais mettre en place des mécanismes d’accompagnement et un encadrement afin de profiter des bonnes idées, et les faire fructifier au service de l’entreprise.
Il faut comprendre les motivations des métiers à utiliser l’IA, quels sont les usages qui ont généré ce Shadow IA. Ensuite, je pense qu'il faut intégrer l’IA au sein d’une approche stratégique. Une fois qu'on a l'acculturation, la bonne cartographie des besoins, la bonne vision sur l'analyse des données, et que l'on a sensibilisé l'ensemble des parties prenantes, il faut mettre en place une gouvernance collaborative pour réduire le Shadow IA, identifier les bons cas d'usage, et industrialiser les cas d’usage les plus prometteurs.
Trop souvent on veut aller vite, on lance des PoC dans le but d’obtenir des résultats rapidement visibles, et c'est compréhensible. Mais cela ne doit pas dispenser du travail indispensable sur la gouvernance, la qualité et la sécurité des données. Je crois que c’est le patron de AWS qui disait : « Si vous déployez des modèles IA sur des données qui ne sont pas prêtes à en accueillir pleinement les possibilités, vous allez tout simplement prendre plus vite de mauvaises décisions !».
Le deuxième aspect touche la formation des équipes. Sans acculturation ni formation minimales, à un moment ou un autre, le déploiement de l’IA ne se passera ni vite ni bien. Lorsque Kyndryl France a commencé à utiliser massivement l’IA en interne, nous avons formé l’ensemble des 1.200 collaborateurs de Kyndryl France avec une formation IA répartie en 9 modules, le même type de formation que ce que nous proposons à nos clients. Le taux de participation a été exceptionnel, preuve que nos collaborateurs s'intéressent vraiment au sujet de l’IA.
Plus largement, Kyndryl a mis en place un AI Council qui regroupe nos meilleurs experts en IA, le DPO, le CDO, des membres du service juridique. A titre d'exemple, lorsque nous avons déployé Microsoft Copilot en tant que membre du Early Access Program, nous avons dû organiser des réunions avec les instances représentant le personnel, qu'on explicite les répercussions, les avantages de l’IA. Et la preuve que l’IA oblige les entreprises à aller un peu au-delà de la traditionnelle collaboration entre les métiers et l'IT.
Ceci s’explique assez simplement lors de la phase du PoC ou du prototype, on cherche à obtenir des résultats rapidement, et avec un budget généralement réduit. Mais lorsqu’il faut généraliser cette maquette à l'échelle de l'entreprise, la complexité technologique change, les coûts de Run évoluent, et les préoccupations de sécurité peuvent devenir parfois prendre une dimension majeure. Le volume de données croissant peut également confronter l’entreprise à des sujets de biais cognitifs de l’IA, et même mettre en lumière des sujets éthiques.
Pour aider les clients à passer ce cap du passage à l’échelle, nous avons développé Generative AI Navigator, qui permet dès le stade de prototypage rapide de regarder l'ensemble de ces dimensions, comme l'observabilité, les aspects financiers lors d’un passage du PoC à une solution opérationnelle à l’échelle de l’entreprise.
Aujourd’hui, l’hybridation du SI est devenue une réalité chez un grand nombre de nos clients. Ce qui nous semble important est de mettre en place une vision technologique unifiant cloud, data, et IA, tout en s’appuyant sur une architecture modulaire. Lorsque les équipes IT gérant les aspects cloud sont distinctes de celle gérant le On-Prem, nous conseillons de les faire se rapprocher afin de partager une vision commune, et mettre en place agenda technologique unifié.
Nous voyons cependant apparaître chez quelques clients une démarche d’internalisation de l’IA, assez souvent liée à des questions de criticité des données qu’ils veulent éviter de transmettre à des solutions IA dans le cloud, surtout lorsqu’elles ne sont pas souveraines.
Il faut comprendre que cette internalisation va apporter des exigences supplémentaires, notamment en termes de performance et de scalabilité. Mais pour les clients qui font le choix de l’IA On-Prem, ils doivent s’assurer de disposer des compétences et des outils nécessaires pour garantir la sécurité, l’évolutivité de leur solution mais également sa conformité réglementaire.
Il n’y a pas de solution globale unique, mais plutôt plusieurs actions à mener pour réduire l’impact environnemental lié à l’utilisation de l’IA, notamment celui de l’IA Générative.
La préoccupation majeure concerne les modèles d’IA Génerative qu’il est judicieux de choisir, parmi tous ceux que l’on peut trouver aujourd’hui sur le marché. Une solution LLM devient presque une commodité, alors que pour réaliser des choses simples, il est probablement inutile de choisir des offres surdimensionnées comme GPT-4o, Grok 3 ou encore DeepSeek. Certains sites proposent des comparatifs entre les différents LLM pour identifier le modèle le plus approprié à ses besoins réels.
D’autre part, on peut aussi prendre des mesures du côté des utilisateurs. Il n’est pas toujours nécessaire de faire appel à l’IA pour faire des recherches simples. Faire appel à un bon vieux moteur de recherche suffit largement, et consommera largement moins ! Il faut aussi travailler sur la conception des prompts, pour arriver à affiner ceux-ci sans devoir itérer une cinquantaine de fois les essais infructueux. D’ailleurs, dans sa campagne ‘Soyons malins, reprenons la main’, l’ADEME met en garde les utilisateurs contre les impacts environnementaux de l’IA. La consommation électrique de l’IA pourrait atteindre 135TWh d’ici 2027, soit l’équivalent de la production de 22 réacteurs nucléaires.
Mais il ne faut pas oublier les clients qui s’engagent sur l’IA classique, avec du Machine Learning ou du Deep Learning. Nous avons accompagné des clients à fiabiliser leurs chaînes de production, en détectant grâce à l’IA les pièces présentant des défauts de qualité, ou encore pour réaliser de la maintenance préventive, avec du ML sur les informations remontées par des capteurs de son, de vibration, de température.
Nous avons également travaillé pour un aéroport, pour développer un assistant IA à destination des agents en charge de répondre aux multiples requêtes des passagers et des voyageurs. L’assistant identifie le type de demande du passager ainsi que sa sensibilité, analyse le message de l’expéditeur, et va proposer à l’agent des exemples de réponses les plus appropriées.
Historiquement, nous venons d'un monde dans lequel nous utilisons depuis très longtemps l’IA pour assurer la fiabilité et la continuité de services des systèmes critiques de nos clients.
Kyndryl est un ‘early adopter’ des technologies d'IA Générative, que nous avons déployées par nous-même en interne, ce qui nous positionne parfaitement pour conseiller nos clients, que ce soit sur l'acculturation, la définition d’une stratégie IA, le déploiement et la généralisation de modèles IA.
Sur le marché des services IA, nous disposons de 3 grands atouts. En premier lieu, Kyndryl maîtrise en profondeur des technologies de pointe comme l’IA, mais aussi tout ce qui concerne les données ou la cybersécurité. Ensuite, nous avons noué des partenariats avec les leaders du marché comme AWS, Google, Microsoft, des constructeurs comme Dell, HP ou encore Nvidia, ce qui permet de rester agnostique dans les choix technologiques de nos clients.
Enfin, nous disposons de propriété intellectuelle sur les sujets importants avec des outils tels que Generative AI Navigator, ou encore Kydryl Bridge, notre plateforme d’intégration ouverte.
Au global, nous apportons à la fois du conseil sur la stratégie globale à construire, par étapes par lesquelles il faut absolument passer, mais aussi sur les sujets nécessitant une vigilance particulière. Nous aidons nos clients à sécuriser et accélérer leur transformation vers l’IA.
Quelles sont les principales préoccupations des clients vis-à-vis du déploiement de l’IA ?
En premier lieu, ils évoquent des préoccupations sur la qualité et la sécurité des données. On le sait, l’IA ne peut pas fonctionner sans un large volume de données, parfois sensibles. Avec l’augmentation des menaces cyber, cette préoccupation est tout à fait légitime.Des clients qui ont déjà commencé à mener des expériences d’IA concrètes se rendent rapidement compte que les projets d’IA nécessitent une gouvernance transverse, qui va bien au-delà de la traditionnelle collaboration entre IT et métier. Il faut élargir les parties prenantes aux Directions Juridiques, aux Instances Représentatives du Personnel.
Les clients expriment également des incertitudes sur le passage à l'échelle entre un prototype réussi et un déploiement ‘at scale’, on voit que les difficultés sont de nature différente.
Pour terminer, les décideurs de manière générale nous disent qu’ils ont du mal à lire et à suivre l'évolution de la réglementation. Enfin, les compétences pointues sur l’IA restent encore assez rares, ce qui complique l’acquisition et la rétention des meilleurs talents.
Ce sont souvent les Métiers qui ont pris l’initiative de lancer des PoC IA, parfois sans impliquer l’IT. Comment identifier ce shadow IA et l’intégrer dans une approche stratégique ?
Ce qui a favorisé l’essor rapide de ce shadow IA, c’est l’arrivée de ChatGPT, qui a suscité une curiosité et un intérêt immédiat parmi le grand public. Et ces utilisateurs ont rapidement souhaité lancer des projets IA dans leur entreprise, de façon autonome, qui ont conduit à l’éclosion de Shadow IA.
Dans les entreprises, il faut certes encourager une culture d'innovation, mais mettre en place des mécanismes d’accompagnement et un encadrement afin de profiter des bonnes idées, et les faire fructifier au service de l’entreprise.
Il faut comprendre les motivations des métiers à utiliser l’IA, quels sont les usages qui ont généré ce Shadow IA. Ensuite, je pense qu'il faut intégrer l’IA au sein d’une approche stratégique. Une fois qu'on a l'acculturation, la bonne cartographie des besoins, la bonne vision sur l'analyse des données, et que l'on a sensibilisé l'ensemble des parties prenantes, il faut mettre en place une gouvernance collaborative pour réduire le Shadow IA, identifier les bons cas d'usage, et industrialiser les cas d’usage les plus prometteurs.
Comment s'assurer de la complétude d'une approche IA d’entreprise ?
Le point de départ, c'est de penser l’AI comme un moyen qui doit être au service des objectifs stratégiques de l'entreprise, et non pas comme une technologie incontournable qui va régler tous les problèmes. Il faut évaluer son état de maturité IA, en matière de compétences au sein de équipes, de choix technologique, et de contribution au business de l’entreprise.Trop souvent on veut aller vite, on lance des PoC dans le but d’obtenir des résultats rapidement visibles, et c'est compréhensible. Mais cela ne doit pas dispenser du travail indispensable sur la gouvernance, la qualité et la sécurité des données. Je crois que c’est le patron de AWS qui disait : « Si vous déployez des modèles IA sur des données qui ne sont pas prêtes à en accueillir pleinement les possibilités, vous allez tout simplement prendre plus vite de mauvaises décisions !».
Le deuxième aspect touche la formation des équipes. Sans acculturation ni formation minimales, à un moment ou un autre, le déploiement de l’IA ne se passera ni vite ni bien. Lorsque Kyndryl France a commencé à utiliser massivement l’IA en interne, nous avons formé l’ensemble des 1.200 collaborateurs de Kyndryl France avec une formation IA répartie en 9 modules, le même type de formation que ce que nous proposons à nos clients. Le taux de participation a été exceptionnel, preuve que nos collaborateurs s'intéressent vraiment au sujet de l’IA.
Plus largement, Kyndryl a mis en place un AI Council qui regroupe nos meilleurs experts en IA, le DPO, le CDO, des membres du service juridique. A titre d'exemple, lorsque nous avons déployé Microsoft Copilot en tant que membre du Early Access Program, nous avons dû organiser des réunions avec les instances représentant le personnel, qu'on explicite les répercussions, les avantages de l’IA. Et la preuve que l’IA oblige les entreprises à aller un peu au-delà de la traditionnelle collaboration entre les métiers et l'IT.
Quelles sont les difficultés principales pour passer du Poc à un déploiement à l'échelle ?
Souvenons-nous que le Gartner a déclaré qu’environ un projet IA sur 2 ne passe pas en production. Cette capacité de montée à l’échelle est un point vraiment important.Ceci s’explique assez simplement lors de la phase du PoC ou du prototype, on cherche à obtenir des résultats rapidement, et avec un budget généralement réduit. Mais lorsqu’il faut généraliser cette maquette à l'échelle de l'entreprise, la complexité technologique change, les coûts de Run évoluent, et les préoccupations de sécurité peuvent devenir parfois prendre une dimension majeure. Le volume de données croissant peut également confronter l’entreprise à des sujets de biais cognitifs de l’IA, et même mettre en lumière des sujets éthiques.
Pour aider les clients à passer ce cap du passage à l’échelle, nous avons développé Generative AI Navigator, qui permet dès le stade de prototypage rapide de regarder l'ensemble de ces dimensions, comme l'observabilité, les aspects financiers lors d’un passage du PoC à une solution opérationnelle à l’échelle de l’entreprise.
Comment aider vos clients à apporter de la cohérence technologique ?
Aujourd’hui, l’hybridation du SI est devenue une réalité chez un grand nombre de nos clients. Ce qui nous semble important est de mettre en place une vision technologique unifiant cloud, data, et IA, tout en s’appuyant sur une architecture modulaire. Lorsque les équipes IT gérant les aspects cloud sont distinctes de celle gérant le On-Prem, nous conseillons de les faire se rapprocher afin de partager une vision commune, et mettre en place agenda technologique unifié.Nous voyons cependant apparaître chez quelques clients une démarche d’internalisation de l’IA, assez souvent liée à des questions de criticité des données qu’ils veulent éviter de transmettre à des solutions IA dans le cloud, surtout lorsqu’elles ne sont pas souveraines.
Il faut comprendre que cette internalisation va apporter des exigences supplémentaires, notamment en termes de performance et de scalabilité. Mais pour les clients qui font le choix de l’IA On-Prem, ils doivent s’assurer de disposer des compétences et des outils nécessaires pour garantir la sécurité, l’évolutivité de leur solution mais également sa conformité réglementaire.
Comment concilier l’IA avec les engagements RSE des entreprises ?
Il n’y a pas de solution globale unique, mais plutôt plusieurs actions à mener pour réduire l’impact environnemental lié à l’utilisation de l’IA, notamment celui de l’IA Générative.La préoccupation majeure concerne les modèles d’IA Génerative qu’il est judicieux de choisir, parmi tous ceux que l’on peut trouver aujourd’hui sur le marché. Une solution LLM devient presque une commodité, alors que pour réaliser des choses simples, il est probablement inutile de choisir des offres surdimensionnées comme GPT-4o, Grok 3 ou encore DeepSeek. Certains sites proposent des comparatifs entre les différents LLM pour identifier le modèle le plus approprié à ses besoins réels.
D’autre part, on peut aussi prendre des mesures du côté des utilisateurs. Il n’est pas toujours nécessaire de faire appel à l’IA pour faire des recherches simples. Faire appel à un bon vieux moteur de recherche suffit largement, et consommera largement moins ! Il faut aussi travailler sur la conception des prompts, pour arriver à affiner ceux-ci sans devoir itérer une cinquantaine de fois les essais infructueux. D’ailleurs, dans sa campagne ‘Soyons malins, reprenons la main’, l’ADEME met en garde les utilisateurs contre les impacts environnementaux de l’IA. La consommation électrique de l’IA pourrait atteindre 135TWh d’ici 2027, soit l’équivalent de la production de 22 réacteurs nucléaires.
Pouvez-vous partager avec nous quelques exemples clients ?
Nous avons évoqué le besoin important d’acculturation et de formation à l’IA. Nous avons par exemple formé le COMEX d'une grande banque française sur l'IA et l'IA générative, et nous réalisons la même chose pour l’ensemble des salariés d’un éditeur logiciel français, leader sur son marché. Cela montre bien que les entreprises ont compris l'intérêt de l’IA et qu’elles veulent partir dès le début dans de bonnes dispositions.Mais il ne faut pas oublier les clients qui s’engagent sur l’IA classique, avec du Machine Learning ou du Deep Learning. Nous avons accompagné des clients à fiabiliser leurs chaînes de production, en détectant grâce à l’IA les pièces présentant des défauts de qualité, ou encore pour réaliser de la maintenance préventive, avec du ML sur les informations remontées par des capteurs de son, de vibration, de température.
Nous avons également travaillé pour un aéroport, pour développer un assistant IA à destination des agents en charge de répondre aux multiples requêtes des passagers et des voyageurs. L’assistant identifie le type de demande du passager ainsi que sa sensibilité, analyse le message de l’expéditeur, et va proposer à l’agent des exemples de réponses les plus appropriées.
Quels sont les éléments différenciateurs de Kyndryl sur le marché des services IA ?
Ce qui nous différencie sans doute, c'est notre posture d'acteur à la fois innovant et pragmatique.Historiquement, nous venons d'un monde dans lequel nous utilisons depuis très longtemps l’IA pour assurer la fiabilité et la continuité de services des systèmes critiques de nos clients.
Kyndryl est un ‘early adopter’ des technologies d'IA Générative, que nous avons déployées par nous-même en interne, ce qui nous positionne parfaitement pour conseiller nos clients, que ce soit sur l'acculturation, la définition d’une stratégie IA, le déploiement et la généralisation de modèles IA.
Sur le marché des services IA, nous disposons de 3 grands atouts. En premier lieu, Kyndryl maîtrise en profondeur des technologies de pointe comme l’IA, mais aussi tout ce qui concerne les données ou la cybersécurité. Ensuite, nous avons noué des partenariats avec les leaders du marché comme AWS, Google, Microsoft, des constructeurs comme Dell, HP ou encore Nvidia, ce qui permet de rester agnostique dans les choix technologiques de nos clients.
Enfin, nous disposons de propriété intellectuelle sur les sujets importants avec des outils tels que Generative AI Navigator, ou encore Kydryl Bridge, notre plateforme d’intégration ouverte.
Au global, nous apportons à la fois du conseil sur la stratégie globale à construire, par étapes par lesquelles il faut absolument passer, mais aussi sur les sujets nécessitant une vigilance particulière. Nous aidons nos clients à sécuriser et accélérer leur transformation vers l’IA.
