Intelligence artificielle : comment passer de l’expérimentation au déploiement ?

Après avoir confronté plusieurs solutions d’intelligence artificielle générative à ses propres cas d’usage, Saint-Étienne Métropole a retenu The QA Company et est aujourd’hui entrée dans la phase de mise en œuvre.

Avec un objectif : aller au-delà d’un assistant généraliste pour proposer progressivement aux différentes directions des intelligences artificielles spécialisées, adaptées à leurs métiers et intégrées à l’environnement de la collectivité.

Sébastien Valla, Directeur des Systèmes d’Information et du Numérique chez Ville de Saint-Etienne & Saint-Etienne Métropole, revient sur les ambitions du projet et sur les enjeux très concrets que pose le passage de l’expérimentation au déploiement.

Quelle est votre ambition avec ce projet ?

Notre objectif était de mettre en place ce que nous appelons un « hub IA », c’est-à-dire une plateforme capable de proposer des IA spécialisées pour les différents métiers.

Nous ne cherchons pas à concurrencer ChatGPT sur des connaissances générales accessibles sur Internet. Nous voulons des outils adaptés à nos usages internes.

Par exemple, pour l’informatique, nous disposons déjà d’une base de connaissances très importante. Demain, la même logique pourra être appliquée aux ressources humaines, avec des IA capables de répondre sur les règles du temps de travail, juridiques ou d’autres sujets métier.

À terme, nous pourrions déployer une cinquantaine d’IA différentes pour les directions métiers. Cela suppose que la solution soit solide techniquement dans la durée, mais aussi économiquement, car les coûts peuvent très vite augmenter.

Où en êtes-vous aujourd’hui ?

Nous sommes en pleine phase de mise en œuvre. Nous avons repris un fonctionnement classique en mode projet, avec un chef de projet dédié.

La première étape a consisté à intégrer la solution dans notre système d’information, ce qui représente un travail important. Nous gérons près de 3 500 postes utilisateurs et nous avons des contraintes fortes en matière de sécurité, d’authentification et de gestion des droits.

Aujourd’hui, le socle technique est en place et sécurisé. Nous sommes en train de tester les premiers cas d’usage autour de Victor, notre assistant informatique.

En parallèle, nous préparons déjà le déploiement d’autres IA pour les directions métiers, notamment les ressources humaines.

Notre objectif est que chaque direction puisse disposer d’outils autonomes, sécurisés, conformes au RGPD et dont les coûts restent maîtrisés.

Une fois la solution intégrée, quel est le principal défi ?

Le plus grand défi est la stabilité dans le temps.

Dans le domaine de l’IA, les modèles évoluent constamment. Nous l’avons déjà constaté avec les différentes versions utilisées ces dernières années : la qualité des réponses peut varier.

Or nous ne pouvons pas nous permettre ce type de fluctuations.

Lorsque nous validons qu’une réponse est correcte, nous voulons qu’elle reste correcte dans la durée.

C’est probablement l’un des enjeux majeurs de ce type de projet.

La maîtrise des données fait-elle également partie des enjeux ?

Nos données restent notre propriété et ne peuvent pas être réutilisées. Tout cela est encadré contractuellement et conforme au RGPD.

Nous avons été particulièrement vigilants sur ce point.

Certains cas d’usage portent exclusivement sur des documents internes. D’autres peuvent faire appel à des sources externes. Dans ce cas, les utilisateurs sont clairement informés que les informations proviennent de ressources extérieures à la collectivité.

L’un des points essentiels du projet était justement de garantir que nos données internes ne soient jamais réutilisées à d’autres fins.

Comment construire un projet pérenne alors que les technologies évoluent aussi rapidement ?

Les technologies d’IA évoluent extrêmement vite. Le meilleur prestataire aujourd’hui ne sera pas forcément le meilleur dans quelques mois.

Le véritable enjeu est que tout l’écosystème continue à progresser dans la durée.

Nous ne concurrencerons jamais des modèles comme ChatGPT ou Mistral sur la connaissance générale du web. En revanche, il existe un formidable potentiel pour développer des IA spécialisées, sécurisées, frugales et adaptées aux besoins internes des organisations.

C’est là que se situe le vrai défi.

The QA Company est une startup stéphanoise spécialisée dans l’intelligence artificielle générative, fondée en 2019. Elle développe QAnswer, une plateforme qui permet aux organisations de créer des assistants IA capables de répondre aux questions à partir de leurs propres données, de manière sécurisée.