L’IA d’entreprise a besoin de logique décisionnelle : voici pourquoi, avec Darlene Newman

L’IA générative transforme le fonctionnement des organisations, mais le déploiement des modèles n’est que le début. Alors que les entreprises passent de l’expérimentation à la mise en œuvre, elles ont besoin d’une IA qui prend des décisions de manière cohérente et conformément au fonctionnement réel de l’entreprise.

Dans un nouvel épisode de The AI Forecast, « Logique décisionnelle : la couche manquante de l’IA d’entreprise », Darlene Newman, responsable de l’innovation chez Duczer East, rejoint l’animateur Paul Muller pour expliquer pourquoi l’IA d’entreprise a besoin de plus que de données et de prompts pour produire des résultats fiables. S'appuyant sur son expérience à la tête d'initiatives dans les domaines de l'IA et de la transformation numérique, Darlene Newman explique pourquoi les entreprises doivent recenser les connaissances décisionnelles que leurs collaborateurs mettent en pratique au quotidien et les rendre accessibles à l'IA.

Poursuivez votre lecture pour découvrir pourquoi la logique décisionnelle pourrait devenir un élément fondamental de l’IA d’entreprise.

Qu’est-ce que la logique décisionnelle ?

Paul : Parlons de logique décisionnelle. Quand j’ai découvert le sujet, j’ai eu l’un de ces moments où l’on est tenté d’acquiescer et de faire semblant de comprendre. Même après un rapide coup d’œil, j’ai compris que je n’avais aucune idée de ce que signifiait la logique décisionnelle en tant que discipline. Alors, aidez-moi. De quoi s’agit-il, et pourquoi devrais-je m’y intéresser ?

Darlene : Un LLM génère des résultats impressionnants, mais il se contente de repérer des motifs dans le texte provenant d’Internet sur lequel il a été entraîné. Ce n’est pas une véritable intelligence, mais cela va changer notre façon de travailler au quotidien. Pour qu’il puisse savoir et comprendre, vous devez l’aider à comprendre.  

J’ai consacré beaucoup de temps à la gestion des contrats, et je pense que c’est un cas d’usage exceptionnel pour les LLM. Si je demande si un contrat comporte une clause de renouvellement automatique, des expressions comme peut être renouvelé, doit être renouvelé, renouvellement automatique ou renouvellement tacite pourraient toutes avoir le même sens. Quand quelqu’un dit, "Il s’agit d’un contrat à renouvellement automatique," la question devient, "Comment le savez-vous ?"

C’est ce que j’entends par logique décisionnelle. C’est le pourquoi de ce que vous faites, le savoir tacite que les gens mettent instinctivement en pratique chaque jour. Il faut transmettre ces connaissances au LLM. Sinon, il prendra sa propre décision, et celle-ci ne sera peut-être pas la bonne.

Le « bibliothécaire » derrière l’IA d’entreprise

Paul : Ce que je comprends, c’est que la logique décisionnelle nous permet de formaliser une partie de ce savoir tacite et de l’intégrer au système pour des cas d’utilisation définis, ce qui réduit le besoin d’une intervention humaine constante. De quels talents ou compétences les organisations ont-elles besoin pour développer cette capacité ?  

Darlene : Je compare cela à une bibliothécaire, quelqu’un qui organise l’information. Je dis toujours qu’il faut maîtriser deux compétences essentielles pour créer un agent : comprendre les processus métier et comprendre les données. En combinant ces deux compétences, on obtient une personne capable d’assurer la conception des connaissances. Ce ne sont pas de purs ingénieurs, mais la personne qui conçoit la couche de connaissances doit comprendre comment les données sont structurées et comment l’entreprise fonctionne réellement. Vous avez toujours besoin de spécialistes techniques pour mettre en œuvre l’agent, mais la conception des connaissances repose véritablement sur une combinaison de l’expertise métier et de la compréhension des données.  

Je pense que ce qui se passe souvent, c’est que si la personne qui conçoit cela vient d’un parcours purement technique, elle structurera son vocabulaire autour de ce qui se trouve déjà dans le système. Les gens diront : "Nous avons Collibra. Nous avons des définitions de données pour tous nos champs et nous avons cartographié leur traçabilité." Ma réponse est : "Ce n’est pas un vocabulaire contrôlé."

Avoir des définitions de champs, c’est très bien, mais la vraie question est : que signifie réellement le concept ? Une définition à elle seule ne vous indique pas comment l’interpréter ni comment une IA devrait l’identifier. Il faut aller encore plus loin. Vous ne voulez pas que vos concepts et votre compréhension se contentent de refléter ce qui figure dans un modèle de données relationnel. C’est le risque d’adopter une approche trop technique lors de la définition de la couche sémantique.

Intégrer la logique décisionnelle à l’IA dès le premier jour

Paul : Terminons par un petit appel à l’action. Pour les personnes comme moi qui entendent le terme de logique décisionnelle et se contentent d’acquiescer d’un signe de tête, que devrions-nous faire concrètement ? Est-ce un sujet auquel les conseils d’administration et les dirigeants devraient réfléchir, et à quel moment d’un projet d’IA la logique décisionnelle doit-elle s’inviter dans la conversation ?

Darlene : Vous commencez à réfléchir à la logique décisionnelle dès le début du projet, lorsque vous concevez l’agent. Avec les agents, vous ne pouvez plus vous contenter d’exigences minimales. Chaque tâche comporte des cas limites potentiels, vous devez donc décider si l’agent les gère ou les transmet à un humain.

Je dis toujours aux gens de commencer par le flux de processus. N’essayez pas de concevoir l’ensemble du processus autour de l’agent. Identifiez plutôt les activités critiques de ce processus. Cartographiez le travail que vous effectuez aujourd’hui et dites, "Voici toutes les choses que nous faisons dans ce flux. Lesquelles vous semblent les plus pertinentes parmi celles que vous pouvez réaliser ? " Et à ce stade, quels sont les tests ? Quelle est l’entrée ? Quelle est la sortie, et comment prenez-vous la décision concernant cette sortie ? Et vous commencez à documenter la manière dont vous procédez.

Le défi, c’est que les couches sémantiques ne sont pas encore des notions que les conseils d’administration comprennent facilement ou qu’ils financent. Les conseils d’administration comprennent facilement les lacs de données et les API, mais les couches sémantiques n’ont pas encore atteint ce niveau de compréhension.

Avec certains clients, nous avons dû prouver la valeur. Nous avons commencé avec un agent unique, et le résultat était médiocre. Nous avons élaboré un vocabulaire contrôlé simple auquel l’agent pouvait se référer, et les résultats se sont améliorés. À mesure que nous ajoutions des règles et des définitions, nous construisions essentiellement une couche sémantique de base. Aujourd’hui, nous le formalisons grâce à la conception des connaissances et aux normes ouvertes, mais à l’époque, nous avons dû le développer en coulisses, car les organisations ne le demandaient pas. C’est un concept difficile, car les gens ne pensent pas naturellement de cette manière. J’ai constaté qu’il est plus facile de montrer à quoi ressemble un graphe de connaissances que de l’expliquer.

Suivez la conversation complète avec Darlene Newman sur The AI Forecast sur Spotify, Apple Podcasts, et YouTube.