L'IA n'est aussi puissante que l'architecture des données qui la sous-tend.
Dans l’épisode 52 de The AI Forecast, Pourquoi les LLMs ne suffisent pas et comment les tissus d'IA vont tout changer, l’animateur Paul Muller s’entretient avec le Dr Jake Trippel, Doyen du College of Business and Technology à l’Université Concordia de St. Paul, et cofondateur et CTO de Codename 37, pour expliquer ce qui freine les entreprises dans l’expansion de l’IA :
Architecture des données en silos
Incompréhension de la puissance du machine learning, du deep learning, et des réseaux de neurones
Aggravation de la dette technique
Leur conversation couvre l'économie du cloud par rapport à l'économie sur site jusqu'au prochain changement des applications SaaS vers des expériences basées sur des bots. Voici des moments clés de leur discussion.
Pourquoi les architectures d'IA atteignent leurs limites
Paul: Parlez-nous de ce que nous avons constaté par le passé avec l'IA et les architectures de données, et pourquoi nous devons les repenser maintenant.
Jake : Nous avons traversé l’ère de la transformation numérique, c’était le défi avec les données. Nous sommes restés dans des silos de données parce que c’est ainsi que nos plateformes étaient conçues, et que les données étaient organisées. Ensuite, nous avons essayé de faire un tas d'intégrations. Nous avons essayé de créer tous ces moteurs d'intégration d'applications. Nous avons essayé de trouver des moyens astucieux de le faire, mais nous avons fini par créer un véritable enchevêtrement spaghetti en passant de l'ELT à l'ETL, d'un système à l'autre.
Nous sommes aujourd'hui à la veille de l'événement. Le défi maintenant est que ces organisations sont incitées à nous maintenir dans des silos car maintenant arrivent les silos de données IA, les données restent dans des silos, et c'est là que la puissance du cloud intervient. C'est pour ça que nous sommes fiers d'être partenaire de Cloudera.
Imaginez le même problème, mais en version amplifiée. J’ai des agents IA en pagaille — génial — mais ils ne travaillent que dans leur propre silo de données.
Les gens en voudront encore plus. Ils vont vouloir des agents capables de travailler ensemble, de communiquer ensemble et de raisonner ensemble. Mais comment faites-vous si vos données sont toujours bloquées dans des silos ? Pour atteindre cet état de maillage de données, un changement transformationnel sera nécessaire, et c'est pourquoi Cloudera est une solution idéale pour aider les organisations à y parvenir.
Pourquoi les grands modèles linguistiques ne suffisent pas
Paul: Quelles sont les astuces, les meilleures pratiques, les conseils ou les trucs que vous utilisez pour vous aider à tirer le meilleur parti de ce que vous faites avec les données ?
Jake : Le plus important est de comprendre que les grands modèles de langage ne sont pas la réponse à tout. L'IA est un vaste univers.
Les grands modèles de langage sont géniaux pour certaines choses, mais ils sont vraiment mauvais pour d’autres. Il est essentiel que les gens comprennent la puissance du Machine learning, de l’apprentissage profond et des réseaux neuronaux, qui constituent en réalité le cœur des deux autres.
La compétence clé de notre époque est d’être capable de développer ou d’utiliser les bons modèles pour les bons cas d’utilisation, et de traiter rapidement les données. C’est là que les gens doivent se concentrer.
L'effet cumulatif de la dette technique
Paul : D'après votre opinion et votre expérience, comment les organisations peuvent-elles, de manière pragmatique, commencer à passer d'une situation antérieure à une situation future ? Comment nettoient-ils leurs données ? Existe-t-il un mécanisme qui leur permet de le faire sans interruption ?
Jake : C'est une question très complexe, je vais donc essayer de la démêler un peu. Si vous en êtes là après trois décennies, ce n'est pas sans raison. On voit encore des AS/400 — et ils fonctionnent. Vous devez donner du crédit à IBM.
Le défi auquel ces organisations sont confrontées est de savoir combien de capital elles dépensent. En raison de l'effet cumulatif de cette dette technique — vous pouvez repousser l'échéance année après année, décennie après décennie. Le prix ne fera qu'augmenter.
Mais maintenant au moins vous avez des options. Nous pouvons extraire les données et en faire bien plus que jamais auparavant. Au lieu de l'approche du pansement arraché, tant que nous avons accès aux données et que nous continuons à y avoir accès, nous pouvons désormais créer n'importe quel type d'expérience que nous souhaitons en parallèle.
Pourquoi certaines charges de travail en IA reviennent sur site
Paul: Qu’observez-vous aujourd’hui chez vos clients existants lorsqu’ils cherchent à déployer de nouveaux workloads ?
Jake : Nous assistons à une migration massive vers les installations sur site. Je n’arrivais pas à y croire. Je n'aurais jamais pu prédire ça.
Comme ces organisations développent de plus en plus de modèles, de formations, etc., le modèle de coût du cloud est tout simplement trop cher. Je n'ai jamais rencontré de directeur financier enthousiaste à l'idée de dépenser autant par mois pour former ces modèles.
Donc, ils font l’investissement. Ils retournent dans les centres de données. Ils vont le déprécier au cours des cinq prochaines années. Nous observons cela dans les dispositifs médicaux, les services financiers, l'aviation — c'est généralement hybride, mais pour des charges de travail spécifiques, en particulier la formation et le développement, c'est bien plus rentable.
L’IA comme amplificateur de l’apprentissage — le meilleur et le pire
Paul : Que voyez-vous en ce qui concerne le monde universitaire et la manière dont nous préparons la main-d'œuvre de demain ?
Jake : L'IA est un amplificateur. Cela va amplifier le bien — et cela va amplifier le mauvais.
D'un côté positif, les gens apprendront 10, 20 fois plus vite qu'ils ne l'ont jamais fait auparavant. J'ai créé des modèles capables de lire des livres en trois secondes chrono. Je peux désormais me plonger dans les données et créer le type d'expérience d'apprentissage que je souhaite, adapté à mon style d'apprentissage.
Le mauvais côté, c'est que les étudiants choisissent de ne rien faire. Je peux laisser l'IA faire tout mon travail et je ne vais rien apprendre. C'est ce qui me fait peur.
Les compétences essentielles de notre époque, j'espère que vous aimez apprendre. Vous allez le faire tous les jours jusqu'à la fin de votre carrière.
Écoutez la conversation complète avec le Dr Jake Trippel sur The AI Forecast sur Spotify, Apple Podcasts et YouTube.
