Création de flux de travail LLM traçables avec Promptflow, Prompty et OpenAI

Dans ce guide, nous allons construire un flux de travail LLM complet en utilisant Promptflow dans un environnement Google Colab. Nous commencerons par installer un backend keyring pour atténuer les problèmes de dépendance OS tout en configurant en toute sécurité notre connexion à OpenAI. Ensuite, nous mettrons en place un espace de travail dédié et créerons un fichier Prompty structuré, qui sert de composant LLM principal de notre flux de travail. Nous développerons ensuite un flux basé sur des classes qui intègre un prétraitement déterministe avec un raisonnement LLM, permettant l'infusion d'indices calculés dans les réponses du modèle. De plus, nous mettrons en œuvre un traçage pour suivre chaque étape d'exécution, permettant des requêtes simples et par lots, et produisant des sorties dans un format bien organisé. Pour conclure, nous améliorerons le système avec un pipeline d'évaluation qui utilise un LLM en tant que juge pour évaluer les réponses par rapport aux résultats attendus.