Creando flujos de trabajo LLM trazables con Promptflow, Prompty y OpenAI

En esta guía, construiremos un flujo de trabajo LLM completo utilizando Promptflow dentro de un entorno de Google Colab. Comenzaremos instalando un backend de keyring para mitigar problemas de dependencia del sistema operativo mientras configuramos de forma segura nuestra conexión a OpenAI. A continuación, estableceremos un espacio de trabajo dedicado y crearemos un archivo Prompty estructurado, que servirá como el componente LLM principal de nuestro flujo de trabajo. Luego, desarrollaremos un flujo basado en clases que integre el preprocesamiento determinista con el razonamiento LLM, permitiendo la inyección de pistas calculadas en las respuestas del modelo. Además, implementaremos un seguimiento para monitorear cada paso de ejecución, permitiendo tanto consultas individuales como por lotes, y generando salidas en un formato bien organizado. Para concluir, mejoraremos el sistema con un pipeline de evaluación que emplea un LLM como juez para evaluar las respuestas en comparación con los resultados esperados.