Skip to content

Serie 3: Ingeniería de Prompts y MLflow

🎯 Enfoque: Dándole al Bot un "Cerebro"

¡Ahora vamos a darle inteligencia a nuestro bot! Integraremos una API de LLM y configuraremos MLflow para rastrear y optimizar las respuestas del bot a través de ingeniería de prompts.

📚 Temas Cubiertos

Integrando la API de LLM

  • Elegir un proveedor de LLM (OpenAI, Anthropic, Cohere, etc.)
  • Configurar autenticación y credenciales de API
  • Entender límites de tokens y costos
  • Manejo de errores y limitación de velocidad

Reemplazando Respuestas Ficticias

  • Reemplaza el replicador simple basado en reglas con llamadas a LLM
  • Diseña prompts que funcionen bien para comentarios de YouTube
  • Maneja diferentes tipos de comentarios de manera inteligente
  • Asegúrate de que las respuestas sean apropiadas y coherentes con la marca

Configurando MLflow

  • Instalar y configurar MLflow
  • Entender experimentos y ejecuciones
  • Registrando prompts, parámetros y métricas
  • Comparando diferentes enfoques

Registrando Experimentos de Prompts

  • Estructurar tus experimentos para reproducibilidad
  • Registrar variaciones de prompts
  • Rastrear métricas de calidad de respuesta
  • Monitorear el rendimiento a lo largo del tiempo

Versionando los Mejores Prompts

  • Registrar modelos en MLflow
  • Crear etapas de modelo (Staging, Production)
  • Transicionar prompts mientras los mejoras
  • Volver a versiones anteriores si es necesario

🚀 Lo que Construirás

Al final de esta serie, tendrás: - ✅ Un bot impulsado por IA que genera respuestas inteligentes - ✅ MLflow rastreando tus experimentos - ✅ Un sistema de versionado para gestión de prompts - ✅ La capacidad de comparar y optimizar prompts de manera impulsada por datos

🧪 Bucle de Experimentación

Diseñar Prompt
    ↓
Ejecutar en Experimento de MLflow
    ↓
Evaluar Respuestas
    ↓
Registrar Métricas y Resultados
    ↓
Comparar Contra Línea Base
    ↓
Promover Mejor a Producción

📝 Requisitos Previos

  • Finalización de la Serie 2 (Esqueleto del Bot)
  • Entendimiento de APIs de LLM e ingeniería de prompts
  • Familiaridad con conceptos de rastreo de experimentos

💡 Conceptos Clave

  • Ingeniería de Prompts: Elaborar prompts para obtener mejores respuestas del LLM
  • Rastreo de Experimentos: Registrar todos los ensayos y sus resultados
  • Registro de Modelos: Mantener versiones de tus mejores prompts/configuraciones
  • Reproducibilidad: Poder recrear cualquier resultado anterior

🎬 Mira y Sigue

Sigue el video mientras integramos la API de GPT/LLM y configuramos el rastreo de MLflow. Usa esta guía para: - Fragmentos de código y ejemplos de API - Configuración de MLflow - Plantillas de prompts para comenzar

Próximo Paso: Una vez que tu bot impulsado por IA funciona bien y se rastrea en MLflow, la Serie 4 automatizará su ejecución usando GitHub Actions.