Flujo de mensajes en el portal de Microsoft Foundry (clásico)

Solo se aplica a:portal Foundry (clásico). Este artículo no está disponible para el nuevo portal de Foundry. Obtenga más información sobre el nuevo portal.

El flujo de avisos es una herramienta de desarrollo que simplifica todo el ciclo de desarrollo de aplicaciones de inteligencia artificial con tecnología de modelos de lenguaje grandes (LLM). El flujo de avisos proporciona una solución completa que simplifica el proceso de creación de prototipos, experimentación, iteración e implementación de las aplicaciones de inteligencia artificial.

El flujo de comandos está disponible de forma independiente como un proyecto de código abierto en GitHub, con su SDK propio y su extensión de VS Code. El flujo de mensajes también está disponible y se recomienda usar como característica en Microsoft Foundry y Estudio de Azure Machine Learning. Este conjunto de documentación se centra en el flujo de comandos en el portal de Foundry.

Definiciones:

• Prompt flow es una función que puede usar para generar, personalizar o ejecutar un flujo.
• Un flujo es un conjunto de instrucciones ejecutable que implementa la lógica de IA. Puede crear o ejecutar flujos a través de varias herramientas, como un lienzo precompilado, LangChain y otros. Puede guardar iteraciones de un flujo como recursos. Una vez implementado, un flujo se convierte en una API. No todos los flujos son flujos de solicitud. Más bien, el flujo de avisos es una manera de crear un flujo.
• Un aviso es un paquete de entrada enviado a un modelo, que consta de la entrada del usuario, el mensaje del sistema y cualquier ejemplo. La entrada del usuario es el texto enviado en la ventana de chat. El mensaje del sistema es un conjunto de instrucciones para el modelo que limitan sus comportamientos y funcionalidades.
• Un flujo de ejemplo es un flujo de orquestación simple y precompilado que muestra cómo funcionan los flujos y se puede personalizar.
• Un mensaje de ejemplo es una solicitud definida para un escenario específico que se puede copiar de una biblioteca y que se puede usar as-is o modificar en el diseño del mensaje.

Ventajas del flujo de avisos

Mediante el flujo de instrucciones en el portal de Foundry, puede hacer lo siguiente:

• Orquestar flujos ejecutables con LLM, avisos y herramientas de Python mediante un grafo visualizado.
• Depura, comparte e itera tus flujos con facilidad mediante la colaboración en equipo.
• Cree variantes de aviso y compare su rendimiento.

Agilidad de ingeniería rápida

• Experiencia de creación interactiva: El flujo de avisos ofrece una representación visual de la estructura del flujo, lo que permite comprender y navegar fácilmente por los proyectos.
• Variantes para la optimización rápida: puede crear y comparar varias variantes de solicitud, lo que facilita un proceso de refinamiento iterativo.
• Evaluación: los flujos de evaluación integrados le permiten evaluar la calidad y eficacia de los mensajes y flujos.
• Recursos completos: Prompt flow incluye una biblioteca de herramientas integradas, ejemplos y plantillas que sirven como punto de partida para el desarrollo, inspirando la creatividad y acelerando el proceso.

Preparación para la empresa

• Colaboración: Prompt flow admite la colaboración en equipo, por lo que varios usuarios pueden trabajar juntos en proyectos de ingeniería de petición, compartir conocimientos y mantener el control de versiones.
• Plataforma todo en uno: el flujo de avisos simplifica todo el proceso de ingeniería de avisos, desde el desarrollo y la evaluación hasta la implementación y la supervisión. Puede implementar los flujos sin esfuerzo como puntos de conexión de inteligencia artificial Azure y supervisar su rendimiento en tiempo real, lo que garantiza una operación óptima y una mejora continua.
• Soluciones de preparación empresarial: el flujo rápido aplica soluciones sólidas de preparación empresarial de inteligencia artificial de Azure, proporcionando una base segura, escalable y confiable para el desarrollo, la experimentación y la implementación de flujos.

Mediante el flujo de comandos en el portal de Foundry, puede liberar agilidad en la ingeniería de comandos, colaborar de forma eficaz y aplicar soluciones a nivel empresarial para el desarrollo y la implementación de aplicaciones basadas en LLM.

Ciclo de vida de desarrollo de flujo

El flujo de trabajo ofrece un proceso bien definido que facilita el desarrollo sin contratiempos de las aplicaciones de inteligencia artificial. Al usarlo, puede avanzar eficazmente a través de las fases de desarrollo, optimización, pruebas e implementación de procesos, lo que en última instancia da lugar a la creación de aplicaciones de inteligencia artificial completamente desarrolladas.

El ciclo de vida consta de las siguientes fases:

• Inicialización: identifique el caso de uso empresarial, recopile datos de ejemplo, aprenda a crear un mensaje básico y desarrolle un flujo que amplíe sus funcionalidades.
• Experimentación: ejecute el flujo con datos de ejemplo, evalúe el rendimiento del indicador y realice ajustes en el flujo si es necesario. Experimente continuamente hasta que esté satisfecho con los resultados.
• Evaluación y refinamiento: evalúe el rendimiento del flujo ejecutándolo en un conjunto de datos mayor, evalúe la eficacia del mensaje y afina según sea necesario. Continúe con la siguiente fase si los resultados cumplen los criterios deseados.
• Producción: optimice el flujo para lograr eficiencia y eficacia, impleméntelo, supervise el rendimiento en un entorno de producción y recopile los datos de uso y los comentarios. Use esta información para mejorar el flujo y contribuir a las fases anteriores para realizar más iteraciones.

Siguiendo este enfoque estructurado y metódico, el flujo de mensajes le permite desarrollar, probar rigurosamente, ajustar e implementar flujos con confianza, lo que da lugar a la creación de aplicaciones de inteligencia artificial sólidas y sofisticadas.

Tipos de flujo

En el portal de Foundry, puede iniciar un nuevo flujo seleccionando un tipo de flujo o una plantilla de la galería.

Estos son algunos ejemplos de tipos de flujo:

• Flujo estándar: diseñado para el desarrollo general de aplicaciones, el flujo estándar permite crear un flujo mediante una amplia gama de herramientas integradas para desarrollar aplicaciones basadas en LLM. Proporciona flexibilidad y versatilidad para desarrollar aplicaciones en distintos dominios.
• Flujo de chat: adaptado para el desarrollo de aplicaciones conversacionales, el flujo de chat se basa en las funcionalidades del flujo estándar y proporciona compatibilidad mejorada con entradas y salidas de chat y administración del historial de chat. Mediante el uso del modo de conversación nativo y las características integradas, puede desarrollar y depurar las aplicaciones sin problemas dentro de un contexto conversacional.
• Flujo de evaluación: diseñado para escenarios de evaluación, el flujo de evaluación permite crear un flujo que toma las salidas de las ejecuciones de flujo anteriores como entradas. Este tipo de flujo permite evaluar el rendimiento de los resultados de ejecución anteriores y generar métricas pertinentes, lo que facilita la evaluación y mejora de sus modelos o aplicaciones.

Flujos

Un flujo en Prompt flow actúa como un flujo de trabajo ejecutable que simplifica el desarrollo de la aplicación de IA basada en LLM. Proporciona un marco completo para administrar el flujo de datos y el procesamiento dentro de la aplicación.

Dentro de un flujo, los nodos toman el centro del escenario, representando herramientas específicas con capacidades únicas. Estos nodos controlan el procesamiento de datos, la ejecución de tareas y las operaciones algorítmicas, con entradas y salidas. Al conectar nodos, se establece una cadena de operaciones sin problemas que guía el flujo de datos a través de la aplicación.

Para facilitar la configuración y el ajuste de nodos, se proporciona una representación visual de la estructura de flujo de trabajo a través de un gráfico DAG (Gráfico Acíclico dirigido). En este gráfico se muestran la conectividad y las dependencias entre nodos, lo que proporciona una visión general clara de todo el flujo de trabajo.

Mediante el uso de la característica de flujo en Prompt flow, puede diseñar, personalizar y optimizar la lógica de su aplicación de IA. La disposición cohesiva de los nodos garantiza un procesamiento de datos eficaz y una administración eficaz del flujo, lo que le permite crear aplicaciones sólidas y avanzadas.

Herramientas de flujo de avisos

Las herramientas son piezas fundamentales de un flujo.

En el portal de Foundry, las opciones de herramientas incluyen la herramienta LLM, Prompt tool, Python tool etc.

Cada herramienta es una unidad ejecutable simple con una función específica. Mediante la combinación de diferentes herramientas, puede crear un flujo que logre una amplia gama de objetivos. Por ejemplo, puede usar la herramienta LLM para generar texto o resumir un artículo y la herramienta Python para procesar el texto para informar al siguiente componente de flujo o resultado.

Una de las principales ventajas de las herramientas de flujo de prompt es su integración perfecta con las API de terceros y los paquetes de Python código abierto. Esta integración no solo mejora la funcionalidad de los modelos de lenguaje grande, sino que también hace que el proceso de desarrollo sea más eficaz para los desarrolladores.

Si las herramientas de flujo de mensajes en el portal de Foundry no cumplen sus requisitos, puede desarrollar su propia herramienta personalizada y convertirlo en un paquete de herramientas. Para descubrir herramientas más personalizadas desarrolladas por la comunidad de código abierto, visite prompt flow custom tools.

Contenido relacionado

• Crear con flujo de avisos en el portal de Foundry
• Introducción al flujo de mensajes en VS Code