Azure AI Foundry: Complete Guide for Enterprise AI 2026

El día que un cliente me preguntó "¿y esto dónde lo gestiono todo?"

Era una empresa de logística en Barcelona con tres equipos distintos construyendo soluciones de IA en paralelo: uno usando Azure OpenAI Studio, otro con Azure Machine Learning, y el tercero directamente contra la API de OpenAI con claves hardcodeadas en el código. Sin gobernanza, sin visibilidad de costes, sin forma de saber qué modelos estaban en producción.

Eso fue hace poco más de un año. Hoy ese mismo cliente tiene todo centralizado en Azure AI Foundry, con un solo Hub que da servicio a cuatro proyectos distintos, revisiones de seguridad automatizadas y un coste mensual que por primera vez es predecible.

Azure AI Foundry no es solo "otro portal de Azure". Mi recomendación para cualquier organización que empiece a escalar IA en producción: consolida aquí desde el principio, no esperes a tener el caos que vi en Barcelona.

La plataforma está disponible en ai.azure.com y reúne el acceso a modelos, la ingeniería de prompts, la evaluación, el ajuste fino y el despliegue en un único entorno gobernado. Para las empresas europeas, esto importa especialmente porque alinea el desarrollo de IA con la infraestructura existente de identidad, cumplimiento y gestión de costes — todo dentro del tenant de Azure.

Anteriormente, los equipos que trabajaban con Azure OpenAI tenían que usar Azure OpenAI Studio para el diseño de prompts, el portal de Azure para el aprovisionamiento de recursos y herramientas separadas para la monitorización. Azure AI Foundry consolida todo esto en una experiencia de desarrollo coherente sin sacrificar los controles de gobernanza que los arquitectos empresariales y los equipos de seguridad requieren.

La plataforma se construye alrededor de una jerarquía de dos niveles: Hubs y Proyectos. Un Hub es una capa de infraestructura compartida que múltiples equipos de proyecto consumen. Los Proyectos son espacios de trabajo ligeros y aislados que heredan del Hub pero mantienen su propia configuración, despliegues y datos.

Nota: Azure AI Foundry es la evolución tanto de Azure OpenAI Studio como de la experiencia de prompt flow de Azure Machine Learning. Si tienes recursos existentes en esos entornos, Microsoft proporciona guía de migración en la documentación oficial de Azure AI Foundry.

Antes de empezar

Antes de tocar el portal, verifica estos puntos. He visto proyectos retrasarse semanas por no tenerlos resueltos.

• [ ] Tienes una suscripción Azure activa con permisos de Contributor o Owner en el grupo de recursos objetivo
• [ ] Los proveedores de recursos Microsoft.MachineLearningServices, Microsoft.CognitiveServices, Microsoft.Storage, Microsoft.KeyVault y Microsoft.ContainerRegistry están registrados en tu suscripción
• [ ] Has verificado la cuota disponible para el modelo que quieres desplegar (GPT-4o tiene límites regionales de tokens por minuto — solicita aumentos con antelación)
• [ ] Tienes claro qué región usar: para datos de clientes europeos, swedencentral o westeurope son las opciones más habituales con soporte completo de modelos
• [ ] Has identificado quién será el owner del Hub (debería ser el equipo de plataforma, no un equipo de proyecto)
• [ ] Las políticas de red de tu organización permiten acceso a ai.azure.com y a los endpoints de Azure AI
• [ ] Tienes un plan para los recursos compartidos del Hub (Storage, Key Vault, Container Registry): ¿aprovisionamiento nuevo o reutilización de recursos existentes y securizados?

Preguntas que debes hacerte (y hacerle a tu equipo)

Antes de desplegar, estas preguntas evitan decisiones que luego cuestan caras de revertir:

¿Cuántos equipos van a usar esta infraestructura de IA en los próximos 12 meses?

Si son más de dos, la estructura Hub + Proyectos se amortiza desde el primer día. Si es solo uno, un proyecto standalone puede ser suficiente para empezar.

¿Los datos que van a procesar los modelos pueden salir del tenant de Azure?

Esto determina si puedes usar la API Serverless (el modelo está alojado por el proveedor) o si necesitas Cómputo Gestionado dentro de tu entorno. Para sectores regulados en Europa — banca, salud, seguros — la respuesta casi siempre es "no pueden salir".

¿Quién aprueba qué modelos entran en producción?

Sin un proceso de aprobación, cada equipo desplegará lo que quiera. Define esto antes de crear el primer Hub: quién tiene el rol Azure AI Developer, quién tiene Contributor a nivel Hub, y cómo se gestiona la promoción de un modelo de desarrollo a producción.

¿Cómo vas a medir el coste por proyecto o por unidad de negocio?

Azure AI Foundry permite tags y separación por proyecto, pero el chargeback real requiere una estrategia de etiquetado definida desde el principio. Retroactivamente es mucho más difícil.

¿Tienes una política de retención de datos para las trazas de Prompt Flow?

Las trazas incluyen el contenido completo de entradas y salidas. Para muchas empresas europeas bajo GDPR, esto no es trivial.

Visión General de los Componentes Clave

Hub

El Hub es el recurso de Azure de nivel superior que ancla tu entorno de AI Foundry. Gestiona la infraestructura compartida incluyendo Azure Storage, Azure Key Vault, Azure Container Registry y Application Insights. Estos se aprovisionan una vez y se reutilizan en todos los proyectos bajo el Hub.

Proyectos

Los Proyectos son donde ocurre el desarrollo. Cada proyecto tiene sus propias conexiones, cómputo, despliegues y flujos de prompt. Se puede otorgar acceso a equipos a un proyecto específico sin visibilidad sobre otros proyectos bajo el mismo Hub — esencial cuando se trabaja entre unidades de negocio o con socios externos.

Catálogo de Modelos

El Catálogo de Modelos de Azure AI Foundry agrega modelos de Microsoft (GPT-4o, Phi-3, Phi-4), Meta (Llama 3), Mistral AI, Cohere y cientos más de la comunidad de código abierto. Los modelos se categorizan por tipo de tarea, licencia y método de despliegue.

Prompt Flow

Prompt Flow es la herramienta de orquestación visual y code-first para construir pipelines de IA. Permite encadenar llamadas a LLMs, funciones Python, transformaciones de datos e integraciones de herramientas en un único grafo ejecutable.

Evaluaciones

El framework de evaluación integrado mide la calidad de las salidas del modelo contra métricas definidas — relevancia, fundamentación, fluidez, coherencia y criterios personalizados. Para organizaciones que necesitan demostrar prácticas de IA responsable o comparar versiones de modelos antes de promoverlas a producción, esto no es opcional.

Seguridad e IA Responsable

Azure AI Foundry integra Azure AI Content Safety de forma nativa. Puedes configurar filtros de contenido a nivel de despliegue para bloquear categorías dañinas de contenido, aplicar detección de jailbreak y configurar filtros de fundamentación para pipelines RAG.

Requisitos Previos y Licenciamiento

Requisitos de Suscripción Azure

Necesitas una suscripción Azure activa con cuota suficiente para el modelo que pretendes desplegar. GPT-4o tiene límites de cuota regionales medidos en tokens por minuto (TPM). Solicita aumentos de cuota a través del portal de Azure antes de intentar despliegues si tu organización tiene requisitos de alto rendimiento.

Proveedores de Recursos

Asegúrate de que los siguientes proveedores de recursos estén registrados:

• Microsoft.MachineLearningServices
• Microsoft.CognitiveServices
• Microsoft.Storage
• Microsoft.KeyVault
• Microsoft.ContainerRegistry

Roles RBAC

| Rol | Ámbito | Capacidades |

|---|---|---|

| Azure AI Developer | Proyecto | Crear flujos, despliegues, experimentos |

| Azure AI Inference Deployment Operator | Proyecto | Desplegar modelos en endpoints |

| Contributor | Hub | Gestionar configuración del Hub y recursos compartidos |

| Owner | Hub | Control total incluyendo asignaciones RBAC |

| Workspace Connection Secrets Reader | Hub/Proyecto | Leer secretos de conexión |

Mi recomendación aquí es clara: los equipos de desarrollo reciben Azure AI Developer a nivel de Proyecto. El acceso a nivel de Hub queda restringido al equipo de plataforma. Sin excepciones. Consulta Control de acceso basado en roles en Azure AI Foundry.

Configurando Tu Primer Hub de AI Foundry

El enfoque recomendado para entornos empresariales es Infraestructura como Código. Para la exploración inicial, Azure CLI proporciona un camino rápido.

# Instalar o actualizar la extensión CLI de Azure ML
az extension add --name ml
az extension update --name ml
az login
az account set --subscription "<tu-subscription-id>"

# Crear grupo de recursos
az group create \
  --name rg-ai-foundry-prod \
  --location eastus2

# Crear Hub de Azure AI Foundry
az ml workspace create \
  --kind hub \
  --resource-group rg-ai-foundry-prod \
  --name hub-ai-foundry-prod \
  --location eastus2 \
  --display-name "Hub Empresarial AI Foundry"

# Crear un Proyecto bajo el Hub


![Navigating the Model Catalog](https://hxpwtqrwvrlzxdcrcwbv.supabase.co/storage/v1/object/public/blog-images/posts/4108b330-0e3f-4668-a828-ab218216d4d1/section-06.png)

az ml workspace create \
  --kind project \
  --resource-group rg-ai-foundry-prod \
  --name proj-ai-chatbot \
  --location eastus2 \
  --hub-id /subscriptions/<subscription-id>/resourceGroups/rg-ai-foundry-prod/providers/Microsoft.MachineLearningServices/workspaces/hub-ai-foundry-prod \
  --display-name "Proyecto Chatbot Cliente"

Nota: El aprovisionamiento del Hub crea automáticamente los recursos dependientes (Storage, Key Vault, Container Registry, Application Insights) en el mismo grupo de recursos. Para producción, apunta siempre a versiones pre-aprovisionadas y securizadas de estos recursos para mantener tu línea base de seguridad.

Navegando por el Catálogo de Modelos

El Catálogo de Modelos es donde tomas una de las decisiones arquitectónicas más importantes: qué modelo utilizar.

Tipos de Despliegue de Modelos

Cómputo Gestionado (Hosted): Los modelos se despliegan en cómputo dedicado dentro de tu entorno Azure. Control total sobre el tipo de instancia, el autoescalado y la configuración de red. Apropiado para cargas de trabajo de producción de alto rendimiento.

API Serverless (Pago por token): Los modelos están alojados por el proveedor del modelo a través de Azure Marketplace y se facturan por token consumido. Sin infraestructura que gestionar. Ideal para prototipado o casos de uso de bajo volumen.

Guía de Selección de Modelos

| Modelo | Proveedor | Ideal Para | Tipo de Despliegue | Licencia |

|---|---|---|---|---|

| GPT-4o | Microsoft/OpenAI | Razonamiento complejo, tareas multimodales | API Serverless | Comercial |

| GPT-4o mini | Microsoft/OpenAI | Chat optimizado en coste, clasificación | API Serverless | Comercial |

| Phi-4 | Microsoft | Inferencia en dispositivo, razonamiento a escala | Cómputo Gestionado | MIT |

| Phi-3.5 Mini | Microsoft | Tareas ligeras, escenarios edge | Cómputo Gestionado | MIT |

| Meta-Llama-3.1-70B | Meta | Pesos abiertos, pipelines personalizables | Cómputo Gestionado | Licencia Llama |

| Mistral Large | Mistral AI | Multilingüe, seguimiento de instrucciones | API Serverless | Comercial |

| Cohere Command R+ | Cohere | Tareas de recuperación optimizadas para RAG | API Serverless | Comercial |

Para escenarios empresariales que implican datos sensibles, los modelos Phi-4 y Phi-3 son particularmente relevantes porque pueden desplegarse completamente dentro de tu tenant de Azure en cómputo gestionado. Revisa la documentación de la familia de modelos Phi.

Creando Tu Primer Proyecto y Despliegue

Con tu Hub y Proyecto aprovisionados, despliega un modelo y verifica la conectividad.

1. Abre ai.azure.com y selecciona tu Proyecto
2. Navega a Catálogo de modelos
3. Selecciona GPT-4o y haz clic en Desplegar
4. Elige API Serverless como tipo de despliegue
5. Acepta los términos y haz clic en Desplegar

Para acceso programático, utiliza el SDK de Azure AI Inference:

from azure.ai.inference import ChatCompletionsClient
from azure.ai.inference.models import SystemMessage, UserMessage
from azure.core.credentials import AzureKeyCredential

endpoint = "https://<nombre-de-tu-proyecto>.services.ai.azure.com/models"
api_key = "<tu-api-key>"

client = ChatCompletionsClient(
    endpoint=endpoint,
    credential=AzureKeyCredential(api_key)
)

response = client.complete(
    model="gpt-4o",
    messages=[
        SystemMessage(content="Eres un asistente empresarial útil. Sé conciso y preciso."),
        UserMessage(content="Resume los beneficios clave de Azure AI Foundry para equipos empresariales.")
    ],
    max_tokens=512,
    temperature=0.3
)

print(response.choices[0].message.content)

La documentación del SDK de Azure AI Inference soporta tanto autenticación basada en clave como autenticación con Entra ID.

Prompt Flow: Construyendo Tu Primer Pipeline de IA

Prompt Flow transforma las llamadas individuales a modelos en pipelines de IA estructurados, observables y desplegables. Para casos de uso empresarial — procesamiento de documentos, automatización de soporte al cliente, pipelines RAG — casi siempre necesitas más que una simple llamada a un LLM.

Un flujo básico de Generación Aumentada por Recuperación (RAG) en Prompt Flow tiene tres etapas:

1. Nodo de embedding: Convierte la consulta del usuario en un vector de embedding
2. Nodo de búsqueda en índice: Recupera los top-k fragmentos relevantes de un índice de Azure AI Search
3. Nodo LLM: Pasa el contexto recuperado y la pregunta original a GPT-4o

Ejemplo de configuración del nodo LLM en YAML:

- name: responder_pregunta
  type: llm
  source:
    type: code
    path: responder_pregunta.jinja2
  inputs:
    deployment_name: gpt-4o
    temperature: 0.1
    max_tokens: 800
    question: ${inputs.question}
    context: ${retrieve_context.output}
  connection: azure_openai_connection
  api: chat

Nota: Establece siempre temperature a un valor bajo (0.0–0.2) para pipelines RAG. Una temperatura más alta aumenta la creatividad pero también el riesgo de alucinación cuando el objetivo es la recuperación factual fundamentada.

Evaluación y Prueba de Modelos de IA

El framework de evaluación integrado de Azure AI Foundry proporciona métricas de calidad repetibles y auditables.

Métricas de Evaluación Integradas

| Métrica | Tipo | Qué Mide |

|---|---|---|

| Fundamentación (Groundedness) | Asistida por IA | Si las afirmaciones de la respuesta están respaldadas por el contexto proporcionado |

| Relevancia | Asistida por IA | Qué tan bien la respuesta aborda la pregunta de entrada |

| Coherencia | Asistida por IA | Flujo lógico y legibilidad de la respuesta |

| Fluidez | Asistida por IA | Calidad gramatical y lingüística |

| Puntuación F1 | Determinista | Solapamiento a nivel de token con la verdad de referencia |

Usa las evaluaciones como puerta de calidad en tu pipeline CI/CD. Antes de promover una nueva versión de modelo o actualización de prompt a producción, exige que las puntuaciones cumplan un umbral definido. Es el equivalente en IA a que los tests unitarios pasen antes de un merge. Documentación completa en Evalúa tu aplicación de IA generativa.

Configuración de Seguridad Empresarial

Para la mayoría de los despliegues empresariales, la configuración de red pública por defecto de Azure AI Foundry no es aceptable. Con clientes en banca y seguros en España y Portugal, esto es lo primero que reviso en cualquier revisión de arquitectura.

Endpoints Privados

Configura endpoints privados para los recursos subyacentes del Hub para eliminar la exposición a internet público: Azure Storage, Azure Key Vault, Azure Container Registry y el propio workspace del Hub de AI Foundry. Consulta Configurar una red gestionada para el Hub de Azure AI Foundry.

Identidad Gestionada

Reemplaza la autenticación por clave API con identidad gestionada siempre que sea posible. Otorga a la identidad gestionada el rol Azure AI Developer en el ámbito del Proyecto:

az role assignment create \
  --assignee-object-id "<object-id-identidad-gestionada>" \
  --role "Azure AI Developer" \
  --scope "/subscriptions/<sub-id>/resourceGroups/rg-ai-foundry-prod/providers/Microsoft.MachineLearningServices/workspaces/proj-ai-chatbot"

Gestión de Costes y Monitorización

Cuotas de Tokens y Límites de Tasa

Cada despliegue de modelo tiene límites configurables de tokens por minuto (TPM) y solicitudes por minuto (RPM). Establécelos de forma conservadora en entornos de desarrollo para prevenir costes descontrolados.

Monitorización con Application Insights

La instancia de Application Insights asociada al Hub captura: tasas de solicitudes y latencias, consumo de tokens por modelo y despliegue, trazas de ejecución de Prompt Flow y tasas de activación de filtros de contenido.

Nota: Las trazas de Prompt Flow incluyen el contenido completo de entrada y salida por defecto. Revisa tus políticas de retención de datos y considera si el contenido completo de las trazas debería enmascararse para cumplir con los requisitos de manejo de datos. Consulta Monitorizar Azure AI Foundry.

Próximos Pasos

Gobernanza y Políticas: Implementa definiciones de Azure Policy para exigir que todos los Hubs de AI Foundry utilicen endpoints privados y que el registro de diagnóstico esté configurado. Consulta la referencia de políticas de Azure Machine Learning.

Ajuste Fino: Si los modelos base no cumplen con los requisitos de precisión para tareas específicas del dominio, Azure AI Foundry soporta ajuste fino supervisado para GPT-4o y varios modelos de pesos abiertos.

Orquestación Multi-Agente: Para flujos de trabajo complejos que requieren múltiples modelos especializados, explora el Servicio de Agentes de Azure AI que se integra nativamente con los Proyectos de AI Foundry.

LLMOps: Trata las aplicaciones de IA con el mismo rigor operativo que el software tradicional. Construye pipelines CI/CD que ejecuten flujos de evaluación como puertas de calidad y versiona tus flujos de prompt en Git.

Tu checklist de implementación

Planificación

• [ ] Región Azure seleccionada con soporte completo de los modelos que necesitas
• [ ] Estrategia de Hub: uno centralizado o uno por línea de negocio
• [ ] Política RBAC definida: quién administra el Hub, quién accede a los Proyectos
• [ ] Estrategia de etiquetado para chargeback por proyecto/equipo
• [ ] Política de retención de datos para trazas de Prompt Flow revisada con el equipo legal/compliance
• [ ] Proveedores de recursos registrados en la suscripción

Implementación

• [ ] Hub aprovisionado con recursos compartidos pre-securizados (Storage, Key Vault, ACR)
• [ ] Al menos un Proyecto creado y validado con acceso de equipo
• [ ] Primer modelo desplegado (recomiendo GPT-4o mini para pruebas iniciales de coste)
• [ ] Conexión verificada desde código con el SDK de Azure AI Inference
• [ ] Filtros de contenido configurados en los despliegues de producción

Pruebas

• [ ] Dataset de evaluación inicial creado (mínimo 20-50 ejemplos representativos)
• [ ] Métricas de evaluación ejecutadas: Groundedness, Relevance, Coherence
• [ ] Prompt Flow de ejemplo desplegado y validado end-to-end
• [ ] Trazas de Application Insights verificadas y revisadas

Despliegue

• [ ] Endpoints privados configurados para todos los recursos del Hub
• [ ] Autenticación por clave API reemplazada por Identidad Gestionada
• [ ] Límites de TPM/RPM establecidos conservadoramente en producción
• [ ] Proceso de aprobación definido para promover modelos a producción
• [ ] Runbook de respuesta ante incidentes actualizado para incluir AI Foundry

Preguntas frecuentes

¿Qué diferencia hay entre un Hub y un Proyecto en Azure AI Foundry?

El Hub es la capa de infraestructura compartida —Storage, Key Vault, Container Registry, Application Insights— que se aprovisiona una vez. Los Proyectos son espacios de trabajo aislados que heredan del Hub pero mantienen sus propias conexiones, despliegues y flujos. Puedes dar acceso a un equipo a un Proyecto sin que vea los demás del mismo Hub.

¿Cuándo conviene API Serverless y cuándo Cómputo Gestionado?

Si los datos no pueden salir de tu tenant —banca, salud, seguros bajo normativa europea— necesitas Cómputo Gestionado, donde el modelo se aloja dentro de tu entorno (Phi-4, Llama y otros de pesos abiertos). La API Serverless (pago por token) es ideal para prototipos y volúmenes bajos, pero el modelo lo aloja el proveedor. La pregunta de residencia de datos decide por ti.

¿Necesito la estructura Hub + Proyectos si solo tengo un equipo?

No necesariamente. Si solo un equipo va a usar la plataforma en los próximos 12 meses, un proyecto standalone puede bastar para empezar. La estructura Hub + Proyectos se amortiza a partir de dos equipos, cuando la gobernanza centralizada y el chargeback por proyecto compensan el coste de montarla.

¿Cómo evito sorpresas de coste en Azure AI Foundry?

Tres controles desde el día uno: límites conservadores de TPM/RPM por despliegue, una estrategia de etiquetado para chargeback por proyecto (retroactivamente es mucho más difícil) y GPT-4o mini como modelo por defecto para pruebas, reservando GPT-4o para lo que de verdad lo necesite. Application Insights te da el consumo de tokens real por modelo y despliegue.

Recursos

• Documentación de Azure AI Foundry
• Visión general del SDK de Azure AI Foundry
• Visión general del Catálogo de Modelos
• Guía de despliegue de modelos Phi-4
• Desarrollar un Prompt Flow
• Evaluar aplicaciones de IA generativa
• Configurar aislamiento de red gestionada
• RBAC en Azure AI Foundry
• Visión general de Azure AI Content Safety
• Monitorizar aplicaciones de Azure AI Foundry
• Conceptos del Servicio de Agentes de Azure AI
• Referencia de políticas de Azure Machine Learning

¿Preguntas o feedback? Escríbeme a [email protected].