Escala de Ollama y Optimización de Infraestructura
Ollama es una plataforma para ejecutar modelos de lenguaje grande (LLM) y multimodales de forma local y a escala.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de nivel intermedio a avanzado que desean escalar las implementaciones de Ollama para entornos multiusuario, de alto rendimiento y eficientes en costos.
Al final de esta formación, los participantes podrán:
- Configurar Ollama para cargas de trabajo distribuidas y multiusuario.
- Optimizar la asignación de recursos de GPU y CPU.
- Implementar estrategias de autoescalamiento, procesamiento por lotes (batching) y reducción de latencia.
- Monitorear y optimizar la infraestructura para mejorar el rendimiento y la eficiencia de costos.
Formato del curso
- Conferencia interactiva y discusión.
- Talleres prácticos de implementación y escalado.
- Ejercicios de optimización práctica en entornos reales.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
Temario del curso
Introducción al escalado de Ollama
- Arquitectura de Ollama y consideraciones para el escalado
- Cuellos de botella comunes en implementaciones multiusuario
- Mejores prácticas para la preparación de la infraestructura
Asignación de recursos y optimización de GPU
- Estrategias eficientes de utilización de CPU/GPU
- Consideraciones de memoria y ancho de banda
- Restricciones de recursos a nivel de contenedor
Implementación con contenedores y Kubernetes
- Contenerización de Ollama con Docker
- Ejecución de Ollama en clústeres de Kubernetes
- Balanceo de carga y descubrimiento de servicios
Autoescalamiento y procesamiento por lotes
- Diseño de políticas de autoescalamiento para Ollama
- Técnicas de inferencia en lotes para optimizar el rendimiento
- Compensaciones entre latencia y rendimiento
Optimización de la latencia
- Perfilamiento del rendimiento de inferencia
- Estrategias de almacenamiento en caché y calentamiento de modelos
- Reducción de la sobrecarga de E/S y comunicación
Monitoreo y observabilidad
- Integración de Prometheus para métricas
- Creación de paneles con Grafana
- Sistemas de alerta y respuesta a incidentes para la infraestructura de Ollama
Gestión de costos y estrategias de escalado
- Asignación de GPU consciente del costo
- Consideraciones de implementación en la nube frente a instalaciones locales (on-prem)
- Estrategias para un escalado sostenible
Resumen y próximos pasos
Requerimientos
- Experiencia con la administración de sistemas Linux
- Comprensión de la contenedorización y la orquestación
- Conocimiento sobre la implementación de modelos de aprendizaje automático
Público objetivo
- Ingenieros de DevOps
- Equipos de infraestructura de aprendizaje máquina (ML)
- Ingenieros de confiabilidad del sitio
Los cursos públicos requieren más de 5 participantes.
Escala de Ollama y Optimización de Infraestructura - Reserva
Escala de Ollama y Optimización de Infraestructura - Consulta
Escala de Ollama y Optimización de Infraestructura - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y evaluación avanzadas de modelos de Ollama
35 HorasLa depuración y evaluación avanzadas de modelos de Ollama es un curso en profundidad centrado en diagnosticar, probar y medir el comportamiento de los modelos al ejecutar despliegues locales o privados de Ollama.
Esta capacitación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA de nivel avanzado, profesionales de MLOps y especialistas en aseguramiento de calidad que deseen garantizar la fiabilidad, fidelidad y preparación operativa de los modelos basados en Ollama en producción.
Al finalizar esta capacitación, los participantes podrán:
- Realizar una depuración sistemática de los modelos alojados por Ollama y reproducir modos de fallo de manera confiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, trazas y métricas) para monitorizar la salud del modelo y su deriva.
- Automatizar pruebas, validación y controles de regresión integrados en pipelines CI/CD.
Formato del curso
- Conferencia interactiva y discusión.
- Laboratorios prácticos y ejercicios de depuración utilizando despliegues de Ollama.
- Estudios de caso, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.
Construcción de Flujos de Trabajo de IA Privados con Ollama
14 HorasEsta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo basados en IA seguros y eficientes utilizando Ollama.
Al finalizar esta formación, los participantes podrán:
- Implementar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos comerciales con capacidades de IA in situ (on-premise).
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Implementación y optimización de LLMs con Ollama
14 HorasEsta formación en vivo dirigida por un instructor en Peru (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean implementar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar e implementar LLMs usando Ollama.
- Optimizar modelos de IA para rendimiento y eficiencia.
- Aprovechar la aceleración por GPU para mejorar las velocidades de inferencia.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA con el tiempo.
Ajuste Fino y Personalización de Modelos de IA en Ollama
14 HorasEsta formación en vivo con instructor en <ubic> (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean realizar ajuste fino y personalizar modelos de IA en Ollama para mejorar el rendimiento y desarrollar aplicaciones específicas del dominio.
Al finalizar esta formación, los participantes podrán:
- Configurar un entorno eficiente para realizar ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar los modelos de IA en cuanto a rendimiento, precisión y eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y afinar modelos de lenguaje grande y multimodales localmente.
Este curso práctico, impartido por un instructor (en línea o presencial), está dirigido a ingenieros de ML avanzados, investigadores en IA y desarrolladores de productos que deseen construir e implementar aplicaciones multimodales con Ollama.
Al finalizar este entrenamiento, los participantes podrán:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y cuestionarios visuales (QA).
- Desarrollar agentes multimodales capaces de razonar a través de múltiples modalidades.
Formato del Curso
- Conferencia interactiva y discusión.
- Práctica con conjuntos de datos multimodales reales.
- Ejercicio en laboratorio con implementación de flujos de trabajo multimodales usando Ollama.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar.
Primeros pasos con Ollama: Ejecución de modelos de IA locales
7 HorasEsta formación en vivo impartida por un instructor en Peru (en línea o presencial) está dirigida a profesionales principiantes que desean instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus equipos locales.
Al finalizar esta capacitación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Desplegar e interactuar con LLM mediante Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.
Ollama y Privacidad de Datos: Patrones de Despliegue Seguro
14 HorasOllama es una plataforma que permite ejecutar modelos grandes de lenguaje y multimodales localmente, al tiempo que respalda estrategias de implementación seguras.
Esta formación en vivo con instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio que deseen desplegar Ollama con sólidas medidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes serán capaces de:
- Implementar Ollama de forma segura en entornos virtualizados (containerizados) e internos (on-premises).
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos en línea con los requisitos de cumplimiento normativo.
Formato del Curso
- Clases interactivas y discusión grupal.
- Talleres prácticos con patrones de despliegue seguros.
- Casos de estudio enfocados en cumplimiento normativo y ejercicios prácticos.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, contáctenos para organizarla.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación en vivo y con instrucción directa (en línea o presencial) está dirigida a profesionales financieros y personal de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta capacitación, los participantes adquirirán las habilidades necesarias para:
- Implementar y configurar Ollama para un uso seguro en operaciones financieras.
- Integrar LLM locales en flujos de trabajo analíticos y de generación de informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y discusión.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios centrados en finanzas.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de forma local.
Esta capacitación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales de la salud y equipos de TI con nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al finalizar esta capacitación, los participantes serán capaces de:
- Instalar y configurar Ollama para su uso seguro en entornos de salud.
- Integrar modelos de lenguaje grandes (LLM) locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar los modelos para la terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y discusión.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de salud con aislamiento (sandbox).
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.
Ollama: Modelos de Lenguaje Grande Auto-alojados que Reemplazan las APIs de OpenAI y Claude
14 HorasOllama es una herramienta de código abierto para ejecutar modelos de lenguaje grande (LLM) localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo a las organizaciones auto-alojar LLMs como Llama, Mistral y Qwen sin enviar indicaciones ni datos a OpenAI, Anthropic o Google.
Ollama para una IA Responsable y Gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales localmente, que soporta gobernanza y prácticas de IA responsable.
Esta formación en vivo con instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y responsabilidad en aplicaciones impulsadas por Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Aplicar principios de IA responsable en despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para alineación de la IA y audibilidad.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Casos de estudio y ejercicios centrados en el cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
Dominio del Prompt Engineering con Ollama
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande y multimodales de forma local.
Esta formación impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean dominar las técnicas de prompt engineering para optimizar los resultados generados por Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Diseñar prompts efectivos para diversos casos de uso.
- Aplicar técnicas como el priming y la estructuración del pensamiento encadenado (chain-of-thought).
- Implementar plantillas de prompts y estrategias de gestión del contexto.
- Construir flujos de trabajo multietapa mediante prompting para procesos complejos.
Formato del Curso
- Conferencias interactivas y sesiones de debate.
- Ejercicios prácticos de diseño de prompts.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.