Nos encontramos en la búsqueda de un Ingeniero de LLM Ops quien será el encargado de implementar, desplegar y operar modelos de lenguaje de gran tamaño (LLM) en entornos comerciales, garantizando su disponibilidad, seguridad, rendimiento e integración con los sistemas comerciales y de gestión de riesgos.
Funciones principales:
- Implementar monitoreo en tiempo real para el rendimiento y estabilidad de los modelos.
- Desarrollar y mantener canales de CI/CD para despliegue automático y experimentación rápida.
- Asegurar inferencias de baja latencia para modelos desplegados en producción.
- Integrar modelos de aprendizaje automático con la infraestructura de trading para una ejecución eficiente.
- Gestionar recursos en la nube.
- Implementar controles de seguridad para evitar operaciones catastróficas y gestionar riesgos.
- Garantizar entornos de inferencia redundantes y confiables.
- Construir plataformas de trading robustas que integren datos en tiempo real, salidas de modelos de ML, gestión de riesgo y sistemas de ejecución de órdenes.
- Organizar y estructurar el código para producción, incluyendo pruebas exhaustivas y automatización CI/CD.
- Administrar infraestructura en la nube utilizando contenedores (Docker) y orquestadores (Kubernetes).
- Desplegar y servir modelos con herramientas como MLflow, configurando un monitoreo completo que incluya métricas, detección de desviaciones (drift) y reportes de P&L.
- Desarrollar y asegurar interfaces de programación de aplicaciones (API) para la integración fluida entre componentes del sistema.
Requisitos:
- Formación académica: Profesional en sistemas, informática, desarrollo de software o áreas afines.
- Experiencia laboral: Dos (2) años de experiencia sólida en DevOps o MLOps para modelos de ML/LLM.
- Idiomas: Dominio del inglés.
- Conocimiento avanzado en CI/CD, contenedores, orquestación y gestión de infraestructura en la nube.
- Habilidades en programación para estructurar código de producción y automatizar pruebas.
- Familiaridad con herramientas de monitoreo, gestión de modelos y métricas de rendimiento.
- Deseable: Entendimiento del entorno de trading y gestión de riesgos, así como experiencia en Databricks.
Qué ofrecemos:
- Ubicación de trabajo: Envigado, Viva Palmas
- Salario a convenir.
- Beneficios: Auxilio de transporte y alimentación.
- Jornada laboral: Lunes a viernes de 7:00 a. m. a 4:30 p. m.
- Contrato: A término indefinido.