Senior AI Platform Engineer – LLM Gateway
TECDATA ENGINEERING
- Location
- Remote (Spain)
- Compensation
- €45k/yr
- Employment
- Full-time
- Level
- Senior Level
About the Role
TECDATA Engineering is seeking a Senior AI Platform Engineer to build and evolve a corporate LLM Gateway for BBVA, ensuring secure, governed, and observable access to generative AI models across the group.
Skills
Perks
- Remote Work
Full job details
🏢 Cliente: BBVA
🤝 Consultora: Minsait
💰 Salario: 45.000 € brutos anuales
🏡 Modalidad: 100 % remoto
🎯 Prioridad: Alta
🚀 El reto
Buscamos un/a Senior AI Platform Engineer para participar en la implantación y evolución de una plataforma corporativa de LLM Gateway para BBVA.
El objetivo es proporcionar un acceso común, seguro, gobernado y observable a modelos de IA generativa, facilitando su integración con aplicaciones, servicios y agentes de IA del Grupo.
Buscamos un perfil técnico con experiencia práctica en plataformas cloud, integración de APIs, seguridad, automatización y operación en entornos empresariales. No es una posición exclusivamente funcional ni centrada únicamente en consumir APIs de IA.
🎯 Responsabilidades
Implementar y evolucionar los componentes técnicos del LLM Gateway siguiendo la arquitectura y los estándares corporativos.
Integrar aplicaciones, servicios y agentes con endpoints corporativos de inferencia.
Configurar mecanismos de autenticación y autorización mediante OAuth2, OIDC y JWT.
Gestionar secretos, credenciales, permisos y controles de acceso con criterios de seguridad y mínimo privilegio.
Implementar políticas de API Gateway: rate limiting, cuotas, enrutamiento, guardrails y trazabilidad.
Configurar conectividad segura con proveedores de modelos: DNS, proxy, TLS, certificados y control de salida de red.
Desarrollar capacidades de resiliencia, incluyendo timeouts, reintentos, circuit breaking, fallback y pruebas de carga.
Implantar observabilidad mediante métricas, logs estructurados, trazas distribuidas, alertas y cuadros de mando.
Automatizar despliegues, configuraciones y pruebas mediante Terraform u otras herramientas de IaC y pipelines CI/CD.
Facilitar la medición y optimización de costes por aplicación, agente, proyecto y modelo.
Colaborar con los equipos de Arquitectura, IAM, Ciberseguridad, Redes, Cloud, SRE y desarrollo.
🛠️ Requisitos imprescindibles
6 o más años de experiencia en Platform Engineering, Cloud Engineering, integración de sistemas distribuidos, API Management o áreas similares.
Al menos 1 año de experiencia demostrable con AI Gateways.
Experiencia implantando y operando APIs, plataformas compartidas o servicios transversales en entornos empresariales.
Experiencia integrando APIs de inferencia y modelos de IA generativa en producción, incluyendo streaming, concurrencia, latencia, tokens y gestión de errores.
Conocimientos sólidos de API Gateways, políticas de acceso, cuotas, rate limiting y observabilidad.
Experiencia en seguridad de APIs: OAuth2, OIDC, JWT, gestión de secretos, scopes y audiencias.
Experiencia práctica con AWS, especialmente IAM, gestión de secretos, networking, observabilidad e infraestructura como código.
Conocimientos de redes y seguridad cloud: VPC, proxy, DNS, TLS, certificados y egress controlado.
Experiencia con observabilidad, métricas, logs, trazas, alertas y prácticas SRE.
Desarrollo y automatización con Python, incluyendo APIs, integraciones, middlewares o componentes de plataforma.
Experiencia con Terraform, CloudFormation o CDK, CI/CD y configuración versionada.
Autonomía para diagnosticar y resolver incidencias técnicas complejas.
⭐ Se valorará especialmente
AWS AgentCore Gateway, Amazon Bedrock u otras soluciones de IA generativa en AWS.
Implantación de LLM Gateways y plataformas de acceso gobernado a modelos fundacionales.
Integración con OpenAI y otros proveedores, incluidas APIs compatibles con OpenAI.
Arquitecturas multi-modelo, enrutamiento inteligente y mecanismos de fallback.
Guardrails, protección frente a prompt injection, DLP y clasificación de datos.
FinOps aplicado a IA generativa y optimización del consumo de tokens.
Kubernetes/EKS, service mesh y prácticas SRE avanzadas.
Experiencia en banca o sectores con elevados requisitos de seguridad, auditoría y cumplimiento normativo.