Senior AI Platform Engineer LLM Gateway
TECDATA ENGINEERING
- Location
- Remote (Spain)
- Employment
- Full-time
- Level
- Senior Level
About the Role
TECDATA Engineering is implementing a corporate LLM Gateway platform for BBVA, providing a secure, governed, and observable access point for foundational AI models. The role focuses on industrializing this solution through robust platform engineering and security integration.
Skills
Perks
- Remote Work
Full job details
Senior AI Platform Engineer (LLM Gateway)
Modalidad: Teletrabajo · Jornada: Completa
El proyecto
BBVA implanta una plataforma corporativa de LLM Gateway: un punto de acceso común, seguro, gobernado y observable a modelos fundacionales para las aplicaciones y agentes de IA del Grupo. Buscamos a alguien que industrialice la solución, no un perfil de simple consumo de APIs de IA.
Qué harás
Implementar y evolucionar el LLM Gateway según la arquitectura y los estándares de BBVA.
Integrarlo con identidad y acceso corporativos (OAuth2, OIDC, JWT) y con la gestión de secretos.
Configurar políticas de acceso, rate limiting, cuotas, guardrails y trazabilidad.
Garantizar resiliencia y observabilidad (métricas, logs, trazas, alertas).
Medir consumo y costes por aplicación, proyecto y modelo.
Automatizar despliegues con Infraestructura como Código y CI/CD.
Qué buscamos
6+ años en ingeniería de plataforma, cloud engineering, API management o integración de sistemas distribuidos.
1+ año integrando AI Gateways.
Experiencia con AWS (identidad, secretos, networking), Python y Terraform, CloudFormation o CDK.
Seguridad de APIs: OAuth2, OIDC, JWT.
Experiencia en producción con APIs de IA generativa y alta concurrencia.
Observabilidad y operación de servicios (SLI/SLO).
Se valorará
Amazon Bedrock o AgentCore Gateway, enrutamiento multi-modelo, guardrails y protección frente a prompt injection, Kubernetes/EKS y experiencia en banca.