La IA detrás de Uplift

De forma similar al enfoque de Adyen de ofrecer capacidades de principio a fin en una sola plataforma, lo mismo se aplica a cada transacción individual.

Todos los pasos del flujo de pagos están interconectados. Cada etapa del proceso de pago depende de la anterior, creando una red compleja de dependencias. Por ejemplo, la experiencia de pago que se le ofrece a un cliente depende del riesgo previsto, que a su vez está influido por el resultado de la autenticación y por la elección de los canales de pago, lo que impacta también en los costes. Esto, a su vez, determina la estrategia de reintento en caso de que el pago falle.

Para navegar por este proceso tan complejo, hemos invertido en el desarrollo de un sistema capaz de tomar decisiones óptimas a nivel global a lo largo de todo el recorrido del pago.

Al mismo tiempo, a las personas nos gusta tener control y entender lo que ocurre, aunque eso muchas veces nos lleve a cometer errores. Para responder a esa necesidad, sistemas como el antiguo RevenueProtect ofrecían un sinfín de condiciones configurables con reglas del tipo “si pasa esto, haz aquello”. Aunque esta sensación de control aparente resulta reconfortante, lo que realmente importa son los datos. De hecho, la calidad de un sistema no depende de cómo está diseñado, sino de cómo se comporta.

Conciliar estas dos premisas: la necesidad humana de entender y la capacidad de la máquina de optimizar, es la única forma de escalar en complejidad y volumen, y a la vez garantizar el máximo rendimiento global, no local. Para lograrlo, hay que delegar la decisión en la máquina. Por la propia complejidad de los patrones, la única forma viable es dejar que la máquina los aprenda directamente de los datos (aunque, como veremos más adelante, no accede a todos los datos).

Como en cualquier aplicación de inteligencia artificial, el papel del ser humano no es competir con la máquina en sus decisiones o contenidos, sino supervisar su comportamiento.

En este artículo explicamos algunas de las decisiones, el trabajo de ingeniería y la ciencia que hay detrás de la inteligencia artificial de Uplift.

En el pasado, hemos implementado modelos de aprendizaje automático (ML) para optimizar de forma local e independiente cada paso de una transacción. Por ejemplo, un modelo antifraude predecía la probabilidad de un contracargo y bloqueaba la transacción si esa probabilidad superaba un umbral determinado. Al mismo tiempo, un modelo de autenticación completamente desconectado decidía la mejor ruta para un usuario concreto (por ejemplo, exención de SCA o autenticación 3DS1).

La inteligencia artificial detrás de Uplift rompe con ese paradigma. Está diseñada en torno al contexto del proceso de toma de decisiones y se compone de un conjunto de modelos de aprendizaje automático de distinta naturaleza que comparten conocimiento y contexto. Estos modelos se optimizan de forma global mediante aprendizaje por refuerzo (Reinforcement Learning) y comparten un mismo objetivo: equilibrar de forma armónica el fraude, el coste y la conversión.

Repasemos algunas cifras de la plataforma de Adyen en 2023:

• 1 billón de dólares procesados a través de la plataforma

• Un crecimiento interanual del 26 %

• SLA de procesamiento de transacciones: 1 segundo, incluyendo la comunicación con el adquirente, que consume aproximadamente 600 ms

Ahora, veamos los datos de la plataforma de Adyen durante Black Friday y Cyber Monday de 2024 (4 días):

• Número de transacciones: 670 millones

• Pico de transacciones: 163.000 por minuto (2.700 por segundo)

• Pico de peticiones a la API: 25.000 por segundo

• Disponibilidad de la API: 99,9999 %

Aunque los números son impresionantes, resultan aún más sorprendentes si consideramos que todas estas transacciones fueron gestionadas por IA durante su recorrido por la plataforma de Adyen. Cada transacción pasó por entre 2 y 5 puntos de decisión con IA, en los que un modelo de aprendizaje automático tomaba decisiones con una latencia asignada de solo 20 milisegundos (mediana).

Esto es posible gracias a una serie de componentes diseñados e implementados con gran precisión.

Nota: todos los flujos críticos de Adyen se ejecutan en infraestructura propia (on-premise). Esto significa que todos los componentes aquí mencionados, incluyendo el hardware de cómputo, están diseñados, desarrollados, desplegados, probados y operados por Adyen. Confiamos ampliamente en software de código abierto, como se deduce de la arquitectura tecnológica utilizada. Una vez desplegada la infraestructura, contar con un control total y extremo a extremo de toda la vertical nos permite implementar cambios rápidamente sin depender de terceros para garantizar la fiabilidad.

Plataforma de funciones 

La IA está conectada a una plataforma de funciones (Feature Platform) que proporciona vectores de entrada de baja latencia, alta cardinalidad, gran volumen y presencia multigeográfica, tanto para el entrenamiento como para la inferencia de los modelos. Para características complejas o lentas usamos procesamiento distribuido con Spark, y para características rápidas usamos Apache Flink. Estas se almacenan y sirven desde una base de datos Cassandra desplegada en distintos centros de datos alrededor del mundo, resolviendo así los requisitos de latencia y localización.

La plataforma de funciones (Feature Platform) está diseñada para servir características con una cardinalidad de decenas de miles de millones, manteniendo una latencia de solo unos pocos milisegundos.  Cubrimos el diseño y las decisiones detrás de esta arquitectura en nuestra charla en Codemotion 2023 y en este post del blog.

Servicio de inferencia

Una vez entrenado un modelo, se registra, almacena y publica. El servicio de inferencia, al que llamamos “Alfred”, permite a los científicos de datos crear un experimento, seleccionar un modelo, definir un modelo de referencia y desplegar el modelo aplicando una división de tráfico definida por la propia persona responsable del experimento.

Alfred crea un endpoint de API interno que se conecta directamente al flujo de pagos (recordemos: un flujo altamente crítico) y asume la responsabilidad de servir cada solicitud con una latencia p50 de 20 ms y p99 de 100 ms. El tamaño del artefacto y la arquitectura de inferencia son clave para alcanzar este rendimiento. Como detalle técnico, nos hemos especializado en eliminar cualquier índice, metadato o ruta auxiliar innecesaria en los pickles de Numpy o Pandas: vamos directamente al grano.

El servicio de inferencia también gestiona el ciclo de vida de los modelos. Usamos un esquema de "principal-desafiante" en cada despliegue (cada despliegue se considera un experimento). Alfred etiqueta un único modelo como “principal”, que es el que se aplica a la mayoría del tráfico y ofrece el mejor rendimiento global. Los nuevos modelos se introducen en distintas fases: (1) “ghost", en el que solo se registran métricas y estadísticas, sin influir en el resultado.; y (2) "challenger", que influye en el resultado para una fracción del tráfico, y se registran telemetrías. Cuando un modelo desafiante supera al principal con suficiente confianza estadística, el modelo principal pasa a estar "retirado" y el desafiante es promovido como nuevo principal.

Servicio de experimentación

Todos los despliegues de modelos se ejecutan sobre un servicio de experimentación que cuantifica el rendimiento de cada modelo (sea principal, ghost o challenger) con rigor científico, enmarcado como un experimento (es decir, una hipótesis a validar). Lo hacemos mediante pruebas A/B/n, comparando las estadísticas de cada modelo con un grupo de control unificado, y asegurándonos de desplegar los experimentos de forma progresiva para controlar la experiencia del usuario.

El grupo de control unificado es una fracción del tráfico donde no actúan modelos, pero cuya división se mantiene constante a lo largo de toda la transacción. Este grupo sirve de referencia para comparar el rendimiento de los modelos. Cabe destacar que, incluso en este grupo, sí actuamos sobre aspectos básicos que definen una “línea base de mercado”, es decir, una experiencia de pago que cualquier proveedor competente debería garantizar. En nuestro caso, esa base incluye: bloquear tarjetas robadas, aplicar exenciones de SCA (Strong Customer Authentication), forzar el uso de tokens de red, y reintentar con desafío si falla la autenticación. Esto da como resultado un cálculo de "uplift" más modesto, pero también más honesto y realista.

Resolución de entidades

Uno de los almacenes de datos más grandes de Adyen es un gráfico que enlaza atributos de transacciones para identificar entidades. Este gráfico representa una fuente de información extremadamente potente, que podemos modelar para extraer características y entrenar modelos.

Bajo estrictas directrices de PCI, GDPR y guiados también por nuestros propios estándares éticos, utilizamos esta información para tomar decisiones basadas en el riesgo y realizar procesos de “due diligence". Estimamos que hemos visto transaccionar a más de 1.000 millones de personas en todo el mundo a través de la plataforma de Adyen. Como el gráfico contiene todos los atributos de las transacciones, actualmente cuenta con más de 100.000 millones de nodos y 300.000 millones de aristas.

Históricamente, hemos almacenado estos datos en bases de datos Postgres, que funcionan muy bien para consultas rápidas, pero que presentan limitaciones cuando se trata de cálculos complejos (como la lógica de enlaces) y grandes volúmenes de datos. Por ello, estamos migrando el sistema a una arquitectura lambda con un enfoque híbrido: un flujo online, basado en Cassandra, que enlaza datos de forma más eficiente y permite trabajar con una mayor profundidad de relaciones, y flujo offline, que realiza cálculos complejos y corrige el almacén online cada hora, ya sea añadiendo nuevos enlaces o deshaciendo aquellos incorrectos. Este sistema lo llamamos CELL (Customer Event Linking Logic).

Capacidad de cómputo y almacenamiento

Desplegar inteligencia artificial a nuestra escala implica necesariamente explotar al máximo los datos que la alimentan. Para ello, hemos invertido en la infraestructura y el marco necesario para gestionar este volumen y complejidad. A continuación, algunas cifras clave de la plataforma de datos de Adyen (enero de 2025).

• Más de 1.500 nodos

• 600TB de RAM

• 60,000 núcleos CPU 

• 70PB de almacenamiento

• 96 GPUs NVIDIA A100 Tensor Core con NVLink Bridge

• Más de 1.000 DAGs que se ejecutan a diario o bajo demanda en la plataforma (dependemos en gran medida de Airflow y Spark)

Invertimos de forma constante en modernizar nuestra infraestructura y garantizar su capacidad futura. Y cuando decimos "de forma constante", nos referimos a que contamos con los procesos, el talento y la cultura para operar nuestra propia nube, asegurando que esté siempre disponible, actualizada y preparada para escalar.

Regulación, autenticación y almacenamiento de tokens

La escala no se trata solo de manejar grandes volúmenes de datos, minimizar la latencia o garantizar la disponibilidad. También implica asumir mayores responsabilidades a medida que más clientes confían en Adyen para procesar sus pagos y servicios financieros. Esto nos exige ofrecer soluciones técnicas que cumplan de forma inherente con las normativas, y que, al mismo tiempo, respondan a las necesidades de crecimiento del negocio.

Con este objetivo, hemos impulsado directivas de Autenticación Reforzada de Clientes (Strong Customer Authentication) bajo PSDx, y hemos llevado al límite la forma de cumplir con la regulación mientras lanzamos productos que ayudan a nuestros merchants a mejorar sus tasas de conversión. Uplift toma decisiones sobre qué "canal" de autenticación es el más adecuado para equilibrar fraude, conversión y coste. Puede elegir entre distintas opciones disponibles, como una exención, una versión de 3DS o una passkey (clave de acceso cifrada sin contraseña).

Del mismo modo, hemos escalado nuestro sistema de tokenización, y actualmente gestionamos más de 2.000 millones de tokens que protegen datos altamente sensibles bajo regulación PCI. Por ejemplo, la IA de Uplift puede decidir tokenizar, utilizar un token existente o intercambiarlo por un PAN (Primary Account Number), según los objetivos de optimización global.

Una inteligencia artificial solo es tan eficaz como el conjunto de acciones entre las que puede elegir. En Uplift hemos creado ese conjunto de acciones dentro de los límites regulatorios, lo que, a gran escala, permite liberar todo el potencial del rendimiento de la IA.

Decisiones holísticas conectadas

Una de las decisiones más complejas es conectar una colección de modelos de aprendizaje automático independientes hacia un objetivo común. La versión actual de Uplift utiliza message passing, que ofrece un enfoque sencillo pero eficiente para que los modelos puedan condicionar sus estimaciones en información compartida y así converger hacia un óptimo global.

Hemos probado con modelos más grandes y complejos de deep learning que combinan múltiples decisiones, y hemos comprobado que suelen comprometer los requisitos de ingeniería (latencia, disponibilidad) de despliegues online en flujos críticos. Sin embargo, seguimos investigando esta línea y empujando los límites en términos de ingeniería, con la expectativa de migrar toda la plataforma a arquitecturas de deep learning a corto plazo (ver más abajo).

Estamos realizando una investigación activa en esta área: hemos financiado una plaza de doctorado completa con el AMLAB de la Universidad de Ámsterdam (UvA) para abordar este problema desde la perspectiva de Reinforcement Learning. Ya hemos compartido con la comunidad algunos avances sobre ello en esta conferencia.

Evaluación al margen de la política ( Off-policy Evaluation )

Ejecutar pruebas A/B es costoso en tiempo y dinero. Lanzar una variante que funciona mal implica pérdidas económicas, y el tráfico necesario para alcanzar significancia estadística puede alargar mucho los experimentos. Además, hay un límite en la cantidad de experimentos que se pueden realizar al año, lo que puede retrasar el descubrimiento de una variante ganadora y causar la pérdida de ingresos. También supone una carga operativa y cognitiva, y se “sacrifica” parte del tráfico para probar hipótesis. En organizaciones maduras, los tests A/B a menudo resultan poco concluyentes, lo que supone una pérdida de tiempo.

Por ello, hemos indagado sobre la Off-policy Evaluation, que permite ejecutar pruebas A/B de forma offline. Las nuevas variantes se pueden comprobar de forma instantánea con alta correlación (+80%) respecto a estimaciones online (tests A/B reales). Esto nos ha ahorrado unas 20 semanas al año en tests poco efectivos y entre 9 y 54 millones de transacciones adicionales en seis meses.

Esta investigación fue presentada para RecSys ’25 y existe un preprint disponible en arXiv.

Contrafactuales e inferencia causal

A nuestra escala, entender las causas que motivan los resultados de un experimento es una necesidad, ya que permite detectar fuentes sistémicas de ruido que se podrían evitar en un futuro.

Cuando tomamos una decisión sobre una transacción (por ejemplo, bloquearla por posible fraude), no podemos saber qué habría pasado si no hubiéramos actuado. Esto se llama un contrafactual. Para conocer toda la distribución del tráfico, tendríamos que no actuar, lo cual va contra el objetivo del sistema.

Los grupos de control, la aleatorización y el tráfico de exploración ayudan en este sentido, pero profundizar en disciplinas como la inferencia causal nos permite comprender mejor las razones subyacentes de los resultados de los experimentos, además de sortear los contrafactuales.

También invertimos en esta línea con otra plaza de doctorado con el AMLAB de UvA para trabajar en inferencia causal aplicada a nuestros datos. Los investigadores colaboran con el equipo de ingeniería de Adyen para implementar y comprobar hipótesis. Por ejemplo, estamos desarrollando un simulador de transacciones con IA generativa (GenAI) que generaliza distribuciones, contrafactuales e información sensible, permitiéndonos evaluar algoritmos antes de probarlos en tráfico real.

Supervisión débil ( Weak Supervisión)

Las etiquetas son difíciles por dos motivos: cantidad y calidad. Con nuestro volumen de datos, tenemos suficientes etiquetas para entrenar modelos y aplicar técnicas de balanceo como downsampling.

Pero dejamos potencial predictivo sin aprovechar porque las etiquetas suelen llegar tarde, a veces no llegan o están incompletas. Para ello investigamos Weak Supervision, que parte de la idea de que es más beneficioso tener más datos aunque sean ruidosos, que menos datos de alta calidad. En concreto, añadir datos ruidosos puede mejorar el modelo, incluso con una cantidad fija de datos de alta calidad.

Weak Supervision alimenta el “Flywheel de datos de Adyen”, que combina mejorar cantidad y calidad de etiquetas junto con Active Learning. Con esta técnica en producción hemos aumentado el recall un +22%, reducido pérdidas en tasa de autorización un -46% y mejorado la tasa de rechazo por emisores un +13% al aumentar la eficiencia en la detección de fraude.

Exploración aleatoria no uniforme para bandits contextuales

Al ejecutar un experimento en tiempo real con tráfico real en un sistema de Reinforcement Learning (RL), surge el dilema entre ejecutar la acción con mejor recompensa conocida (explotación) y seguir explorando para validar o actualizar ese conocimiento (exploración).

La técnica más simple es epsilon-greedy, que asigna un porcentaje epsilon del tráfico a explorar (elegir una acción subóptima). Hay diversas investigaciones para elegir la mejor acción que mantenga la exploración sin perder mucho rendimiento. Hemos investigado y desplegado experimentos con varias técnicas y hallado resultados relevantes con métodos basados en Regression Oracles. Esta investigación se presentó para WWW ’25 y hay un preprint en arXiv

Deep Learning y ensamblajes

Uno de nuestros ideales es buscar la simplicidad y crear soluciones para los problemas, no problemas para las soluciones que queremos usar. Por eso, algoritmos clásicos como boosted trees siguen siendo una base sólida para la mayoría de problemas de clasificación y regresión con datos estructurados y han sido nuestra principal referencia.

Sin embargo, hemos ejecutado experimentos donde desplegamos conjuntos heterogéneos de redes neuronales para scoring online en el flujo de pagos, y no solo hemos igualado el rendimiento de boosting sino que lo hemos superado, con mejoras que justifican la mayor complejidad operativa.

Nota: estrictamente hablando, el uso de IA generativa (es decir, un modelo de lenguaje grande, LLM) no es una tecnología que ayude a resolver este problema. Sin embargo, nos hemos inspirado en nuestro trabajo en empresas como Hyperplane (gran producto, gran equipo), que han creado modelos offline mediante redes más grandes basadas en la arquitectura Transformer, eliminando la necesidad de diseñar características explícitas (punto siguiente).

Arquitecturas Transformer

Estamos experimentando con Unsupervised Pretraining y Transformers para aprovechar toda la escala de nuestros datos e incorporar sesgos inductivos adecuados a los modelos.

Además de usar más datos con weak supervision y active learning, pensamos en cambiar el paradigma supervisado para liberar el potencial completo de nuestros datos. Inspirados por avances recientes en Self-Supervision aplicada al modelado del lenguaje, aplicamos patrones similares a datos de pagos. Al inferir etiquetas desde la propia estructura de los datos, conseguimos supervisión sin intervención humana y desbloqueamos todo el potencial de los datasets.

Así como las frases son secuencias de palabras, los compradores son secuencias de transacciones: esta es la estructura fundamental de Adyen. Los enfoques tradicionales suelen ignorar esto o hacer agregaciones temporales que limitan el modelado, pero la arquitectura Transformer ofrece una vía alternativa para extraer poder predictivo de estas secuencias.

Por ello, Transformers y Self-supervision nos permiten construir un modelo base de pagos entrenado con miles de millones de transacciones con el que podemos iniciar cualquier proceso de modelado a gran escala. Mediante ajuste fino e integraciones de entidades, mejoramos la visión del comprador, la detección de fraude y abrimos nuevas líneas de investigación como la generación de datos sintéticos.

Observabilidad

Una vez desplegados y validados los modelos en experimentos, ejecutamos diagnósticos constantes para asegurar que el rendimiento se mantiene. Hacemos detección clásica de drift (bajo el paraguas de MLOps) y usamos algoritmos más complejos para detectar desviaciones en el negocio y sesgos, combinando técnicas como MIST (descomposición de múltiples estacionalidades irregulares y tendencias) y DTW (deformación dinámica del tiempo). Estos temas los presentamos en PyData 2024.

Imparcialidad y explicabilidad

Delegar decisiones a máquinas plantea el reto de asegurar que no existan sesgos que puedan segmentar demografías o ser injustos desde un punto de vista humano. Para ello tenemos un grupo de trabajo interno de expertos técnicos y legales que vigila la regulación (GDPR, AI Act) y ha impulsado cambios para mantener la cultura ética de Adyen. Todos los productos y modelos deben evaluarse en busca de sesgos y verificarse para evitar incumplir reglamentos y leyes. Una vez que el grupo de trabajo lo ha aprobado, controlamos mediante herramientas de observabilidad que ciertas características sensibles no se ajusten en exceso.

Todas las decisiones de la IA deben ser explicables. Por ello, cada inferencia queda registrada y se aplican algoritmos que analizan las razones subyacentes (ej. valores SHAP). La interfaz de Uplift ofrece una explicación por cada decisión tomada en cada transacción.

Si bien esto da una idea del funcionamiento interno, los retos y las lecciones aprendidas durante la construcción y despliegue de Adyen Uplift, está claro que solo hemos logrado una parte de lo que queremos conseguir.

Actualmente investigamos activamente en los campos mencionados anteriormente, además de otras vías que muestran resultados prometedores como flujos agénticos (Agentic Flows), Alineación (Alignment), el ciclo virtuoso de supervisión débil + aprendizaje activo (Weak Supervision + Active Learning Flywheel) y el aprendizaje de representación de identidad con privacidad diferencial (Identity Representation Learning with Differential Privacy). 

En este artículo ofrecemos una visión transparente y basada en hechos de la tecnología detrás de Adyen Uplift. Siempre estamos buscando talento excepcional para unirse a nuestro equipo. Si el contenido de este post va contigo, ¡échale un vistazo a nuestra página de contratación!