¿Cómo podemos hacer frente a los nuevos fraudes impulsados por la IA generativa?

Luchar contra el fraude nunca ha sido tarea sencilla pero hoy en día esta gesta se ha complicado como nunca y es la propia digitalización su principal razón. A la desaparición del perímetro tal y como lo conocíamos en el mundo físico que trae el mundo digital, ahora tenemos que sumar el desarrollo de la inteligencia artificial y la IA generativa que están dejando obsoletos los métodos y técnicas tradicionales de defensa frente al fraude a una velocidad de vértigo.

Actualmente tecnologías como estas han hecho que el fraude de identidad sea mucho mayor y con ello que sus consecuencias vayan más allá de las pérdidas económicas directas: se incrementan los costes operativos, las posibles consecuencias regulatorias y se daña la confianza del cliente, un aspecto crucial para cualquier organización.

La facilidad de acceso a las herramientas basadas en inteligencia artificial hace que los estafadores, ciberdelincuentes y otros actores maliciosos puedan incrementar la sofisticación y escala de sus ataques, con esquemas de fraude más elaborados y difíciles de detectar, como los deepfakes y las identidades sintéticas, los ataques de inyección o la suplantación biométrica.

Detectar el fraude en tiempos de IA

En este complejo entorno es imprescindible adoptar nuevos enfoques para detectar y prevenir el fraude, al tiempo que se optimiza la experiencia del usuario para equilibrar la seguridad con un proceso de verificación ágil y fácil de usar para mejorar la satisfacción del cliente y eliminar puntos comunes de abandono, al tiempo que se disuade y detecta a los estafadores.

Para analizar cómo hacer frente a estos desafíos y al nuevo fraude que la IA generativa está propiciando, Silicon organizaba junto a Mitek Systems un encuentro al que acudían Víctor Nalda, Data Scientist Especializado en Fraude de Santalucia Seguros; José María Angulo, COO de Québueno; Marta Calparsoro, Head of Legal de Urbanitae; Juan P. Mancin, CEO de Reddo; David Casaseca, IT Audit en BNP Paribas; y Rodolfo Jesús Cortez, Fraud Prevention Consultant y Javier Rubio, ambos de Copayment.

Un evento necesario a la vista de precisamente las conclusiones de un estudio realizado recientemente por la propia Mitek Systems entre 1.500 profesionales de servicios financieros que revela que casi el 40% de los líderes en gestión de riesgos han identificado el aumento del fraude generado por IA como su principal preocupación.

Así y tras presentar la compañía Marc Sabadí, Identity Innovation Lead y Rocío Romero Herrero, Identity Verification & Fraud Prevention, los dos de Mitek, arrancaba la conversación Juan P. Mancin, CEO de Reddo que compartía cómo “el open banking nos ayuda mucho a la hora de luchar contra el fraude, porque es un elemento clave en el análisis y estudio que hacemos de la huella digital de los posibles clientes”.

Una vía que también explotan en Québueno, señalaba José María Angulo, COO de la compañía: “El open banking es un punto clave para verificar identidades y prevenir fraudes pero es cierto que cada vez los ataques son más sofisticados y al final nuestro usuario podríamos decir que es resiliente, lo va a intentar un y mil veces”.

Esos ataques cada vez más complejos los están sufriendo también en Urbanitae y “aunque todo el proceso de verificación de identidad ahora mismo está en manos de un tercero, legalmente en breve esta situación podría cambiar y tendríamos que asumir ese proceso nosotros mismos”, explicaba Marta Calparsoro, Head of Legal en la firma.

Pero ¿cuáles son los principales riesgos a los que se enfrentan hoy en día las organizaciones en su lucha contra el fraude?

Documentos e identidades falsas

En el caso de Santalucía Seguros, reconocía Víctor Nalda, Data Scientist Especializado en Fraude, aunque aún hay mucho peso presencial en la relación con los clientes, sí es un factor de riesgo cada día más preocupante: “Nos enfrentamos a Deep fakes, a falsedad documental y, cómo no, al fraude interno también”.

Pero no sólo son los documentos falsos lo que marca el día a día de estas empresas a la hora de luchar contra los fraudes, “también existen prácticas fraudulentas pero en las que los documentos son válidos; utilizan cuentas mulas, a personas mayores para que abran una cuenta, roban las credenciales, etc.” explicaba desde Copayment, Rodolfo Jesús Cortez.

Un desafío cada día más complejo, afirmaba en ese punto Marc Sabadí, desde Mitek: “Lo que ayer, hablando de ataques, nos parecía sofisticado, hoy es normal e incluso puede hacerse gratis. Asistimos a dos tendencias principales en este sentido: la profesionalización y la democratización del fraude”.

Combatir esta situación no es sencillo y muchas veces aunque la tecnología es la mejor vía para ello no debemos olvidar cómo ésta influye en la experiencia del usuario.

“El cliente quiere que todo sea rápido y si tu no le das ese servicio se va con otro”, opinaba Javier Rubio de Copayment. Algo en lo que redundaba su compañero Rodolfo Jesús Cortez: “Nuestro gran enemigo por decirlo de algún modo es el área comercial de la propia compañía que lógicamente piensa que si no pusiéramos tantas trabas en verificar identidades por ejemplo captaríamos más clientes”.

También intentando salvar la fricción entre seguridad y experiencia del cliente, en Québueno “para tratar de detectar cualquier intento fraudulento nos centramos más en el comportamiento del usuario”, explicaba José María Angulo que añadía que “en ocasiones utilizamos “trampas” como ofrecerles un descuento si pagan ya, etc. y así ves que el que realmente tiene intención de pagar busca conseguir el descuento y el que no tiene intención alguna, no muestra ningún interés”.

Los desafíos de la regulación y el talento

Obstáculos que además no solo son necesarios para combatir el engaño sino que muchas veces son consecuencia de la regulación, “siempre positiva si con ella se persigue el fraude pero muchas veces nos requiere de tanta inversión que resulta muy complicado poder adaptarse”, apuntaba el CEO de Reddo.

En ese sentido, Víctor Nalda, de Santalucía Seguros también traía a la conversación la Ley de Inteligencia Artificial Europea con la que “no solo vamos a tener que vigilar cómo usamos la IA nosotros sino también cualquiera de nuestros proveedores”.

Un complejo en el que, si algo es evidente, es que las empresas deben adoptar nuevos enfoques para detectar y prevenir el fraude, sin perder de vista la experiencia del usuario, tratando de equilibrar la seguridad con un proceso de verificación ágil y fácil de usar que elimine puntos comunes de abandono pero también detecte a los estafadores.