La inteligencia artificial se está convirtiendo en un verdadero dolor de cabeza para los departamentos de contabilidad de muchas empresas, y no precisamente por la automatización de tareas que les puede dejar sin trabajo. Ahora, la gran amenaza viene de una fuente inesperada: la facilidad con la que se pueden generar recibos de gastos falsos gracias a las habilidades para generar imágenes hiperrealistas con IA.
La IA al servicio del fraude. Hasta hace poco, el fraude en gastos se concentraba en áreas ya conocidas: pequeñas trampas en tickets de dietas, transportes o compras que los empleados presentaban para su reembolso. Sin embargo, Tal y como destaca un artículo publicado en el Financial Times, el número de solicitudes de reembolso basadas en recibos falsificados ha aumentado drásticamente en los últimos meses.
Según se detalla en el análisis de AppZen, desde que OpenAI lanzó ChatGPT y Google su Gemini con IA generativa de imágenes, el fraude en los recibos de gastos se ha incrementado en un 14%. El problema, no es que hayan aumentado desde entonces, sino que han mejorado tanto su calidad que cada vez es más complicado detectarlos. «Estos recibos se han vuelto tan buenos que les decimos a nuestros clientes: ‘no confíen en sus ojos’”, declaraba Chris Juneau, vicepresidente sénior y director de marketing de productos de SAP Concur, a Financial Times.
Recibos indistinguibles. Tal y como mostraban de forma práctica en el podcast The Accounting Podcast, generar recibos de gastos fraudulentos que pueden pasar por auténticos, está al alcance de cualquiera. Ni siquiera es necesario ser usuario de pago de ChatGPT o Gemini.
Con solo un puñado de comandos introducidos con un lenguaje natural en ChatGPT, el tique obtenido colaría perfectamente como uno de los miles de recibos de gastos en comida o transporte que las empresas procesan a diario.
IA para detectar IA. Puede parecer que el problema de los tiques falsificados es un problema menor por tratarse de importes relativamente pequeños. Sin embargo, la pérdida económica promedio por fraude de recibos falsos en EEUU es de 133.000 dólares de media, según una encuesta elaborada por Medius en 2024 a altos ejecutivos financieros.
La expansión de este tipo de fraudes financieros ha llegado a oídos de OpenAI, uno de los principales generadores de estos recibos, ha tomado cartas en el asunto incluyendo metadatos en sus imágenes para identificar que se trata de contenido generado por IA. Eso ha permitido que las fintech como Ramp, hayan podido desarrollar herramientas basadas en IA que analizan los metadatos de este tipo de recibos para poner coto a los fraudes. La fintech aseguraba que con este software había detectado recibos falsos valor de un millón de dólares en tan solo 90 días.
Hecha la ley, hecha la trampa. Ante este movimiento para detectar los recibos fraudulentos mediante metadatos, los empleados «tramposos» han optado por depurar también sus técnicas echando mano de más ingenio: hacer una foto al recibo generado por IA y adjuntarla como recibo, tal y como se haría como un recibo real.
De ese modo, la imagen ya no incluye los metadatos del agente de AI, volviendo a la casilla de salida. «Será una carrera armamentística continua. Solo tenemos que mantenernos a la vanguardia», señalaba en declaraciones a Bloomberg Karim Atiyeh, cofundador y director de tecnología de Ramp.
Patrones de gasto. Como respuesta a esta nueva estrategia, la IA usa lo que mejor sabe hacer: analizar patrones. Estos agentes «verificadores» de recibos de gastos tienen en cuenta el contexto en el que podrían haberse generado esos recibos si fueran auténticos (horarios en los viajes, coincidencias de fechas, repetición de nombres, etc.).
En base a esos datos, el sistema determina si el recibo es falso o no, sin necesitar la comprobación de los metadatos. «La tecnología puede analizar todo con tanto detalle, tanto que a los humanos, después de un tiempo, se les escapan cosas; son humanos”, aseguraba al Financial Times Calvin Lee, director sénior de gestión de productos de Ramp
Imagen | Gemini