España - ES
België - NL
Nederland - NL
France - FR
Europe - EN
La inteligencia artificial promete a los minoristas una revolución en materia de eficiencia y atención al cliente. Pero sus vulnerabilidades también se hacen cada vez más evidentes. El hacker ético Inti De Ceukelaire afirma: «Primero hay que saber cómo se comporta un perro antes de dejarlo con tus hijos».
«Aún nos esperan semanas repletas de ciberataques»
Primero Ahold Delhaize, luego los frigoríficos franceses que se volvieron locos y más pánico cibernético en H&M: la semana pasada pareció «la semana de los ciberataques». «Aún habrá muchas semanas de ataques», comenta entre risas el hacker ético Inti De Ceukelaire. ¿Por qué los hackers tienen tanto en el punto de mira a los minoristas? «Ahí hay dinero que recoger: son muy visibles y disponen de grandes cantidades de datos de clientes e información de pagos».
¿Cuál es el eslabón más débil en la ciberseguridad de las empresas? Durante años fue el ser humano. Pero, según Inti De Ceukelaire, esa vulnerabilidad se está desplazando ahora hacia la inteligencia artificial. Con el auge de los agentes de IA y los sistemas automatizados de atención al cliente, surgen nuevas oportunidades tanto para los hackers como para los consumidores que quieren sacar partido de la tecnología.
El propio De Ceukelaire ya ha conseguido manipular chatbots para acceder a archivos internos, cuentas y datos privados. Las aplicaciones comerciales también resultan vulnerables. Consiguió que los responsables de ventas, a través de sistemas de IA, prometieran descuentos que quizá nunca hubieran querido conceder. ¿Y qué ocurre cuando un chatbot promete a un cliente un descuento por escrito? ¿Quién es el responsable de ello?
¿Es la IA susceptible a la publicidad?
La relación entre los minoristas y los consumidores también está cambiando. A medida que los clientes recurren a asistentes de IA para buscar productos, comparar precios y realizar compras, es posible que las tiendas online reciban menos visitas directas. Esto plantea un reto fascinante para los profesionales del marketing. Al fin y al cabo, la publicidad consiste en influir en el comportamiento. Pero, ¿qué ocurre si ya no es un ser humano, sino un agente de IA, quien toma la decisión de compra? ¿Se puede convencer también a ese ordenador con técnicas publicitarias?
El hacker ético analiza esta cuestión desde el punto de vista de la psicología. Comprueba cómo funcionan las técnicas clásicas de manipulación en los modelos de lenguaje. Estos resultan a veces sorprendentemente predecibles e influenciables, pero no funcionan como el cerebro humano. Y es precisamente esto último lo que olvidamos (demasiado) fácilmente.
«No todo tiene que ser IA»
El propio De Ceukelaire utiliza intensivamente la IA y ve enormes posibilidades para las empresas. Sin embargo, le molesta la rapidez con la que las organizaciones adoptan estas aplicaciones sin comprender bien cómo funcionan. Los minoristas automatizan su servicio de atención al cliente y experimentan con agentes autónomos de IA, a menudo por miedo a quedarse atrás respecto a la competencia. Pero no todas las aplicaciones aportan realmente una ganancia en eficiencia. «No todo tiene que ser IA», subraya.
Además, el control humano corre el riesgo de desaparecer. El principio de «human in the loop», según el cual una persona supervisa y puede intervenir, se está diluyendo, en su opinión. «¿Qué pasa si una IA comete un error? ¿Quién va a pagar por ese error?». Piensa, por ejemplo, en un agente de IA que pide cien productos, pero indica el color equivocado. ¿Quién asume la responsabilidad cuando el cliente y la tienda online tienen cada uno en mente un pedido diferente? Según De Ceukelaire, este tipo de disputas pueden generar una problemática completamente nueva.
Entre el entusiasmo y el catastrofismo
En la RetailDetail Night, el 19 de noviembre, De Ceukelaire demostrará lo fácil que es manipular los sistemas de IA. ¿Se puede convencer a un agente de IA para que anule una multa de aparcamiento? ¿Cómo se negocia con un ordenador el precio de un coche? ¿Y hasta qué punto se puede hacer que un chatbot se desvíe de sus instrucciones originales?
Con su espectáculo interactivo, pretende desmontar tanto el entusiasmo desmesurado como el catastrofismo en torno a la IA. La tecnología puede aportar mucho a los minoristas, pero también causar un daño considerable si confían ciegamente en ella. «Es como traer un perro a casa: puede ser el mejor amigo del hombre, pero antes de dejarlo con niños pequeños, uno quiere saber cómo reacciona el animal».
¿Cuál es su mensaje principal? Las empresas no tienen por qué evitar la IA, pero sí deben comprender exactamente a qué se están enfrentando. Sobre todo cuando permiten que los sistemas negocien, vendan y tomen decisiones de forma autónoma. Porque quien confiere responsabilidad a la IA también debe saber lo fácil que es engañar a esa tecnología.
¿Quieres saber hasta qué punto son realmente seguras tus aplicaciones de IA? Descúbrelo durante la RetailDetail Night en Trademart Bruselas y reserva ya tu entrada.
