Se ha provocado un terremoto a los algoritmos que se ejecutan entre bastidores en la gestión del inventario, la detección de fraude o el marketing


La pandemia del coronavirus lo ha cambiado todo y una de sus víctimas más insospechadas ha sido la inteligencia artificial (IA), incapaz de anticipar las decisiones de las personas, algo que ha provocado peculiares sucesos.

Empecemos por el ejemplo del consumo, desde que empezó la pandemia, los 10 principales términos de búsqueda en Amazon cambiaron totalmente. De buscar carcasas telefónicas, cargadores y juguetes Lego, se pasó a papel higiénico, mascarillas y desinfectantes. Esto afectó a la inteligencia artificial, provocando un terremoto a los algoritmos que se ejecutan entre bastidores en la gestión del inventario, la detección de fraude o el marketing. Los modelos de aprendizaje automático entrenados en un comportamiento humano normal ahora están descubriendo que la normalidad ha cambiado y algunos ya no están funcionando como deberían.

Según Pactera Edge, una consultora global de inteligencia artificial, "la automatización está en aprietos". Otros señalan que están vigilando con cautela los sistemas automatizados y que se están sosteniendo gracias a la corrección manual humana cuando es necesario. Lo que está claro es que la pandemia ha revelado lo entrelazadas que están nuestras vidas con la inteligencia artificial, exponiendo una delicada codependencia en la que los cambios en nuestro comportamiento cambian el funcionamiento de la inteligencia artificial y viceversa. Y que nos debe hacer recordar que la participación humana en los sistemas automatizados sigue siendo clave.

Cambios radicales

Los modelos de aprendizaje automático están diseñados para responder a los cambios. Pero la mayoría también son frágiles; funcionan mal cuando los datos de entrada difieren demasiado de los datos con los que se entrenaron. Es un error suponer que puedes configurar un sistema de IA y alejarte, apunta Rajeev Sharma, vicepresidente global de Pactera Edge: "La IA es un motor vivo y respirable".

"Una pandemia como esta es un desencadenante perfecto para construir mejores modelos de aprendizaje automático"

Sharma cuenta algunos ejemplos a MIT Technology Review. Una empresa que suministra salsas y condimentos a minoristas en la India necesitaba ayuda para arreglar su sistema automatizado de gestión de inventario cuando los pedidos a granel rompieron sus algoritmos predictivos. Las previsiones de ventas del sistema en las que la empresa confiaba para reordenar acciones ya no coincidían con lo que realmente se vendía. "Nunca fue entrenado en un pico como este, así que el sistema estaba fuera de control", explica Sharma. Otra firma utiliza una IA para evaluar el sentimiento de los lectores acerca de artículos de noticias y proporciona recomendaciones de inversión diarias en publicidad basadas en los resultados. Pero con noticias más tristes de lo habitual en este momento, la recomendación va a ser muy sesgada, añade Sharma.

Otra gran empresa de streaming, que ha tenido una repentina afluencia de suscriptores hambrientos de contenido, también está teniendo problemas con sus algoritmos de recomendación. La empresa utiliza el aprendizaje automático para sugerir contenido relevante y personalizado a los espectadores para que sigan regresando. Pero el cambio repentino en los datos de los suscriptores estaba haciendo que las recomendaciones de su sistema fueran menos precisas.

Muchos de estos problemas con los modelos surgen porque más empresas están comprando sistemas de aprendizaje automático, pero carecen de los conocimientos internos necesarios para mantenerlos. El reentrenamiento de un modelo puede requerir una intervención humana experta. Sharma piensa que más IA deberían ser entrenadas no sólo teniendo en cuenta los altibajos de los últimos años, sino también en eventos raros como la Gran Depresión de los años 30, el desplome bursátil del Lunes Negro en 1987 y la crisis financiera de 2007-2008. "Una pandemia como esta es un desencadenante perfecto para construir mejores modelos de aprendizaje automático", afirma.

Detectar fraudes

Aun así, no puedes prepararte para todo. En general, si un sistema de aprendizaje automático no ve lo que espera ver, tendrá problemas, apunta David Excell, fundador de Featurespace, una empresa de análisis de comportamiento que utiliza la IA para detectar fraudes con tarjetas de crédito. Tal vez, sorprendentemente, Featurespace no ha visto que su IA haya sido afectada demasiado. La gente sigue comprando cosas en Amazon y suscribiéndose a Netflix como antes, pero no está comprando artículos demasiado caros o en sitios nuevos, que son los comportamientos que pueden levantar sospechas. Los ingenieros de la firma sólo tuvieron que intervenir para ajustarse ante un aumento de personas comprando equipos de jardín y herramientas eléctricas, prácticas que se consideraron sospechosas.

Con todo conectado, el impacto de una pandemia se ha sentido a lo largo y ancho del planeta, tocando mecanismos que en tiempos más normales permanecen ocultos. Ahora es buen momento para hacer un balance de esos sistemas y preguntar cómo podrían diseñarse mejor, ser más resistentes. Para que las máquinas sean de confianza, tenemos que cuidarlas.

elconfidencial.com / 14 mayo 2020

El comportamiento humano vuelve 'loca' a la inteligencia artificial en la pandemia