¿Cómo aprende la inteligencia artificial (IA)? Detrás de muchas de las herramientas que utilizamos todos los días hay algo llamado aprendizaje automático, que permite a los sistemas analizar grandes cantidades de datos, identificar patrones y generar respuestas. Pero, ¿cómo podemos evaluar su precisión?
Esa fue una de las preguntas centrales en el Coloquio IIMAS, realizado el pasado 24 de agosto en el marco del 50º Aniversario del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas, a cargo del doctor Ricardo Baeza-Yates, quien fue invitado del Departamento de Ingeniería de Sistemas Computacionales y Automatización.
Durante su charla, titulada “Evaluación del aprendizaje automático: ¿Cuándo dejaremos de engañarnos?”, el ponente explicó que la inteligencia artificial no puede pensar como los seres humanos. Aunque se dice que una IA “aprende”, esto no significa que comprenda el mundo, pues los modelos trabajan con datos que representan solo una aproximación de la realidad. Esto los lleva a cometer errores que una persona comúnmente no cometería.
Asimismo, el doctor Baeza-Yates señaló que la evaluación del aprendizaje automático suele basarse en una medida promedio para determinar qué tan preciso es un modelo, sin mirar de cerca los errores que se cometieron, especialmente en casos difíciles.
“Hay modelos que tienen exactitud del 83% porque todos los casos son simples, pero solo 50% en casos complejos, entonces no me sirve porque es casi al azar. Si ustedes se basan solo en el promedio, no ven el panorama completo, por eso es importante ver el error”, comentó.
Por ello, es necesario mirar los errores de cerca, especialmente aquellos que ocurren en los casos más difíciles. Un promedio puede ocultar problemas que resultan fundamentales cuando un sistema de IA se utiliza en situaciones reales.
Además, es importante saber qué pasa cuando hay un error porque no todos los errores tienen el mismo impacto, en especial los errores no-humanos. Por ejemplo, si un modelo de IA confunde un perro con un gato, algo que ninguna persona haría, ese es un error no-humano.
Ahora bien, si una herramienta de IA se utiliza para orientar a una persona ciega y confunde un gato con un perro de gran tamaño, las consecuencias podrían ser mucho más graves que las de una simple clasificación equivocada. Por esto, al evaluar a estas tecnologías no basta con saber cuántas veces aciertan; también necesitamos saber cómo, cuándo y por qué se equivocan.
Hacia el final de su ponencia, el doctor Baeza-Yates expresó algunos de los problemas que trae consigo el uso cotidiano de la inteligencia artificial, como el aumento de la brecha digital, con más de la mitad de la gente del planeta sin acceso a esta tecnología, o la pérdida de habilidades.
“Estamos en un mundo donde se está imitando la inteligencia y nosotros no podemos ver que es una imitación. Hay gente que cree que la IA puede ser consciente o que le cuenta cosas personales, pero en realidad el sistema no entiende nada: lo único que hace es generar respuestas a partir de patrones estadísticos”, mencionó.
Más que aceptar las respuestas de la inteligencia artificial de manera automática, es necesario analizarla con sentido crítico y reconocer tanto las capacidades como las limitaciones de estas tecnologías. Evaluar una IA implica mirar más allá del promedio: conocer sus datos, identificar sus errores, poner especial atención en los casos difíciles y considerar las consecuencias que puede tener una equivocación.
Un poco sobre el ponente: Ricardo Baeza-Yates es profesor en el Real Instituto de Tecnología KTH de Estocolmo, la Universidad Pompeu Fabra de Barcelona y la Universidad de Chile en Santiago. También se desempeña como Científico Jefe de Búsqueda en You.com. Anteriormente fue director de investigación en el Instituto de IA Experimental de la Universidad Northeastern, en su campus de Silicon Valley.