Lo mejor del 2024 en AI (7 trabajos formidables)

19/12/2024

AUTOR

Colegio de matemáticas Bourbaki

Nos da mucho gusto anunciar en el Colegio de Matemáticas Bourbaki nuestra lista con 7 de los trabajos más significativos sobre Inteligencia Artificial ya sea en aspectos de investigación o aplicaciones notables que en muchos casos han implicado una mejora a técnicas anteriores.

La inteligencia artificial se ha consagrado durante el 2024 como uno de los motores más poderosos en la generación de conocimiento y en la solución de problemas industriales y en negocios enteros. Desde su concepción a inicios del siglo pasado en los trabajos de Alan Turing, nunca había sido utilizada por un porcentaje tan amplio de la población. Además del amplio público la IA ha vencido rotundamente a la inteligencia natural en numerosos aspectos, pensemos por ejemplo cómo ha transformado rotundamente juegos como el Ajedrez en el que los grandes maestros no tienen ninguna oportunidad sobre los modelos matemáticos.

Este optimismo que genera no significa que no queden retos por delante pues aún existen tareas para las cuales la inteligencia artificial está por debajo de la natural, por poner un ejemplo citemos a los numerosos acertijos lógicos en los que normalmente falla ChatGPT. Otro aspecto a considerar es la seguridad de los modelos matemáticos que a pesar de ser fiables en gran parte de la distribución de sus tareas, fallarán en las colas muy lejanas que podrían corresponder a los casos más complicados de solucionar.

Hace dos días les presentamos nuestro Top 7 sobre Matemáticas y pronto lo hacemos sobre Finanzas Cuantitativas. Hemos añadido algunas referencias de los trabajos originales esperando que nuestros estudiantes disfruten no solo nuestro texto con nuestras descripciones sino también de los detalles.

La nueva arquitectura interpretable Kolmogorov-Arnold

Las redes neuronales han volteado de cabeza a la inteligencia artificial posiblemente para siempre. Su capacidad para ajustar señales en espacios de dimensión inimaginables para la estadística clásica es sencillamente brutal. Desafortunadamente se ha tenido que sacrificar el desempeño por la interpretabilidad de tal manera que los modelos actuales no son transparentes y es casi imposible entender las razones de una predicción.

Uno de los grandes avances de este 2024 es la posibilidad de construir una arquitectura basada en el famoso Teorema de Kolmogorov-Arnold el cual construye un modelo matemático mucho más interpretable. ¿En qué consisten estas arquitecturas que todos volteamos a ver con toda nuestra atención durante este año?

Los científicos de datos aunque sean principiantes comprenden muy bien lo que significan las combinaciones lineales de nuestras características. Como un ejemplo pensemos en un problema de valuación de una renta de Airbnb en el cual es necesario ponderar el tamaño, la ubicación, la comodidad del lugar y un gran etcétera de features, los modelos lineales buscan optimizar estos valores conocidos como betas para reducir el error en un conjunto de entrenamiento.

La dificultad aparece cuando queremos utilizar modelos más complicados como las redes neuronales en las que se construye una capa intermedia con posiblemente muchísimas variables latentes de tal manera que cada una de nuestras características originales tendrán tantas betas como variables latentes. El siguiente paso indispensable es utilizar una función no lineal para cada una de las variables latentes para después combinar todos estos resultados con nuevos pesos. La interpretación de estos nuevos pesos asociados a las variables latentes es completamente obscura para el científico de datos y peor aún los primeros pesos han perdido significado claro.

Las grandes ventajas entre las nuevas arquitecturas Kolmogorov-Arnold y la de los perceptrones multi-capa son las siguientes:

Gracias al teorema de Representación de Kolmogorov-Arnold el cual resolvió positivamente el Trigésimo Problema de Hilbert de su famosa conferencia en París, el número de variables latentes está acotado linealmente por el número de features.
Las variables latentes son el resultado directo de una suma de funciones en una dimensión. Esto significa que podemos interpretar cómo está afectando cada una de las características sin la necesidad de aplicarle una función no-lineal a la suma.
La desventaja en teoría es que estas funciones uni-variadas son no-lineales sin embargo se ha logrado reducir a variables que son bastante sencillas de entender llamadas splines.