E019_El aprendizaje con pocos ejemplos (Few-shot learners)

Buenas, esto es BIMPRAXIS, el podcast donde el BIM se encuentra con la inteligencia artificial.

Exploramos la ciencia, la tecnología y el futuro desde el enfoque de la arquitectura, ingeniería y construcción.

¡Empezamos!

Hola y bienvenidas y bienvenidos a una nueva entrega de nuestra serie especial,

los papers que cambiaron la historia de la IA.

Una serie que, la verdad, nos está descubriendo los cimientos de todo lo que vemos hoy.

Totalmente. Y hoy, bueno, hoy vamos a analizar un artículo publicado en 2020,

que no solo movió los cimientos, sino que, vamos, prácticamente dibujó el mapa del territorio que pisamos ahora.

El título es Language Models are Few Shot Learners.

Que en buen español sería algo así como, los modelos de lenguaje son aprendices de pocos ejemplos.

Un título que suena casi modesto, ¿no?

Sí, suena muy académico.

Muy contenido. Pero en realidad es el manifiesto de una revolución que estaba a punto de estallar.

Desde luego. Y para que nos hagamos una idea de la escala, solo hay que ver la lista de autores.

La encabeza Tom B. Brown. Pero es que le siguen 30 coautores más. O sea, un proyecto monumental.

Treinta. Ya te dice algo del esfuerzo que hubo detrás.

Nuestra misión hoy es desgranar cómo este paper demostró que un modelo de lenguaje podía aprender una tarea nueva

con solo...

Unas pocas instrucciones. Sin un reentrenamiento complejo.

Que ese era el gran cambio.

Exacto. Es el paso de la IA que es súper especialista a una IA que empieza a ser mucho más generalista.

Para entender bien el salto, creo que es vital que nos pongamos en situación.

Pensamos en el mundo de la IA justo antes de 2020.

El método estándar, el paradigma, era lo que se conocía como fine tuning.

El ajuste fino. Me suena el concepto, pero ¿cuál era la barrera real?

Era de dinero, de tiempo o algo más de fondo.

Pues era una mezcla de todo eso. El proceso era más o menos así.

Tú cogías un modelo de lenguaje grande, uno preentrenado con casi todo internet para que entendiera el lenguaje en general.

Vale.

Pero para que hiciera algo útil, algo específico, como, no sé, clasificar si un comentario es tóxico o no,

tenías que especializarlo.

Ahí entraba el fine tuning.

Ahí entraba. Y para hacer ese ajuste fino, necesitabas crear un nuevo conjunto de datos.

A veces miles o incluso decenas de miles de ejemplos, que además tenían que ser etiquetados a mano.

O sea que para cada nueva habilidad, por pequeña que fuera,

tocaba empezar un proceso de entrenamiento que era largo y, supongo, carísimo.

Exacto. Era como tener un genio increíblemente listo, pero al que, para pedirle un café,

tenías que enseñarle antes mil fotos de tazas, mil de cafeteras. Era muy poco práctico.

Claro.

La gran frustración era ese abismo que lo separaba de cómo aprendemos los humanos.

Entonces, a la persona le das un par de ejemplos de una nareama y lo pilla.

Lo pilla al vuelo.

Eso es. Las máquinas, hasta ese momento, necesitaban esa fuerza bruta de datos para cada pequeña cosa.

De acuerdo. El escenario está claro. Una IA muy potente, pero también muy torpe,

que necesitaba que la llevaran de la mano. Y entonces llega este paper y propone una solución

que es, bueno, brutalmente simple en su concepto.

Pero extraordinariamente compleja en su ejecución.

Aquí es donde se pone muy interesante.

La solución fue la escala. Una escala, vamos, demencial.

Una escala que en aquel momento sonaba a ciencia ficción pura y dura.

El paper nos presenta formalmente a GPT-3, un modelo de lenguaje autoregresivo.

Que, para entendernos, funciona prediciendo la siguiente palabra, como un autocompletar, pero a lo bestia.

A lo bestia es poco. 175.000 millones de parámetros.

El propio texto lo recalca, 10 veces más que cualquier modelo denso anterior.

El salto no fue un paso más. Fue, como dices, cambiar de liga completamente.

Pero claro, la pregunta del millón es, si no usaban fine tuning,

¿cómo demonios le decían al modelo qué es lo que tenía que hacer?

Y ahí, justo ahí, está la verdadera magia. El cambio de paradigma.

Lo que propusieron fue interactuar con el modelo usando solo texto, lo que ahora llamamos prompt.

La instrucción.

Exacto. En lugar de reentrenarlo, le demostraron que no se podía hacer nada.

Le demostraban lo que querían que hiciera al vuelo, en la propia conversación.

Y esto, que es lo más importante, sin actualizar sus pesos.

O sea, sin cambiar su conocimiento interno.

Eso es. La diferencia es cómo hablar con un experto, para que resuelva un problema nuevo usando lo que ya sabe,

en vez de mandarlo otra vez a la universidad a estudiar una carrera nueva.

Entiendo. El conocimiento ya está ahí, latente. Y la clave es saber cómo preguntarle.

Esa es la idea fundamental.

Bueno, el paper explora tres formas de hacerlo.

La primera es zero-shot, que es darle la instrucción a secas.

Traduce esto al francés. Directo.

Luego está el one-shot, con un solo ejemplo.

Traducir.

Sea otter igual a l'outre de mer.

Cheese igual.

Y la tercera, la que le da nombre al paper.

Few-shot, que es darle un puñado de ejemplos.

Diez, veinte, para que pille el patrón.

Y esto lo llaman task agnostic, ¿no?

Agnóstico a la tarea.

Sí, porque al modelo le da igual si le pides traducir, que resumir, que escribir un poema.

Su comprensión es tan general que se puede adaptar sobre la marcha.

Y demostraron que funcionaba para tareas que hasta ese momento necesitaban un modelo súper especializado,

como la traducción o responder preguntas.

Y funcionaba sorprendentemente bien.

En muchas de estas tareas, el rendimiento de GPT-3 en modo few-shot,

sin entrenamiento específico, se acercaba peligrosamente al de los modelos de vanguardia

que sí habían sido ajustados para esa única tarea.

Era la prueba de que la escala, por sí sola, podía sustituir a la especialización.

Exacto, la primera prueba sólida.

Pero lo que a mí me dejó boquiabierta cuando leí el resumen no fueron esas tareas,

que, bueno, más o menos te las esperas de un modelo de lenguaje.

Fueron las otras capacidades, las que parecían emergentes, casi inesperadas.

Es que ahí la historia pasa de ser un avance técnico,

a ser algo que no se puede hacer.

A ser algo que roza lo filosófico, casi.

Totalmente.

Citan en el paper que GPT-3 podía, sólo con unos pocos ejemplos,

descodificar palabras, o sea, resolver anagramas.

Sí, podía coger una palabra completamente inventada

y usarla de forma coherente en una frase.

Y, la que yo creo que rompió muchos esquemas,

podía hacer operaciones aritméticas de tres dígitos.

La aritmética.

Ese fue un punto de inflexión.

Es que eso no me encaja.

¿Por qué es tan importante la aritmética?

¿Por qué es tan importante la aritmética en un modelo de lenguaje?

Es una pregunta clave.

Lo revelador no es que acertara siempre, que de hecho no lo hacía.

Su precisión no era ni mucho menos perfecta.

Lo increíble es que parecía haber aprendido las reglas de la aritmética

a partir de puro texto.

Sin ser programado para ello.

Sin ser programado para ello.

¿Piensa que el modelo sólo ha visto secuencias de letras y números en Internet?

¿Ha visto 2 plus 2 y luego el carácter 4?

Millones de veces, sí.

Pero también ha visto problemas de mate,

artículos de ciencia.

Entonces, ¿no es que memorizara las respuestas?

No, porque podía resolver operaciones que casi con total seguridad no había visto nunca.

Esto sugirió que el modelo no era sólo un loro estocástico, como decían algunos críticos.

Que no sólo repetía patrones.

No.

Sugería que estaba desarrollando representaciones internas, abstractas,

donde los conceptos 2, más y 4 estaban conectados de una forma lógica.

El propio paper lo llama la lógica.

El propio paper lo llama la lógica.

El propio paper lo llama la lógica.

El propio paper lo llama la lógica.

Y lo que dejó de ser un sistema entrenado sólo para predecir la siguiente palabra, desarrollara

de repente una habilidad matemática, aunque fuera rudimentaria, fue la verdadera bomba.

La primera señal de que la escala masiva desbloqueaba cosas nuevas.

La primera señal de que la escala masiva desbloqueaba cosas nuevas.

Porque los autores no se dejaron llevar por el triunfalismo, ni mucho menos.

Ah, ¿no?

No.

Dedican una parte importante a señalar, de forma muy explícita, donde fallaba.

Por ejemplo, en tareas de síntesis de texto o inferencia, GPT-3 es una forma de señalar

donde fallaba.

GPT-3 en modo few-shot todavía rendía peor que los modelos con fine-tuning. No era una panacea.

O sea, que admitieron sus propias limitaciones.

Y no solo eso. También fueron muy honestos sobre los problemas metodológicos. Admitieron

que al entrenar con un corpus tan vasto como Common Crawl, que es una copia de una parte

gigante de Internet, era posible que se hubieran filtrado ejemplos de los tests,

inflando un poco los resultados.

Esa honestidad es importante en la ciencia. Es crucial. Y lo más premonitorio de todo

fue que hablaron de los problemas de aprender de la web. Los sesgos, la toxicidad, la desinformación

que el modelo, inevitablemente, iba a absorber. Un aviso para navegantes que, visto ahora,

era increíblemente necesario. Y hablando de consecuencias, llegamos al resultado que

probablemente fue el más impactante, el que saltó a los titulares de todo el mundo.

El momento en el que el público

general y también muchos políticos y reguladores empezaron a prestar atención de verdad.

El hallazgo de que GPT-3 podía generar artículos de noticias y que los humanos teníamos serias

dificultades para distinguirlos de los escritos por personas. Pero ¿hasta qué punto eran

convincentes? Los resultados que presentaron eran alarmantes. Hicieron un estudio con evaluadores

humanos. Les daban un artículo corto de unas 200 palabras y tenían que decir,

¿corona o IA? La precisión media de los humanos fue de solo el 52%.

¿52? ¿Eso es, vamos, lanzar una moneda al aire? Básicamente. Eran indistinguibles en la práctica.

Recuerdo leer uno de esos primeros artículos, sobre una cumbre económica ficticia. Era tan

plausible, con citas inventadas, datos coherentes, que estuve cinco minutos buscando la noticia en

Google antes de asumir que era falsa. ¡Qué fuerte!

Fue un momento escalofriante, la verdad. De repente, la idea de la desinformación a escala

industrial dejó de ser una teoría para ser una posibilidad técnica inminente.

Entonces, ¿qué significa esto? Que de la noche a la mañana teníamos una herramienta capaz de

crear contenido coherente a una escala inimaginable. Y eso abre un universo de

posibilidades, pero también un campo de minas ético.

Y lo más destacable, volviendo al paper, es que los autores no evitaron esa conversación. Al

contrario, la provocaron ellos mismos.

Ah, sí.

Sí. El artículo dedica una sección entera a discutir los impactos sociales más amplios de su propia creación. No se lavaron las manos.

¿Y qué tipo de riesgos mencionaban? Fueron muy directos. Hablaron del potencial para el bien, claro. Pero enumeraron los riesgos. Desinformación, spam, suplantación de identidad, radicalización con propaganda personalizada. Vamos, que lo pusieron todo sobre la mesa.

Fue una de las primeras veces que un equipo de este nivel ponía los riesgos en la mesa.

Y una de las primeras veces que un equipo de este nivel ponía los riesgos en la mesa.

Fue una de las primeras veces que un equipo de este nivel ponía los riesgos en la mesa.

Vale, si tuviéramos que empaquetar el legado de este paper en una sola idea, ¿cuál sería?

Es una buena pregunta.

Para mí, la gran conclusión es que Language Models are Few Short Learners demostró que la escala no era sólo más de lo mismo. La escala podía desbloquear capacidades cualitativamente nuevas y un paradigma de interacción, el del prompting, muy pequeño y muyใชto.

Mucho más flexible, mucho más potente.

Sí, fue el pistoletazo de salida para la era de los grandes modelos fundacionales.

Totalmente. Los que dominan por completo el panorama actual.

Es una síntesis perfecta.

Y si tuviera que añadir una reflexión final, una idea para que la audiencia se quede dándole vueltas, sería esta.

El paper demostró empíricamente ese viejo dicho militar de que la cantidad tiene una calidad propia.

Me gusta esa frase.

Pero al hacerlo, abrió una auténtica caja de Pandora.

Planteó preguntas fundamentales que apenas hemos empezado a responder.

Preguntas sobre la naturaleza de la inteligencia.

Si esto es un destello de comprensión real o un espejismo estadístico muy sofisticado.

Claro.

Preguntas sobre la creatividad artificial y sobre todo sobre la verdad de la información en esta era.

No fue solo un avance en computación.

Fue el inicio de un debate social, filosófico y ético que sigue y seguirá muy vivo.

Un debate que, sin duda, está definiendo nuestro presente.

Y hablando de avances que desataron debates y nuevas realidades,

mañana continuamos nuestra serie, los papers que cambiaron la historia de la IA.

El viaje no ha hecho más que empezar.

Y el de mañana es fascinante.

Mañana nos adentraremos en el paper

The Noising Diffusion Probabilistic Models de Jonathan Ho, a Jay Jane y Peter Avil.

Un nombre que quizás no le suene a todo el mundo.

Puede que el nombre no suene familiar, pero su impacto es innegable.

Sin este paper, la explosión de arte generativo que hemos visto simplemente no habría ocurrido.

Una cita ineludible.

Y hasta aquí el episodio de hoy.

Muchas gracias por tu atención.

Esto es BIMPRAXIS.

Nos escuchamos en el próximo episodio.