E017_Redes Generativas Antagónicas (GANs)

Buenas, esto es BIMPRAXIS, el podcast donde el BIM se encuentra con la inteligencia artificial.

Exploramos la ciencia, la tecnología y el futuro desde el enfoque de la arquitectura, ingeniería y construcción.

¡Empezamos!

Bienvenidos a la tercera entrega de nuestra serie especial, los artículos que cambiaron la historia de la IA.

Hoy vamos a meternos con un texto que, de verdad, no exagero si digo que marcó un antes y un después.

Nos sumergimos en el artículo de 2014, Generative Adversarial Networks, Redes Generativas Antagónicas, de Ian Goodfellow y un equipazo de investigadores.

Y hay que insistir en esto, ¿eh?

Este fue el momento en que la inteligencia artificial empezó a imaginar.

Fue la primera vez que vimos una capacidad real de creatividad visual, de generar algo nuevo que pareciera auténtico.

Para que nos entendamos todos, es el abuelo de los deepfakes, de mid-journey, de todo este universo de IA generativa de imágenes que hoy nos deja con la boca abierta.

Nuestra misión hoy es desgranar esa idea central, esa chispa que lo cambió todo.

A ver, vamos a ello.

Y es que la fecha lo dice todo.

El artículo se subió a arXiv, que es el repositorio de artículos científicos, el 10 de junio de 2014.

En la escala de la historia de la informática, eso es... vamos, es que fue la semana pasada.

Nos da una idea de la velocidad de vértigo a la que se ha movido todo desde entonces.

Pero lo que a mí me parece fascinante de este trabajo es que su genialidad no está en una fórmula matemática que solo entienden cinco personas en el mundo.

Al contrario, reside en un concepto increíblemente intuitivo, casi poético, y con una potencia descomunal.

Totalmente de acuerdo. La elegancia de la idea es lo que la hace tan potente.

De hecho, el propio nombre ya nos da una pista.

Redes generativas antagónicas.

La palabra antagónico tiene mucha fuerza, ¿eh? Suena a conflicto, a una partida de ajedrez o, no sé, a una novela de espías.

¿Qué significa exactamente aquí?

Pues mira, la analogía de los espías o de una partida de ajedrez es perfecta.

El propio resumen del artículo, el abstract, lo deja claro desde la primera frase.

Proponemos un nuevo marco para estimar modelos generativos a través de un proceso antagónico.

La clave es esa. En lugar de tener un solo modelo aprendiendo de un montón de datos,

que era lo habitual, la idea es enfrentar a dos modelos en un juego.

Aquí es donde la cosa se pone de verdad interesante.

Absolutamente. La analogía que el propio Goodfellow usó y que se ha hecho famosísima

es la del falsificador de arte y el detective de arte.

Imagina que tienes estos dos sistemas, que son dos redes neuronales.

Primero está el modelo generativo, la G.

G, vale.

Este es nuestro falsificador.

Su objetivo, según el texto, es capturar la distribución

de los datos. Dicho de forma más simple, si le enseñamos miles de cuadros de Rembrandt,

su trabajo es aprender la esencia de un Rembrandt para poder pintar un cuadro nuevo que parezca

auténtico.

Vale. Ese es el creador, el artista. ¿Y quién es su oponente en este juego?

Su oponente es el modelo discriminativo, la D, nuestro detective de arte. Su única

misión es estimar la probabilidad de que una muestra provenga de los datos de entrenamiento

reales y de los datos de entrenamiento reales.

En lugar de haber sido creada por G. O sea, le pones un cuadro delante y tiene

que decidir, ¿es un Rembrandt de verdad o es una falsificación de nuestro generador

G?

Espera, espera. Entonces, el objetivo del generador no es solo ser bueno, en abstracto,

sino engañar a este detective en concreto. Eso lo cambia todo. Porque si el detective

es un novato, el falsificador no tiene que esforzarse. Pero si el detective es el mayor

experto del mundo, el falsificador tiene que convertirse.

Tiene que convertirse en un genio absoluto para poder colársela.

Has dado en el clavo. Esa es la esencia de la dinámica. No se entrenan por separado,

sino en un bucle constante, competitivo. El detective D mejora al aprender a distinguir

las falsificaciones cada vez más buenas de G. Y aquí viene el gilo genial, la frase

clave del artículo sobre cómo se entrena G. Su objetivo es maximizar la probabilidad

de que D cometa un error.

Ah, claro.

Porque el falsificador no aprende a plintar Rembrandts estudiando solo a Rembrandt. Aprende

estudiando al detective. Su objetivo es explotar las debilidades del crítico.

Me parece una idea brillante. Es como decías, una carrera armamentística. El detective

mejora, así que el falsificador tiene que mejorar. El falsificador mejora, así que

el detective tiene que volverse aún más astuto.

Cada uno es el entrenador personal del otro.

Exacto. Pero esto me lleva a una pregunta.

¿En esta carrera quién gana, o es una carrera que no acaba nunca?

Ahí es donde entra la belleza de la teoría

de juegos, que lo sustenta todo. El artículo lo llama un juego minimax de dos jugadores.

No hace falta entrar en la ecuación. Pero la idea es que el discriminador D intenta

maximizar sus aciertos, y el generador G intenta minimizar los aciertos de D. Es un

tiralla floja matemático.

¿Un tiralla floja? ¿Y cuál es el punto de acción en este caso? De hecho, es extraordinario.

A continuación, ¿qué es el punto de acción? La definición significa que el tira y afloja

¿Y cuál es el punto de equilibrio? ¿A dónde se supone que llega esa lucha?

El punto final, teórico, el estado ideal, es lo más contraintuitivo y elegante de todo.

No gana ninguno. Se llega a un equilibrio perfecto, un empate técnico.

Y en ese punto, según el artículo, el generador G recupera perfectamente la distribución de los datos de entrenamiento.

Lo que significa que nuestro falsificador se ha convertido en un maestro.

Sus Rembrandts son indistinguibles de los originales. A todos los efectos, son perfectos.

Exacto. Y como consecuencia directa de eso, ocurre la segunda cosa.

El detective D, el experto mundial, queda completamente…

Inutilizado.

Inutilizado. Sí, ya no puede diferenciar lo real de lo falso.

El artículo lo expresa de forma muy precisa.

La probabilidad que asigne el discriminador es igual a un medio…

Un medio en todas partes. Un medio.

¿Te refieres a un 50%?

50%. 50-50. Sus decisiones son puro azar.

Como tirar una moneda al aire.

Justo.

Como lanzar una moneda.

Ante cualquier cuadro, ya sea real o falso, su cerebro experto le dice

Podría ser cualquiera de las dos. No tengo ni la más remota idea.

Es una paradoja increíble.

El triunfo del sistema es un empate.

Y la prueba de que hemos creado un generador perfecto es que su crítico…

…más duro se vuelve inútil.

Precisamente.

El objetivo nunca fue que el detective ganara, sino usarlo como una herramienta,

como una piedra de afilar, para llevar al generador a la maestría.

El discriminador es un medio para un fin.

Y cuando se alcanza ese fin, su incapacidad para decidir es la métrica del éxito.

Vale, la teoría es preciosa. Un empate del que nace la creatividad.

Pero suena casi demasiado bueno para ser verdad.

En la práctica, es fácil llegar a ese equilibrio tan perfecto.

¿Y esa es la pregunta?

Es la pregunta del Millén.

Y donde la elegancia de la teoría se topó con la cruda realidad.

Ese equilibrio es teóricamente hermoso, pero en la práctica es increíblemente difícil de alcanzar.

Es como intentar equilibrar un lápiz sobre su punta.

¿Y qué pasaba? ¿Qué significa que era difícil?

Pues que en los primeros años, el entrenamiento, la mayoría de las veces, simplemente colapsaba.

¿Qué significa que colapsaba? ¿Que el ordenador echaba humo?

No literalmente, pero casi.

El problema más famoso es el mode collapse.

O colapsaba en un unicornio.

¿Y qué significa el modo o tipo de resultado?

A ver.

Imagina que nuestro falsificador de Rembrandt descubre que hay un tipo de retrato que engaña al detective siempre.

En lugar de aprender a pintar toda la variedad de obras de Rembrandt, el generador se vuelve vago.

Se estanca y solo produce esa única imagen una y otra vez.

Claro. El sistema se rompe, el generador encuentra un truco y lo explota hasta el infinito.

Y el detective no es lo bastante bueno como para forzarle a salir de ahí.

Exacto.

Y ese fue el gran dolor de Camus.

La idea era perfecta, pero el entrenamiento era muy inestable.

Encontrar ese punto justo de equilibrio dinámico fue el verdadero arte.

Entiendo. Concepto brillante, pero difícil de domar.

Hablemos de la implementación.

Una gran idea no sirve de nada si necesitas un superordenador para ponerla en marcha.

¿Cómo lo hicieron?

Y este es el segundo pilar de la genialidad del artículo.

Y lo que explica por qué se adoptó tan rápido.

Lo fascinante aquí es que no necesitaron inventar un método de entrenamiento súper raro o carísimo.

El abstract lo dice claro.

Si G y D son perceptrones multicapa, el sistema puede ser entrenado con retropropagación.

Momento. Me estás diciendo que la idea era revolucionaria.

Pero que se podía montar con piezas que ya existían.

Perceptrones multicapa es una red neuronal normal.

Y retropropagación es el algoritmo con el que aprenden casi todas las...

... las redes desde los años ochenta.

Suena demasiado fácil.

Es que el truco no estaba en las piezas, sino en la arquitectura.

En cómo las conectaron.

Fue como si alguien dijera,

oye, con las ruedas y los motores que ya tenemos,

si los montamos de esta otra forma, podemos construir un avión.

Claro, la innovación no fue inventar el motor, sino el concepto del avión.

Eso es.

La comunidad ya dominaba la retropropagación.

Y de repente, este avión.

Este artículo les dice.

No tenéis que aprender nada nuevo.

Coged dos redes que ya sabéis construir y ponedlas a competir.

Eliminé una barrera de entrada gigantesca.

El artículo también menciona otro punto técnico que parece clave.

Cito.

No es necesidad de cadenas de Markov ni de redes de inferencia aproximada desenrolladas.

Esto suena muy denso, pero intuyo que es un dardo directo a los métodos de antes.

Totalmente.

Es un derechazo a la mandíbula de los modelos generativos de la época.

Modelos como las máquinas de Boltzmann eran un auténtico quebradero de cabeza.

Requerían procesos estadísticos muy complejos.

Eran lentos, computacionalmente carísimos y muy, muy inestables.

Eran como motores muy complejos, con muchas piezas que se podían romper.

Es una analogía perfecta.

El enfoque de las GANs era mucho más directo.

El aprendizaje fluye hacia atrás, desde el veredicto del detective hasta los parámetros del generador.

Todo con la retropropagación.

Era un diseño más limpio, más elegante.

Así que la idea era fácil de enchufar, pero un infierno de sintonizar.

La puerta de entrada era fácil, pero dominarlo era muy difícil.

Has dado en el clavo.

Esa dualidad definió la investigación en GANs durante años.

La simplicidad del marco hizo que miles de investigadores se lanzaran a experimentar.

Y fue esa experimentación masiva la que, con el tiempo, permitió descubrir los trucos para hacerlas más estéticas.

Estables y potentes.

Entonces, si recapitulamos.

El impacto de este artículo se sostiene sobre tres pilares.

Primero, un concepto casi filosófico.

La creatividad a través del conflicto.

El juego del falsificador y el detective.

Segundo, un objetivo teórico claro y elegante.

El equilibrio perfecto.

Ese empate donde nace la maestría.

Y tercero, una implementación práctica que usaba las herramientas que todo el mundo ya tenía.

Es la combinación perfecta de una idea profunda, una teoría sólida y una implementación factible.

Desde 2014, esta arquitectura ha sido el motor de la explosión de la IA generativa que hemos visto, sobre todo en lo visual.

La conexión con el presente es total.

Todo, desde los filtros artísticos de los móviles hasta los sistemas que generan vídeos a partir de una frase, le debe algo a esta idea de 2014.

Es el paciente cero de la imaginación artificial.

Absolutamente.

En esencia, lo que este artículo nos enseñó es a generar creatividad a través del conflicto dentro de una máquina.

Y es un concepto tan potente que trasciende la propia IA.

Esto plantea una pregunta importante.

A ver, ¿cuál?

¿Te refieres a si esto tiene implicaciones más allá de la tecnología?

Exactamente.

Si la creatividad artificial, al menos en este paradigma, surge de un conflicto interno, de una lucha entre dos fuerzas, ¿qué nos dice eso sobre la nuestra?

Es una gran pregunta.

Y creo que es la reflexión perfecta.

Es una reflexión perfecta para cerrar.

El artículo nos presenta un juego entre un creador y un crítico dentro de una máquina.

Y es inevitable pensar en el proceso creativo humano.

¿Cuánto de nuestra propia creatividad es en realidad un diálogo interno similar?

Una lucha entre esa parte de nosotros que genera ideas sin filtro, a veces salvajes, y esa otra parte, el crítico interno que las juzga, las cuestiona y las pule.

Forzando a la primera a mejorar, a ser más precisa, más original.

Quizás este proceso antagónico no es sólo un truco para una IA, sino un pilar fundamental de la propia creatividad.

Y hasta aquí el episodio de hoy. Muchas gracias por tu atención.

Esto es BIMPRAXIS. Nos escuchamos en el próximo episodio.