ASÍ piensa una INTELIGENCIA ARTIFICIAL: mapas mentales, razonamiento y lo que podemos APRENDER de ellos

Durante años, los sistemas de inteligencia artificial han sido descritos como cajas negras: modelos matemáticos que producen resultados útiles sin que sepamos muy bien cómo han llegado hasta ellos.

Pero en los últimos meses, varias investigaciones están empezando a arrojar algo de luz sobre estos procesos internos.

Por primera vez, por tanto, podemos vislumbrar cómo “piensan” estos sistemas, y lo que encontramos es sorprendente, inquietante… y muy útil, si sabemos interpretarlo.

En este nuevo episodio del podcast enCLAVE DIGITAL vamos a desglosar las claves que revelan cómo razonan los modelos como Claude, GPT o Gemini, qué implicaciones éticas tiene su forma de almacenar y generar conocimiento, y cómo podemos aprovechar mejor estas capacidades para trabajar con ellos de forma más eficaz y responsable, dando respuesta a preguntas tales como:

• ¿Qué significa realmente “pensar” para una IA?
• ¿Es capaz de planificar sus respuestas, o simplemente reacciona ante estímulos?
• ¿Cómo podemos usar este conocimiento para mejorar nuestra forma de interactuar con ella?

¡Empecemos!

Pero antes de continuar, te quería recordar que publico un episodio del podcast todas las semanas, y que además acompaño cada artículo que publico en mis webs con un reel/short/tiktok de menos de un minuto en el que resumo su contenido.

Vamos, que no puedo ponerte más fácil el que estés bien informado, con contenido muy documentado sobre nuevas tecnologías, seguridad de la información y negocios digitales.

Si te interesan estos temas, sígueme en Youtube y en la plataforma de podcasting desde donde me escuches, y activa la campanita para que te avise cuando se haya publicado un nuevo contenido.

Además, puedes suscribirte GRATUITAMENTE a mi lista de correo, donde cada semana hago el resumen de todo lo que ha ocurrido en los últimos días. Para colmo, con la suscripción recibirás al instante mi último eBook, de más de 40 páginas, con herramientas de ofuscación en criptomonedas que usa la industria del blanqueo de capitales (y que deberías conocer para evitar caer en fraudes y ciberataques).

Recuerda que esta es la única manera de que tú sigas siendo quien controla la información que consumes.

En tu mano está decidir si quieres o no estar bien informado.

Y, ahora sí, ¡dentro episodio!

Cómo razona una inteligencia artificial: del patrón al propósito

Lo primero que debemos entender es que las IA generativas, como Claude o ChatGPT, no son simples máquinas de asociación.

Aunque su entrenamiento se basa en detectar patrones de lenguaje, las últimas investigaciones —como la llevada a cabo por Anthropic— han demostrado que estos modelos desarrollan una especie de mapa mental que guía sus decisiones, muy similar al razonamiento humano.

Escucha:

«Este trabajo está cambiando lo que eran preguntas casi filosóficas — ¿Están pensando los modelos? ¿Están planeando los modelos? ¿Los modelos solo están regurgitando información? — en consultas científicas concretas sobre lo que literalmente está sucediendo dentro de estos sistemas».

Joshua Batson, científico jefe del estudio para el medio VentureBeat (EN)

Para llegar a esta conclusión, los chicos de Anthropic han aplicado una técnica llamada circuit tracing que les ayuda a estudiar cómo se activan distintas regiones del modelo al realizar tareas como escribir poesía, o resolver preguntas lógicas.

Y la conclusión, pese a lo que podría parecer, es que los modelos no improvisan al vuelo: planifican antes de responder.

Por ponerte un ejemplo, cuando se le pide a Claude que escriba un pareado, no empieza por la primera línea que se le ocurra.

Primero analiza la palabra final de la segunda línea, y selecciona términos que rimen con ella.

Después construye la frase inicial para que encaje con la estructura final deseada.

Es decir, proyecta hacia el futuro antes de tomar una decisión presente.

Este comportamiento implica que los modelos no solo reaccionan. Tienen una representación interna del objetivo y adaptan su output para alcanzarlo.

Y esto, créeme, como veremos más adelante, tiene bastante más importancia de la que parece.

Inferencias complejas: razonamiento paso a paso

Más allá de la planificación, los modelos avanzados son capaces de realizar inferencias complejas, lo que se conoce como reasoning.

¿Que qué diablos significa esto?

Pues uno de los ejemplos más reveladores viene del mismo estudio de Anthropic (EN), donde se pedía al modelo que respondiera: “¿Cuál es la capital del estado donde está Dallas?”.

Pues para responder a esta pregunta, Claude no tiene esa respuesta memorizada como un dato plano.

Lo que hace es, primero, identificar que Dallas está en Texas, y luego que la capital de Texas es Austin.

Y aquí viene lo importante: Son dos pasos de razonamiento encadenado, que se activan en distintos nodos del sistema.

De hecho, los investigadores incluso manipularon internamente la representación de “Texas” por “California”, y el modelo cambió su respuesta a “Sacramento”.

Esto, por tanto, demuestra que no es una simple cadena de texto aprendida de memoria: hay un procesamiento causal y conceptual de la información.

Fíjate tú. De una manera muy parecida a cómo todos nosotros, como seres biológicos, unimos conceptos con ideas.

Una lengua interna universal: más allá del idioma

Otra revelación fascinante es que los modelos no manejan múltiples idiomas de forma independiente, sino que traducen todo a una especie de lenguaje conceptual común.

Es decir, no tienen un “chip” de inglés y otro de chino, sino que convierten cualquier idea a una red de significados compartidos.

Para demostrar esto, los científicos pidieron al modelo que buscara el antónimo de “pequeño” en distintos idiomas.

E independientemente de si la pregunta era en francés, chino o español, el sistema activaba las mismas rutas internas que representan “opuesto” y “pequeñez”.

Y solo después de hacer esto transformaba esa respuesta a la lengua correspondiente.

Gracias a esto, ahora podemos explicar por qué los modelos multilingües son tan eficaces y por qué, en muchos casos, se comportan como si el lenguaje fuera simplemente una interfaz.

¿Te acuerdas de ese otro episodio en el que comentaba por qué ya no era tan necesario aprender idiomas? Pues eso.

Cualquiera que haya usado una IA para traducir a otro idioma se dará cuenta, si controla del otro idioma, por supuesto, que las IAs no solo traducen, sino que son capaces de localizar el contenido a ese otro idioma.

Es decir, que el output que nos da no es simplemente una traducción gramática 1 a 1 del texto o la voz que le hemos dado, sino una interpretación en el otro idioma del contenido que tenía el texto o audio original, pero aplicando las normas y expresiones del nuevo lenguaje.

El “pensamiento”, por llamarlo así, ocurre en otro plano más abstracto, y por tanto, muchísimo más eficiente que los sistemas de traducción que teníamos hasta el momento, como era el caso de Google Translate.

¿La IA miente? cuando los modelos se inventan respuestas

Hasta ahora, todo suena bastante prometedor, ¿verdad?

Pero también hay aspectos menos…, digamos…, agradables.

Hablo, por supuesto, de las «alucinaciones de la IA». Un tema al cual le he dedicado ya varios ríos de tinta a lo largo de estos últimos años.

Hablamos de que Claude —y otros modelos similares— a veces se inventan cosas.

Se las inventan.

Literalmente.

Los investigadores identificaron tres patrones de comportamiento cuando se enfrentan a preguntas complejas:

1. El modelo realmente sigue los pasos que dice haber hecho.
2. El modelo inventa pasos para justificar una respuesta que dio sin base real (a lo que llaman hacer “bullshitting”).
3. El modelo parte de una respuesta sugerida por el usuario y construye retroactivamente una explicación.

De estos tres, los dos primeros ya eran conocidos por cualquiera que haya profundizado un mínimo en el funcionamiento interno de este tipo de herramientas, pero este último punto me parece especialmente interesante.

Muchas veces creemos que la IA está “razonando” porque nos da una cadena lógica de pasos.

Pero al analizar internamente lo que ocurre, vemos que esos pasos son una reconstrucción, no el camino real que la IA siguió para llegar a esa conclusión.

Vamos, que en eso también se parecen un poco a sus constructores…

Son capaces de dar una metodología de cómo llegaron a tal deducción… cuando realmente utilizaron otra metodología distinta para llegar a ello.

Nos mienten, vaya.

Por el simple hecho de que, parafraseándome en este artículo de finales de 2022:

Recalco: A la IA no le importa inventarse las cosas.

Acierta en la mayoría de los casos porque el universo de datos que tiene está lo suficientemente bien categorizado como para que los errores sean los menos. Y además, acierta porque en sus respuestas tiende a los generalismos, a la respuesta fácil, a lo sumo picoteada con algún sabroso detalle a modo de curiosidad que la dota de un aparente contexto.

Pero es que, aún con ello, no está diseñada para dar la respuesta correcta a la pregunta que le hemos formulado, sino para dar una respuesta bien estructurada a la pregunta. Sea o no verdad lo que dice.

Pablo F. Iglesias

La memoria como riesgo: ¿aprendizaje o plagio?

Hechas las presentaciones, vamos a enlazarlo con otro gran debate actual: ¿hasta qué punto los modelos recuerdan el contenido con el que fueron entrenados?

Ya sabemos, de hecho desde hace años, que chatbots conversacionales como ChatGPT fueron entrenados con contenido expuesto en Internet. Páginas como la mía (hay un 0,00000009% del universo de datos que se usó para entrenar ChatGPT que fue sacado de mi web, por cierto :)), pero también otras páginas que incluso tenían muros de pago, o de libros y otras publicaciones con copyright, lo que, según se mire, podría considerarse plagio.

Para resolver esta duda, un estudio (EN/PDF) reciente de universidades como Stanford o Copenhague demostró que GPT-4 puede recuperar de forma literal fragmentos de libros protegidos por derechos de autor.

Para demostrarlo, usaron lo que llaman “palabras de alta sorpresa” (es decir, términos inusuales en el lenguaje que, de usarlos, hay poca duda de que en efecto estarían plagiando el contenido).

Escucha:

Por ejemplo, en una frase como «El motor zumbaba suavemente bajo el radar», la palabra “radar” es estadísticamente inesperada. Si al ocultarla, la IA logra adivinarla correctamente, hay una alta probabilidad de que haya visto ese fragmento exacto durante su entrenamiento.

Así, los investigadores detectaron que el modelo podía completar textos de forma exacta, lo que indica que no solo aprendió patrones… sino que también memoriza.

Y claro, esto plantea dilemas legales y éticos profundos.

Si un modelo puede repetir textualmente pasajes de obras protegidas, ¿estamos ante una herramienta creativa, o ante una máquina de plagio?

Pues… depende a quien le preguntes.

Las empresas como OpenAI alegan, por supuesto, que esto forma parte del uso justo (de lo que los anglosajones denominan Fair Use): que el objetivo del entrenamiento es aprender estructuras del lenguaje, no copiar.

Pero si el sistema puede regenerar texto exacto, esa línea de defensa se vuelve un tanto débil, ¿no crees?

Más aún cuando la propia OpenAI ha llegado a acuerdos extrajudiciales con algunos de los principales medios de comunicación (EN) para, precisamente, evitar el impacto mediático que potencialmente podría tener una victoria de aquellos que consideran que hicieron un uso ilegítimo de toda esa información protegida por derechos de autor.

Y aquí, como en muchas de estas situaciones, la transparencia es clave.

Hoy por hoy, no sabemos con certeza qué libros, artículos o contenidos han servido de base para estos modelos, porque las compañías lo consideran, «casualmente», secreto industrial.

La guerra, por tanto, está servida, y en los próximos años veremos en qué queda todo esto.

Si me preguntas a mi, por cierto, te diría que lo que más me jode de este tipo de movimientos es que, pese a que quizás en el futuro se les penalice por lo que potencialmente podría ser, en efecto, un uso ilegítimo de contenido protegido por derechos de autor… el corolario que queda es que aquí vale todo.

Que merece la pena correr el riesgo, aprovechándose de la lentitud de las leyes, ya que para cuando toque soltar la cartera, la empresa ya estará consolidada y cualquier multa, por muy multimillonaria que sea, no afectará en la viabilidad del negocio.

Cómo usar mejor la IA con este conocimiento

Pero no quería terminar toda esta diatriba teórica sin llevar toda esta información a la práctica.

Si la pregunta es: ¿qué podemos hacer nosotros para aprovechar esta forma de “pensar” artificial de las IAs?, se me ocurren cuatro recomendaciones concretas.

A saber:

1. Habla en términos de objetivos

Ya que ahora sabemos que los modelos planifican, no pienses en ellos como simples autocompletadores. Dales contexto, explica el propósito de tu pregunta, y déjales ver hacia dónde quieres ir.

Por ejemplo:

• Un mal prompt sería: “Haz un informe de ventas”.
• En cambio, un buen prompt sería: “Quiero un informe de ventas semestral para presentar a directivos, con énfasis en áreas de crecimiento y datos visuales.”

2. Valida las cadenas de razonamiento

Cuando la IA te dé una respuesta compleja, verifica si los pasos que ofrece son coherentes.

No asumas que lo que dice que hizo es realmente lo que hizo.

¿Cómo puedes llevar esto a cabo?

Pues un truco útil sería volverle a preguntar con otra fórmula, o pedirle que te lo explique de nuevo pero usando ejemplos distintos.

Si ves que llega a la conclusión de otra manera, ya sabes que hay que revisar la metodología usada.

3. Aprovecha el lenguaje universal

La capacidad de las IAs para traducir ideas más que palabras las convierte en asistentes potentes para trabajar en entornos multilingües.

Y por tanto, como te decía anteriormente, no les pidas simplemente “traducir”, sino interpretar o adaptar el mensaje al público objetivo.

¿Un ejemplo de prompt que puedes usar para aplicar este aprendizaje?

Pues algo así como: “Redacta esta carta para una empresa japonesa, en un tono formal y respetuoso según su cultura profesional.”

Vas a poder ver que la IA genera un contenido mucho más enfocado a los objetivos buscados. No solo traducirá, sino que localizará la información para que un japonés que la lea o escuche le parezca que está escrita por otro japonés.

Y 4. Reconoce sus límites

Por muy avanzado que sea el modelo, sigue siendo una herramienta probabilística.

Acuérdate:

• Puede fallar.
• Puede mentir.
• Puede alucinar.

Por ponerte un ejemplo, un servidor la utiliza en su día a día, y cada vez más.

De hecho, este guión está asistido por varias IAs en su creación. Y el vídeo que vas a ver, junto con la carátula que lo acompaña, también.

Pero claro, no voy a la herramienta y le digo simplemente: «hazme un guión sobre tal cosa».

Yo le paso toda la información, en muchas ocasiones ocupando bastante más número de palabras que el guión final, y le pido que me lo estructure, para luego yo pasar nuevamente por encima y asegurarme que todo lo que ha escrito tiene sentido, y adaptarlo a mi manera de comunicarme.

Es decir, que si te tienes que quedar con algo de este episodio, es que no delegues decisiones críticas en una IA sin saber del tema, sin darle la información oportuna para que haga su trabajo, y sin una revisión humana posterior.

Entender la IA para no idealizarla

Las inteligencias artificiales están cada vez más cerca de simular procesos mentales humanos, pero siguen funcionando bajo una lógica distinta.

No tienen conciencia, emociones ni valores.

Lo que sí tienen son mapas internos, rutas de decisión, mecanismos de inferencia y una sorprendente habilidad para reorganizar la información.

Saber cómo funciona su “mente” nos ayuda no solo a usarlas mejor, sino también a entender los riesgos éticos, legales y sociales que su adopción masiva conlleva.

No basta con maravillarse ante lo que pueden hacer. Hay que entender cómo lo hacen, y a partir de ahí, construir un uso responsable, creativo y consciente.

Pero ahora, turno para ti:

1. ¿Con qué frecuencia compruebas las respuestas que te da una IA, y cómo lo haces?
2. ¿Crees que deberíamos tener derecho a saber qué contenido se usó para entrenar una IA?
3. ¿Te gustaría que estas herramientas fueran más explicativas respecto a sus procesos internos?

Déjame saber tus respuestas en comentarios, y abramos debate.

https://www.youtube.com/shorts/ylEhQnx4Cwc

Sobre el videopodcast enCLAVE DIGITAL

enCLAVE DIGITAL es el videopodcast de Pablo F. Iglesias, consultor especializado en ayudar a referentes a blindar su reputación, diversificar y escalar su autoridad como marca.

Me puedes leer y escuchar en www.pabloyglesias.com (recuerda que la primera Y de «Yglesias» es «Y griega», que si no me confundís con otro), y me puedes escribir a contacto(at)pabloyglesias.com.

Si este contenido te sirve para estar bien informado sobre la actualidad en materia de negocios digitales, reputación y tecnología, te agradecería que le dieras a suscribirte en mi canal de Youtube o en la plataforma de podcasting desde donde me escuchas, le des a Me Gusta, al botón de hype de Youtube, me dejes un comentario o reseña y lo compartas con aquellos a los que les pueda interesar.

¡Seguimos!

Si utilizas otra plataforma de podcasting, busca «enCLAVE DIGITAL« en la app para localizarlo, o visita la página del videopodcast, donde ofrezco enlaces directos a las principales plataformas actuales: