Este es un ejemplo de los artículos que semanalmente escribo de forma exclusiva para los mecenas de la Comunidad.

Si quieres recibir contenido exclusivo como éste directamente en tu bandeja de correo, revisa las opciones de mecenazgo de esta página.

*******

Es increíble cómo nos gusta a los humanos dotar de personalidad nuestras creaciones.

Es algo innato, que supongo que estará relacionado con la idea del ego del creador, pero no falla, oye.

IA nueva que aparece, IA que le ponemos cara y voz de mujer.

El caso es que estos días los chicos de OpenAI han sacado un nuevo juguetito al mercado: ChatGPT.

Una nueva inteligencia artificial, basada como las anteriores en GPT, a modo de asistente.

Y oye, funciona.

Funciona tan bien que algunos ya han empezado a señalar que quizás, el futuro de las búsquedas por internet, vaya por estos lares. El de la propia asistencia virtual, si me permites cruzarlo con el polémico artículo de la semana pasada.

Es más, StackOverflow, el popular sitio de preguntas y respuestas relacionadas con programación ha corrido a advertir que deja terminantemente prohibido el uso de ChatGPT y futuras herramientas de este tipo como sistema de respuesta en su plataforma (EN).

Algo que, recordemos, ya hemos visto con el auge de las GANs en otras plataformas de bancos de imágenes. Que sí, las prohibieron… hasta que llegaron a un acuerdo con sus creadores para meter la API de forma directa en el servicio, y cargarse así al molesto intermediario que es el diseñador.

Pues algo mismo podría pasar con el mundo de la programación. Si tenemos ya IAs capaces de escribir código, de ofrecer mejoras al código creado, ¿tiene sentido el papel humano en esta cadena?

Basta hacerle cualquier pregunta (técnicas, incluso) para que la IA te responda con un contenido que, ciertamente, parece que viene dado por un ser inteligente y omnisciente.

¿Cuál es el problema entonces? Pues ese mismo. Que la IA ni es inteligente, ni es omnisciente.

Aunque a ojos de nuestros limitados conocimientos… lo parezca.

CHATGPT NO ES INTELIGENTE

ChatGPT, como el resto de inteligencias artificiales basadas en los principios del deep learning, no entiende una puta mierda de lo que dice. Simplemente ha sido enseñada en base a millones de pruebas y errores a juntar palabras/código/imágenes de forma que lo que dice parece que tiene sentido.

Para ello, y en el caso de las respuestas en texto, está claro que han tenido que enseñarle buena parte de los principios de la lengua (legibilidad, morfología, etc…), y además cuenta con un inmenso universo de datos de los que tirar para unir esos conceptos en unos párrafos que perfectamente podrían parecer haber sido escritos por un experto en materia.

Pero recalco: no tiene ni puta idea de lo que dice. Y lo peor de todo: No le importa inventarse las cosas.

Acierta en la mayoría de los casos porque el universo de datos que tiene está lo suficientemente bien categorizado como para que los errores sean los menos. Y además, acierta porque en sus respuestas tiende a los generalismos, a la respuesta fácil, a lo sumo picoteada con algún sabroso detalle a modo de curiosidad que la dota de un aparente contexto.

Pero es que, aún con ello, no está diseñada para dar la respuesta correcta a la pregunta que le hemos formulado, sino para dar una respuesta bien estructurada a la pregunta. Sea o no verdad lo que dice.

Todo muy bien hilado, eso sí, porque detrás hay millones de pruebas de acierto y error para entender que en esa frase, el verbo tiene que ir mejor ahí, junto con tal adjetivo y tal artículo. Y que si en la frase anterior dije X, ahora debo decir Y para que parezca que estoy siguiendo de forma fluida un principio de conversación.

Lo mismo que ocurre con cualquier experimento conductuísta:

Ese ratón no entiende la conexión que hay entre que pulsa ese botón con su patita, y le cae la comida. Pero a base de probar mil y un mierdas, llega a la conclusión de que cada vez que pone la patita en ese lugar, la comida llega.Ese perro que siempre, casualmente, está en la puerta cuando llegamos a casa, no es que supiera que a esa hora, como siempre hacemos, íbamos a llegar. Es que el puto perro ha venido veinte veces antes, quedándose como un tonto mirando la puerta durante media hora, y claro, lo raro es que a la veintiuna no haya acertado…No hay raciocinio alguno, sino un brindis al sol que sale bien.

CHATGPT NO ES OMNISCIENTE

Y a poco que rasques en la conversación, no le importa reconocerlo.

«Mi conocimiento se limita a lo que se me ha entrenado, y no tengo acceso a internet para buscar información adicional.Como dije en mi introducción, mi conocimiento se detiene en 2021 y no tengo acceso a la web para obtener información actualizada. No puedo decirte nada sobre el iPhone 14 Pro ya que no tengo conocimiento de su existencia»

Esto es importante tenerlo claro ya que a diferencia de otros sistemas inteligentes como el de la propia Google, el de ChatGPT y todas estas nuevas IAs está comedido en el universo de datos que se le dio para alimentarla.

Y esta limitación además, por el propio funcionamiento de los sistemas de machine learning, es dificilmente solventable (primero deben ser entrenadas para dar resultados válidos, y eso requiere tiempo… que pierde de tener acceso a nuevo contenido creado por la sociedad).

Por ende, siempre será como hablar con algo del pasado. Algo muy bueno en unir cabos y ofrecer respuestas, pero desactualizado en todo momento de la realidad del mundo que nos rodea.

Y PESE A TODO, ¿IMPORTA?

Es la duda que me corroe por dentro.

¿Valoramos realmente que un «algo» sea capaz de dar respuestas actuales e inteligentes… o valoramos la respuesta en sí?

En la mayoría de los casos te diría que lo segundo. A fin de cuentas, de nada nos vale una respuesta inteligente y actualizada… si es errónea. Incluso si da la impresión de serlo, aunque en realidad sea correcta.

Lo bueno de redes como ChatGPT es que son capaces de dar respuesta a cualquier cosa. Más que nada porque si no existe respuesta, ya se la inventan ellas…

________

Este es un ejemplo de los artículos que semanalmente escribo de forma exclusiva para los mecenas de la Comunidad.

Si quieres recibir contenido exclusivo como éste directamente en tu bandeja de correo, revisa las opciones de mecenazgo de esta página.

Articulo exclusivo PabloYglesias