Jonay, redactor de la revista HackerCar, me pidió hace unos días una columna sobre cómo herramientas de tipo ChatGPT y compañía podían volver más inseguro el sector del automóvil, y en general cualquier otro sector industria y/o social.
Dejo por aquí la pieza que envié al medio, y que acabaron publicando (ES):
Hace apenas un año, la tecnología de moda era el metaverso.
De pronto, todos los ojos estaban puestos en la idea de que dentro de nada íbamos a hacer todo en unos mundos virtuales, presumiblemente desde habitaciones poco iluminadas y ventiladas, con unas gafas de realidad virtual que nos aislaban de la realidad de nuestro entorno.
Es más, la propia Facebook, en esa crisis reputacional que arrastra desde hace años, decidió cambiarse el nombre a Meta y apostar casi una quinta parte de su cartera a liderar este nuevo ecosistema en el futuro. Puso todos los huevos en la cesta.
Y si nos vamos un poco más atrás, la cadena de bloques, el blockchain, que lo iban a cambiar todo de arriba a abajo, eliminando cualquier centralización en pos de sistemas informáticos descentralizados.
Y sin embargo, un buen día llegó Open AI, una organización sin ánimo de lucro (desde hace unas semanas empresa con interés de lucro, por cierto) que llevaba años (no ha surgido espontáneamente de la noche a la mañana, precisamente) realizando investigaciones en materia de inteligencia artificial, y revolucionó el mundo: Lo que está de moda últimamente ya no es el metaverso (parece que esto ya solo le interesa a Meta), ni el blockchain, sino las inteligencias artificiales. O mejor dicho, las herramientas capaces de generar contenido a partir de una IA.
La era de las IAs generativas
Que si ChatGPT con texto, que si Midjourney, Dall-e y compañía con imágenes, que si… La cuestión es que llevamos unos cuantos meses de bombardeo mediático continuo, alertando el n-ésimo apocalipsis laboral que vendrá de la mano de unas IAs capaces de hacer nuestro trabajo (el de los creativos) mucho más eficazmente, y peor aún, sin pedir baja y a un coste ridículo.
Que ahora quien se va a quedar sin trabajo no es el operario de aquella máquina industrial, sino el programador, el junta-letras, el abogado. Profesiones que requieren de un aprendizaje intelectual y una capacidad crítica hasta ahora no vista en la máquina.
Hasta ahora.
Así pues, estamos envueltos en esa campana de Gauss que ya definió Gartner hace eones en relación al hype por los avances tecnológicos.
Pasamos en apenas unos meses de una pendiente muy limitada (los años que lleva Open AI investigando sin más pena que gloria), a un mercado alcista de interés que nos dirige inexorablemente a ver tanto un potencial infinito, como un riesgo sin precedentes en todos y cada uno de los sectores productivos de nuestra sociedad.
La realidad, sin embargo, y aunque no acapare tantos titulares como los anunciados finales catastrofistas de estos últimos meses, es que muy probablemente estemos ante una serie de tecnologías que sí revolucionarán el mercado, pero sin destruirlo ni cambiarlo por completo.
Lo que me lleva a hablar del tema de este artículo:
¿Harán herramientas como chatGPT más inseguro nuestro entorno?
Y la respuesta rápida, por si tienes prisa y no puedes dedicarle más tiempo a esta pieza, es que no.
Al menos, no más de lo que ya lo es.
Gracias a este tipo de herramientas, es cierto que se democratiza, hasta cierto punto, la capacidad de un agente malicioso de generar, por ejemplo, imágenes falsas que permitan vender un coche de segunda mano que no existe, o incluso engañar a los sistemas de seguridad actuales para hacer parecer que tal vehículo estaba en tal lugar y/o situación.
También es cierto que, de pronto, tenemos al alcance de un click una herramienta que nos permite programar código sin saber apenas los cimientos de la programación, simplemente pidiéndole que nos haga tal o cual cosa.
De todos estos tipos de ataque ya hablé, de hecho, en un tutorial reciente con 5 maneras de usar ChatGPT para realizar ciberataques. Estas IAs cuentan con controles que en teoría evitan que un cibercriminal pueda usarlas para crear campañas de phishing, fraudes, extorsiones o malware. Pero la realidad es que son tan limitadas que a poco que sepas cómo definir tu prompt, acaban dándote lo que les pides, saltándose esas reglas éticas previamente fijadas por sus desarrolladores.
Todo esto es cierto, sí. Pero es que te voy a contar un secreto: Este riesgo ya existía.
Las IAs del momento no han creado nada. En todo caso, como decía, lo han democratizado (es más rápido y sencillo crearlo), pero estos mismos ataques ya existían y ya se estaban realizando.
Con el añadido de que algo como ChatGPT no es magia. Está, y seguirá estando, bastante limitado.
Para aquellos que nos dedicamos a esto de la tecnología, es fácil constatar que a poco que le retuerzas más de la cuenta las peticiones, sus limitaciones salen a la superficie: Esa foto de ese coche cuyo retrovisor no ha sido correctamente pintado, al no haber tenido la IA suficientes retrovisores en diferentes ángulos para comprender cómo debe pintarlo para que quede realista, ese código que obvia medidas básicas de seguridad o parametrización de variables, por el simple hecho de que la IA no comprende ni el contexto, ni lo que te está dando, ese texto que parece estar perfectamente escrito en ese idioma que le has pedido, pero que para cualquier hablante nativo “canta” a algo sin sentido…
Que pese a quien le pese, en definitiva, seguiremos durante muchísimos años levantándonos cada mañana de lunes a viernes, o de lunes a sábado, o de lunes a domingo, para seguir trabajando en esos puestos que durante meses y/o años nos han dicho que van a desaparecer, y cogiendo un vehículo que es tan seguro o inseguro como lo era el mes anterior, y el año anterior.
Haya más o menos IA en nuestro entorno.
Eso sí, tarde o temprano el hype irá pasando, y volveremos a esa curva con tendencia descendente que es donde ocurre el milagro. Donde algo pasa de ser noticia, a cambiar de verdad en mayor o menor medida la vida de todos nosotros.
Sin grandes titulares, habiendo la sociedad interiorizado que estas herramientas ya son el pan nuestro de cada día, y dándoles por tanto la importancia justa que se merecen.
Lo mismo que nos ha pasado con los smartphones, con la miniaturización de microprocesadores, con Internet, con la sociabilidad digital…
