En los últimos meses, la evolución de los modelos de inteligencia artificial generativa ha dado un salto MUY significativo.
Con la llegada de versiones como la o3 y o4-mini, OpenAI ha puesto en manos de cualquiera una herramienta tan potente como peligrosa.
¿Que a qué me refiero?
Pues que, como bien sabes, estos chatbots conversacionales se pueden utilizar para muchísimas cosas, pero en este nuevo episodio del podcast enCLAVE DIGITAL quiero centrarme en una que, en manos equivocadas, podría acabar siendo catastrófica, incluso llegando a poner en peligro a algunas personas.
Imagínate recibir de manera totalmente gratuita este tipo de historias directamente en tu correo.
Te envío cada lunes a las 7am un email con toda la actualidad sobre tecnología, seguridad y negocios digitales.Me refiero a la capacidad que tiene ChatGPT de identificar información sensible de una foto dada.
Porque lo que antes requería conocimientos avanzados en investigación OSINT, ahora basta con subir una foto a ChatGPT y pedirle que te diga dónde fue tomada.
Literalmente.
Así pues, en este nuevo episodio vamos a responder tres preguntas clave:
- ¿Qué ha cambiado con la llegada de los nuevos modelos de ChatGPT?
- ¿Cómo se realizaban estas investigaciones OSINT hasta ahora?
- ¿Y por qué esto supone un riesgo real para la privacidad y la seguridad de cualquiera?
¡Empecemos!
Claro que, antes de continuar, me gustaría hacerte una pregunta:
¿Todavía no estás suscrito a este canal?
Pues hazlo ahora mismo, tanto en Youtube (ES) como en la plataforma de podcasting desde donde me escuches, para no perderte los próximos episodios.
Y es que, por si no lo sabes, subo un nuevo episodio cada semana. Y en Youtube, además, lo acompaño con vídeos cortos diarios en formato vertical en los que analizo la noticia del momento.
Vamos, que no puedo ponerte más fácil el que estés bien informado sobre todo lo que ocurre en los negocios digitales, las nuevas tecnologías y la seguridad de la información.
Dale ahora a seguir este canal, y activa la campanita para que la aplicación te avise cuando publico nuevo contenido.
…
Ah, ¿Que ya lo has hecho?
Pues, ahora sí, ¡continuemos!
Del «describe esta imagen» al «dime dónde ha sido tomada»
Hasta hace poco, cuando le pasabas una imagen a ChatGPT o a otros modelos similares, podías obtener una descripción bastante detallada.
- Si en la imagen aparecía una playa, te decía que era una playa.
- Si había un edificio emblemático, podía llegar a identificarlo.
Pero la cosa acababa ahí.
La IA, como expliqué en un episodio anterior, era capaz de obtener información limitada de los contenidos.
Y eso está genial.
El problema viene con la llegada de las últimas versiones de ChatGPT.
Las llamadas o3 y o4-mini ha roto esa barrera.
Estos modelos no solo describen lo que ven, sino que razonan a partir de ello. Analizan la imagen, hacen zoom, rotan, recortan, comparan con bases de datos visuales y lanzan hipótesis que en muchos casos aciertan con una precisión escalofriante.
Y claro, aquí empiezan los verdaderos problemas…
Estas últimas semanas, no pocos usuarios en redes sociales han compartido ejemplos en los que ChatGPT es capaz de:
- Identificar en qué ciudad está hecha una foto de calle genérica.
- Reconocer qué restaurante es por una carta o una vajilla.
- O decir, incluso, saber qué biblioteca es solo por el lomo de unos libros: Escucha:
O3 es una locura.
Le pedí a un amigo que me diera una foto al azar.
Me dieron una foto al azar que tomaron en una biblioteca.
O3 lo sabe en 20 segundos y es correcto.
Todo esto sin necesidad de que la imagen incluya metadatos ni contexto adicional.
Simplemente analizando lo que se ve en la imagen, y claro, comparándolo con los millones de datos estructurados que tiene en su dataset.
Y aunque, por supuesto, no es infalible, el número de aciertos es suficientemente alto como para preocupar.
¿Que por qué?
Pues ahora mismo lo vamos a ver:
Cómo se hacía antes: el método OSINT tradicional
Antes, este tipo de actividades tenían una barrera de entrada lo suficientemente alta como para que el grueso de la sociedad no pudiera, de forma sencilla, utilizarlo para fines maquiavélicos.
La investigación OSINT (Open Source Intelligence, por sus siglas) ha sido durante años el campo de los analistas, periodistas de investigación, detectives privados y fuerzas de seguridad.
Requería tiempo, paciencia y una metodología clara.
Por mi página, de hecho, he publicado no pocos tutoriales de cómo se realizan este tipo de investigaciones, y que se componen, en el caso de fotografías y vídeos, principalmente de tres pasos.
A saber:
Paso 1: El análisis de metadatos EXIF
No sé si lo sabes, pero cuando tú sacas una foto y vídeo, el archivo almacena, además de la propia información gráfica, información embebida que puede revelar desde el modelo de cámara usado hasta las coordenadas GPS exactas donde fue tomada.
Esta información son los llamados metadatos, que en el caso de contenido gráfico suele llamarse metadatos EXIF.
De hecho, y por razones obvias, si tienes el original, basta con pasarle alguna herramienta como ExifTool, FOCA, o Metapicz para recuperar esta información, lo que podría darnos, como te decía, hasta la geoposición exacta donde fue tomada.
Y digo el original, porque como ya expliqué hace ya un tiempo en el blog de CyberBrainers, afortunadamente la mayoría (que no todas, ojo) de las redes sociales actuales ocultan dicha información cuando subimos una foto o vídeo a su plataforma (la ocultan, ojo, que ellos bien que la guardan para aprovechar esa información y etiquetar internamente mejor dicho contenido…).
Eso y que también existen herramientas para modificar o eliminar los metadatos.
Fíjate si este tema es importante que, hace años, cuando se descubrió que el gobierno de EEUU estaba masivamente espiando no solo a los supuestos enemigos de norteamérica, sino incluso a sus aliados, y también a sus propios ciudadanos, mediante escuchas telefónicas, Michael Hayden, ahora ex director de la NSA y la CIA, llegó a decir esta frase en una entrevista que le hicieron:
Absolutamente de acuerdo. Nosotros matamos a la gente basándonos en los metadatos.
Michael Hayden, ex director de la NSA y la CIA
Hasta este nivel, este tipo de información, es crítica.
Así que, como no siempre, hoy en día, es ya posible utilizar esta vía, la investigación OSINT no podía depender solo de esto.
Lo que me lleva al Paso 2.
Paso 2: El análisis visual
Si el análisis de metadatos no tiene sus frutos, se buscan elementos identificativos en el propio contenido.
¿Que a qué me refiero?
Pues a cualquier objeto o entorno que nos de información (contextualice) sobre dónde ha podido ser tomada la foto o el vídeo.
Por ejemplo:
- Letreros, matrículas o nombres de calles.
- Arquitectura típica de ciertas zonas.
- Vegetación, clima, tipo de luz…
Y este proceso, por supuesto, podía llevar horas o días.
De hecho, GeoGuessr (ES), el juego de adivinar ubicaciones con Google Street View, se ha convertido incluso en un entrenamiento para OSINTers.
Hubo un tiempo, no hace mucho, que al menos a mi en el timeline de redes como TikTok o Instagram me salían cada poco gente realmente buena jugando a este tipo de juegos.
Le ponían una imagen sacada de Google Street View, y es increíble como algunos, en apenas unos segundos, ya identificaban la zona, más o menos, del mundo donde había sido tomada, fijándose en las señales, en la vegetación, en por dónde estaba el sol, etc etc etc.
Y del paso 2, si todavía no hemos obtenido información identificativa, pasamos al paso 3.
Paso 3: La comparación cruzada
Una vez que se tenía una hipótesis sobre la ubicación, se verifica con Google Maps, fotos de otras personas, redes sociales, etc.
Hace tiempo, de hecho, demostré cómo a partir de una simple foto, y utilizando este paso, era posible no solo identificar a las personas que salían allí, sino incluso conocer quién eran sus familiares, qué habían estudiado, y por qué zona vivían.
En ocasiones, se llega al punto de crear recorridos virtuales por calles cercanas para encontrar coincidencias.
De hecho, y esto es más una anécdota personal que otra cosa, este mismo año, en un viaje que hice con mi pareja y mi hija por trabajo a Portugal, subí una historia a mis redes sociales en la que se veía una calle larga y parte del Tesla que me estaba llevando hacia el aeropuerto. Y un buen amigo mío, Jezer Ferreira, que es coorganizador del OSINTomático, el mayor evento de OSINT de Europa, y un evento en el que ya es el segundo año que soy ponente, me escribió por privado diciéndome no solo dónde había sido tomada, sino también cuál era el vuelo que, probablemente, iba a coger esa misma mañana, calculando el tiempo que tardaría hasta llegar al aeropuerto y habiendo revisado los vuelos que salían en las siguientes horas.
Qué c4br0n4z0 el Jezer… Un saludo desde aquí :D.
Es, por tanto, algo laborioso, pero eficaz.
Y precisamente esto último es lo que ponía una barrera de entrada técnica que actuaba como freno para que cualquiera lo hiciera con fines maquiavélicos.
¿Que a qué me refiero?
Pues ahora mismo lo vamos a ver.
El fin de la barrera de entrada: cualquiera puede hacer doxing con IA
Con modelos como o3, ese proceso se ha automatizado.
Lo que antes requería habilidades concretas y muchas horas, ahora puede hacerlo cualquier persona con una suscripción de pago de ChatGPT Plus y un par de clicks.
Y claro, ahora se abre la veda a que CUALQUIERA pueda utilizar el análisis OSINT para sus propios intereses, siendo lo más dañino los ataques de doxing asociados.
¿Pero Pablo, qué es el doxing?
Pues mira, literalmente he dedicado decenas de artículos en estos últimos años a este tema, pero por definirlo, podemos decir que el doxing es el acto de exponer información privada de una persona (nombre, dirección, teléfono, etc.) sin su consentimiento.
Así lo definía en un artículo de hace ya unos cuantos años:
En un doxeo, se puede obtener desde un correo electrónico hasta las claves de una cuenta bancaria. Incluso es posible recopilar información de toda una vida revisando paso a paso las huellas dejadas por la víctima (y sus allegados):
Nombres y apellidos, edad, ocupación, dirección, cuentas bancarias y de Internet, redes sociales, números de teléfono, intervenir correos, mensajes privados, SMS, documentos de identidad, padres, hermanos, esposa, hijos, relación sentimental, fotos de su casa, créditos hipotecarios, matrícula del coche, seguro social y mucho, mucho más. Todo lo que se le ocurra.
Pablo F. Iglesias en un artículo tutorial sobre el doxing en su blog PabloYglesias.com
Hasta ahora, identificar la dirección de una persona a partir de una foto requería conocimientos y mucho trabajo.
Ahora basta con:
- Hacer un pantallazo a una story de Instagram.
- Subírsela a ChatGPT.
- Y preguntarle dónde ha sido tomada.
Ya está.
En muchos casos, el modelo es capaz de acertar con más o menos precisión.
Lo suficientemente cerca como para que alguien con malas intenciones siga el resto del camino.
Y claro, esto abre la veda a situaciones comprometedoras, como pueden ser:
- Influencers localizados a partir de una simple foto de calle que subieron desde su casa.
- Deportistas reconocidos por una señal de tráfico o el diseño de una farola.
- O personas anónimas que suben una foto con sus hijos en un parque, y sin saberlo están mostrando al mundo su ubicación.
Recalco que hay que pensar en el impacto que puede llegar a tener esto para la seguridad de todos nosotros, más si eres una persona pública.
De pronto, cualquiera con el tiempo suficiente, sin necesitar conocimientos técnicos, podría doxear a un tercero y plantarse en su casa o la zona habitual de trabajo para Dios sabe qué…
Lo más preocupante: no hay soluciones sencillas
Y aquí quería llegar, porque podrías pensar que hay formas de evitar esto.
Pero, es que, en realidad, las herramientas tradicionales de protección ya no sirven:
- ¿Borrar los EXIF? Pues no soluciona nada si la IA razona a partir del contenido visual.
- ¿No etiquetar la ubicación en redes? Tampoco sirve de mucho si la propia imagen lo delata.
- ¿Difuminar partes de la imagen puede ayudar? pero a menudo la IA se apoya en elementos que ni siquiera consideras relevantes. Y es más: Ya te expliqué en un informe exclusivo para miembros del Club Negocios Seguros de hace unas semanas cómo la mayoría de sistemas de pixelado de fotos y vídeos… son fácilmente bypasables con herramientas de IA que reconstruyen lo que hay debajo…
La privacidad digital está, por tanto, en jaque.
Y ni siquiera OpenAI ha ofrecido, hasta la fecha, soluciones claras o limitaciones a estas funcionalidades.
Algo que, por cierto, sí hicieron al principio cuando se demostró que la IA podía ser usada para otras actividades ilícitas como la creación de malware o campañas de phishing…
Reflexiones finales: entre el asombro tecnológico y la preocupación ética
Como consultor de reputación digital, me dedico precisamente a ayudar a personas y empresas a proteger su identidad y presencia online.
Y sí, me alucina ver de lo que es capaz una herramienta como ChatGPT hoy en día.
Pero también me preocupa profundamente lo que esto implica para la seguridad de cualquiera.
Estamos, por tanto, ante una nueva etapa donde:
- La barrera de entrada al OSINT se ha derrumbado.
- El doxing ya no es cosa de expertos.
- Y cualquiera puede hacer un daño irreparable con una simple imagen y una IA potente.
Estos tres puntos deberían obligarnos a repensar, cuanto menos, nuestras estrategias de privacidad.
A revisar lo que compartimos online.
Y a exigir a las plataformas tecnológicas que se responsabilicen también de los riesgos que crean.
Nos jugamos, literalmente, la seguridad, también FÍSICA, de nosotros mismos y del resto de nuestra familia.
No es, por tanto, una broma.
Hablamos de algo profundamente importante para nuestra supervivencia…
Y ahora te pregunto a ti:
- ¿Qué opinas sobre que cualquiera pueda identificar dónde vives con una simple foto?
- ¿Crees que debería haber limitaciones en el uso de la IA para este tipo de tareas?
- ¿Estás revisando lo que publicas online desde otra perspectiva tras leer esto?
Puedes dejarme tus respuestas en comentarios o escribirme directamente. Hablemos de cómo protegernos en esta nueva era digital donde, cada vez más, lo privado es público sin que nos demos cuenta.
Sobre el videopodcast enCLAVE DIGITAL
enCLAVE DIGITAL es el videopodcast de Pablo F. Iglesias, consultor especializado en ayudar a referentes a blindar su reputación, diversificar y escalar su autoridad como marca.
Me puedes leer y escuchar en www.pabloyglesias.com (recuerda que la primera Y de «Yglesias» es «Y griega», que si no me confundís con otro), y me puedes escribir a contacto(at)pabloyglesias.com.
Si este contenido te sirve para estar bien informado sobre la actualidad en materia de negocios digitales, reputación y tecnología, te agradecería que le dieras a suscribirte en mi canal de Youtube o en la plataforma de podcasting desde donde me escuchas, le des a Me Gusta, al botón de hype de Youtube, me dejes un comentario o reseña y lo compartas con aquellos a los que les pueda interesar.
¡Seguimos!
Si utilizas otra plataforma de podcasting, busca «enCLAVE DIGITAL« en la app para localizarlo, o visita la página del videopodcast, donde ofrezco enlaces directos a las principales plataformas actuales:
