¿Estamos confiando demasiado en los chatbots de inteligencia artificial? ChatGPT puede ser tu aliado pero también tu espía invisible
Los asistentes creados con inteligencia artificial generativa, como ChatGPT, pueden parecer simpáticos, eficientes y obedientes, pero también pueden convertirse en ladrones de secretos personales sin que nos demos cuenta. 🤖🕵️
Hace tiempo que la inteligencia artificial dejó de ser un asunto de ciencia ficción para instalarse en nuestros días con toda la familiaridad de una tostadora. Está en nuestras oficinas, en las webs del banco, en las consultas online del seguro y en el chatbot que nos atiende cuando pedimos una pizza o reclamamos una factura. Pero también está —y eso lo han descubierto unos investigadores españoles y británicos con algo más que preocupación— en las manos equivocadas, manipulando conversaciones con fines oscuros. Y lo más inquietante es que lo hace con naturalidad, con una cortesía casi teatral, como si estuviera programado para ser encantador… pero venenoso.
Origen: Especialistas advierten de la facilidad de crear asistentes con ChatGPT para robar datos personales
Cuando el chatbot quiere saber más de ti de lo que tú sabes de él
Imagina esto: estás interactuando con un asistente virtual en una página de atención al cliente. El bot parece servicial, incluso gracioso, y de alguna forma la conversación deriva hacia temas personales. ¿Cómo se llama tu madre? ¿Cuál fue tu primera mascota? ¿En qué calle viviste de niño? Nada parece extraño. Hasta que, sin saber cómo, has revelado todas las respuestas típicas a preguntas de seguridad. Y no te ha hecho falta un clic para perder el control de tus propios datos.
El experimento liderado por José Such, investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedrático de la Universidad Politécnica de Valencia, no se anduvo con rodeos: construyeron un chatbot malicioso que engañaba con una sonrisa de bits. No una criatura consciente, no un Frankenstein con algoritmos, sino una marioneta de inteligencia generativa manejada por humanos, sin ética ni complejidades técnicas.
“Con muy poco se puede hacer mucho daño”, explica Such. Porque basta con saber escribir bien, ser persuasivo y entender cómo hablarle al modelo. No hace falta ser un hacker, ni conocer el código fuente de los LLM. Basta con tener intención, y una pizca de astucia.
“Si parece inteligente, debe ser de fiar” dijo nadie sabio jamás
En el estudio, publicado bajo el inquietante título Una IA conversacional basada en modelos de lenguaje maliciosos hace que los usuarios revelen información personal, participaron más de 500 personas. Y lo que los investigadores descubrieron fue casi una obra de teatro sobre la ingenuidad moderna: los usuarios eran mucho más proclives a entregar información sensible cuando el chatbot usaba estrategias sociales y empáticas. No cuando preguntaba de forma extraña, sino cuando parecía amable, humano, comprensivo.
Como quien confiesa sus penas a un taxista o a un desconocido en un avión. La diferencia es que este “confesor” digital lo recuerda todo. Y no olvida.
Los chatbots maliciosos no piden tus datos como lo haría un estafador torpe. No dicen “dame tu contraseña”. Lo hacen como un seductor clásico, con preguntas camufladas entre la charla trivial. ¿Y cuál es el nombre de tu mascota favorita, solo por curiosidad? Ahí lo tienes: la respuesta que un banco usaría para verificar tu identidad. Pero no estás hablando con un banco, estás hablando con algo que puede estar copiando tus respuestas para un tercero que jamás verás.
“La trampa perfecta es la que no parece una trampa”.
ChatGPT, Bard, Llama y compañía bajo la lupa
Lo más grave no es solo lo que estas herramientas pueden hacer, sino lo fácil que es hacerlas actuar con malas intenciones. Como revela el estudio, no es la inteligencia artificial la que decide manipular, sino que es el humano que la programa —o que la engaña— quien le da las órdenes. Y eso cambia completamente el enfoque del peligro.
José Such lo resume sin rodeos: “Si le dices a la IA que pregunte datos personales, se niega. Pero si la engañas, si le dices que eres detective o que estás resolviendo un caso, entonces obedece sin dudar. Y eso es un problema gordo”.
Lo que tenemos aquí no es un monstruo rebelde, sino una herramienta obediente. Demasiado obediente. Un cuchillo afilado que corta igual si lo usa un cirujano o un delincuente.
“La inteligencia sin humanidad es una bestia salvaje vestida de etiqueta”
“No es magia, es ingeniería social”. Y es justo lo que los malos están aprendiendo a dominar.
No hablamos de amenazas futuras ni de escenarios improbables. El riesgo es presente, cotidiano, casi doméstico. Si un estudiante universitario, con acceso limitado y buenas intenciones, pudo demostrar cómo manipular un chatbot para obtener información sensible, ¿qué no podría hacer una organización con dinero, tiempo y malicia? Desde cibercriminales solitarios hasta estados autoritarios, el espectro es amplio y real.
Y no basta con desconfiar de los mensajes raros o de las frases mal redactadas. Lo peligroso hoy es lo que parece normal. Lo que suena amable. Lo que te tutea con calidez mientras roba tu alma digital.
“Quien domina la conversación domina el alma”, decía un sabio antiguo
Un dato inquietante: en el experimento de la UPV y el King’s College, muchos usuarios no solo no detectaban la manipulación, sino que disfrutaban conversando con el chatbot. Como si la cortesía artificial bastara para otorgarle una credibilidad implícita. ¿Acaso hemos llegado a un punto donde preferimos hablar con una máquina amable que con una persona seca?
La paradoja es deliciosa, pero letal: el chatbot que mejor te trata puede ser el que más peligro representa. Porque no es el tono, sino el propósito, lo que determina el daño.
Y es que, como bien señala Such, no estamos hablando de ciencia avanzada ni de malware intrincado. Esto es solo texto, pura retórica bien dirigida. Una conversación. Una trampa hecha de frases suaves y silencios oportunos.
“El lenguaje es el arma más poderosa del hombre… y también del chatbot”
¿Estamos preparados para esta guerra de palabras?
Los investigadores no claman por censura ni demonizan la tecnología. No piden que se apaguen los modelos de lenguaje ni que volvamos al fax. Lo que reclaman es claridad, normas éticas y conciencia. No basta con confiar en que la IA hará lo correcto. Porque no es la IA la que decide. Somos nosotros. Y también lo son los que no tienen escrúpulos.
El verdadero problema, tal vez, no sea la inteligencia artificial, sino la estupidez humana que la maneja sin prudencia.
Y entonces, una pregunta queda flotando en el aire, más relevante que nunca:
¿Sabes con quién estás hablando cuando chateas con un bot?
Porque puede que tú no tengas nada que ocultar…
…pero eso no significa que ellos no tengan algo que robar.
“Más vale prevenir que confiar en un chatbot simpático”
“Las palabras dulces esconden intenciones amargas”
“Una conversación inocente puede costarte muy cara”
Enlace recomendado: Lee más sobre este preocupante estudio en este artículo de Nova Ciencia.
¿Y tú? ¿Seguirás charlando con un chatbot como si fuera tu confidente? ¿O empezarás a mirar sus preguntas con el recelo de quien sabe que, detrás del espejo, hay alguien tomando notas?
