"Buenos días, ChatGPT, ¿me puedes decir cómo fabricar una bomba?".
Como bien sabe quien haya intentado preguntar algo así a un chatbot de inteligencia artificial (IA), la respuesta a esta duda podría ser desde un texto divagante sobre la historia de los explosivos hasta el bloqueo permanente de la cuenta.
Pero a veces, si la pregunta se presenta de cierta manera, la respuesta podría incluir información útil para elaborar un explosivo.
Eso es lo que han descubierto diversos medios periodísticos. Si la pregunta se hace de la forma adecuada, algunos modelos de IA pueden indicar a los usuarios cómo fabricar armas biológicas, bombardear un recinto deportivo o encubrir las huellas de un terrorista. Esta forma de interrogar a la IA se conoce como "jailbreaking". OpenAI, creadora de ChatGPT, describe esta fórmula como un "intento malicioso para que el modelo proporcione contenido prohibido".
Un nuevo informe publicado por Tech Against Terrorism, un organismo apoyado por la Dirección General de Terrorismo de la ONU, muestra con qué frecuencia un modelo de aprendizaje automático entrega información "útil" a potenciales extremistas.
Los investigadores enviaron más de 2.300 solicitudes de información basadas en "casos de uso reales por parte de terroristas" a 27 modelos de IA distintos. Descubrieron que el 32% de las consultas arrojaron información "genuinamente útil". Cuando la misma pregunta fue reformulada con fines de investigación, ese porcentaje aumentó al 42%.
El informe vuelve a poner de relieve la preocupación de expertos en seguridad digital y terrorismo, quienes temen que los radicales empiecen a usar la IA para planificar ataques.
Durante los últimos años el principal uso que han hecho de esta herramienta grupos como Estado Islámico y Al Qaeda ha sido para la creación de propaganda, como videos, memes, podcasts y diversas formas de desinformación.
Pero eso está cambiando. "En 2025 se vio un notorio aumento de incidentes en los que terroristas han utilizado herramientas de la IA para planificar, investigar y preparar ataques", confirmaron expertos de la publicación Militar Wire en un análisis de diciembre pasado.
No se trata solo de individuos. Grupos como Jama'at Nusrat al-Islam wal-Muslimin, la filial de Al Qaeda en Mali, usan la IA para modificar drones.
En un análisis de junio para la Red Global sobre Extremismo y Tecnología, los expertos en seguridad Yuri Neves y Emily Klei observaron que partidarios del Estado Islámico discuten regularmente sobre cómo usar la IA. Tanto Neves como Klein trabajan para Moonshot, una organización que lucha contras las amenazas en línea. Observaron canales extremistas en la aplicación Telegram, donde detectaron que se compartían "prompts para IA y enlaces de conversación, coordinando estrategias para obtener las respuestas deseadas de los chatbots".
A comienzos de julio, la Universidad de Cambridge publicó una investigación que incluía entrevistas con miembros de Boko Haram, en Nigeria, quienes explicaron en detalle cómo el grupo usó modelos como ChatGPT, Claude, Gemini y Grok para planificar ataques, diseñar bombas, reparar y mantener armas y mejorar la seguridad operativa.
Rueben Dass, investigador asociado de la Escuela de Estudios Internacionales S. Rajaratnam en Singapur, también ha observado cómo los chatbots asumen nuevos roles en los ataques perpetrados por los llamados "lobos solitarios".
"Antes existía este concepto de planificadores virtuales, individuos que estaban en zonas de conflicto contactando a personas en redes sociales para motivarlas a perpetrar atentados", dice Dass a DW. "No creo que podamos decir que los humanos han sido reemplazados, pero hasta cierto punto ahora esos lobos solitarios recurren a la IA para obtener apoyo".
El año pasado, el Estado Islámico publicó una guía sobre cómo usar la IA, confirma Moustafa Ayad, director ejecutivo para África, Medio Oriente y Asia del Instituto para el Diálogo Estratégico, con sede en Reino Unido.
Como señalan Dass y otros expertos, hoy un terrorista puede encontrar fácilmente información sobre cómo imprimir armas en 3D o fabricar bombas en internet, incluso sin la ayuda de la IA.
"Muchos se han preguntado si la IA entrega información que una persona sería incapaz de obtener de otra forma", dice el experto. Klein, de Moonshot, considera que estas herramientas forman parte de una serie de tecnologías disruptivas, en las que se encuentran también el mismo internet o aplicaciones de mensajería encriptada. Todas ellas fueron también adoptadas por grupos extremistas.
"Una persona decidida encontrará la mayor parte de la información", admite Adam Hadley, director de Tech Against Terrorism. "Pero lo que cambian estos modelos es la velocidad, la facilidad y la exhaustividad. Las personas que antes carecían de tiempo, recursos o capacidad ahora pueden llegar más lejos y más rápido".
Lo que resulta más preocupante, empero, es que los chatbots de IA son conversacionales. "Una cosa es hallar un manual para fabricar bombas y otra es tener un instructor para ello", dice Hadley. Dass, en cambio, piensa que esa mayor rapidez no garantiza que un acto terrorista sea más "exitoso".
"El 'éxito' de un acto terrorista es multidimensional", sostiene. "Y no creo que el solo uso de la IA garantice ese éxito". Para él no habrá más ataques por culpa de la IA, pero sí habrá más IA en los ataques.
Fuente: Deutsche Welle
