Ciberseguridad e IA: el desafío ya no es solo del área técnica
La IA bajó la barrera de entrada al cibercrimen: deepfakes, malware que muta solo y shadow AI golpean a empresas de cualquier tamaño. Qué cambió y qué hacer.
Primera entrega de una serie de cinco sobre la intersección entre inteligencia artificial y ciberseguridad. Acá ponemos el marco; en las próximas bajamos a controles concretos.
En enero de 2024, un empleado del área de finanzas de la firma de ingeniería Arup se sumó a una videollamada con su CFO y varios colegas. Reconoció las caras, reconoció las voces. Siguió la instrucción y autorizó quince transferencias por un total de 25,6 millones de dólares en un solo día. Ninguna de las personas en esa llamada era real: todas eran recreaciones generadas por IA. El caso, confirmado por la propia Arup ante CNN, es hoy uno de los fraudes por deepfake mejor documentados del mundo.
Lo relevante de esa historia no es la cifra. Es que ningún sistema fue “hackeado” en el sentido clásico. No hubo exploit, no hubo malware, no se rompió un firewall. Se rompió la confianza de una persona. Y ese es exactamente el cambio que trajo la IA: la inteligencia artificial no creó amenazas nuevas, bajó la barrera de entrada para ejecutarlas, y eso convierte la ciberseguridad en un problema de toda la organización, no solo del área técnica.
Lo que cambió: ya no hace falta ser experto
Hasta hace poco, montar un ataque sofisticado exigía conocimiento técnico real: escribir código, entender protocolos, sostener una operación. La IA generativa movió ese piso. Hoy, herramientas accesibles permiten clonar una voz con segundos de audio, generar un video falso convincente o redactar un correo de phishing sin un solo error de gramática.
La consecuencia económica ya es medible. Deloitte proyecta que las pérdidas por fraude facilitado con IA generativa en Estados Unidos pasarán de 12.300 millones de dólares en 2023 a 40.000 millones para 2027, una tasa de crecimiento anual compuesta del 32% (Deloitte Center for Financial Services). No es una curva que se aplane sola.
A continuación, tres frentes concretos que ya impactan a empresas de cualquier tamaño.
1. El deepfake dejó de ser una curiosidad
El caso Arup no es un evento aislado, es el ejemplo visible de una categoría. La mecánica se repite: un correo de spear-phishing que suplanta a un ejecutivo, seguido de una videollamada o un audio falso que valida la urgencia y saltea los controles humanos de verificación.
El punto que un equipo técnico necesita internalizar es este: el deepfake no ataca tu infraestructura, ataca tu proceso de aprobación. Si una transferencia importante puede dispararse porque “el CFO lo pidió por videollamada”, el control que falta no es de red. Es un segundo canal de verificación que no dependa de reconocer una cara o una voz.
2. Malware que se reescribe a sí mismo
El segundo frente es más técnico. Los modelos de lenguaje pueden generar código funcionalmente equivalente que se ve distinto en cada iteración. Aplicado a malware, eso erosiona la detección por firma: si el binario muta, la firma estática deja de servir.
Esto ya salió del terreno teórico. La firma SentinelOne documentó MalTerminal, una de las primeras muestras conocidas de malware con capacidad de generar payloads en tiempo de ejecución usando un modelo GPT. ESET, por su parte, publicó el análisis de PromptLock, una prueba de concepto de ransomware impulsado por IA. Son señales tempranas, no una epidemia — y esa distinción importa (volvemos sobre eso al final).
La defensa acá no es nueva en concepto, pero sí en prioridad: si tu detección depende solo de firmas, llegás tarde. El análisis de comportamiento y la observabilidad de lo que un proceso hace —no de cómo se ve— pasan de ser deseables a ser la línea base.
3. Shadow AI: la fuga que viene de adentro
El tercer frente no es un atacante. Son tus propios equipos. Shadow AI es el uso de herramientas de IA sin aprobación ni control de IT: alguien pega un contrato en un chatbot público para resumirlo, o sube código propietario a un asistente para depurarlo. Sin mala intención, datos sensibles salen del perímetro.
Los números del informe Cost of a Data Breach 2025 de IBM son contundentes:
| Hallazgo (IBM, 2025) | Dato |
|---|---|
| Organizaciones con brechas ligadas a shadow AI | 1 de cada 5 (20%) |
| Costo extra promedio por shadow AI | hasta USD 670.000 |
| Organizaciones sin política de gobernanza de IA (o en desarrollo) | 63% |
| Brechas de IA donde faltaban controles de acceso adecuados | 97% |
Este frente conecta directo con el OWASP Top 10 para Aplicaciones LLM 2025, que ubica la divulgación de información sensible (Sensitive Information Disclosure) y la agencia excesiva (Excessive Agency) entre los diez riesgos principales. Traducido: cuando una herramienta de IA tiene más acceso del que necesita y nadie auditó qué entra y qué sale, la fuga es cuestión de tiempo.
Qué hacer: tres movimientos concretos
La reacción correcta no es prohibir la IA —eso solo empuja el uso a las sombras y agrava el shadow AI—. Es gobernarla.
1. Adoptar un modelo Zero Trust real. “No confiar por defecto” no es un eslogan: es un marco con definición formal en el estándar NIST SP 800-207. Ningún acceso se asume legítimo por venir de adentro de la red o por “parecer” el CFO. Cada acción se verifica, cada permiso es explícito y mínimo. El caso Arup se hubiera frenado con un solo control fuera de banda.
2. Capacitar en ciberhigiene básica. El eslabón que se rompió en Arup fue humano, y los datos de IBM muestran que la mayoría de las organizaciones todavía no tiene gobernanza de IA. Un equipo que sabe que una voz se clona en segundos verifica por otro canal antes de transferir. La capacitación es control de seguridad, no un trámite de RRHH.
3. Usar la IA también en defensa. La misma tecnología sirve del otro lado: detección de patrones anómalos, análisis de comportamiento en tiempo real, monitoreo que correlaciona señales que un humano no alcanza a ver. La asimetría solo se cierra peleando con herramientas equivalentes.
Dónde está realmente el riesgo
Una aclaración de quien lo construye, porque el tema se presta a la exageración, y conviene separar dos cosas que el alarmismo mezcla. El malware construido con IA ya es real y avanzado: en enero de 2026, Check Point Research documentó VoidLink, un framework de malware para Linux de más de 88.000 líneas escrito casi enteramente por IA bajo la dirección de una sola persona, en menos de una semana —lo que antes habría llevado meses y varios equipos—. El malware totalmente autónomo que muta solo y es indetectable, en cambio, sigue siendo más titular que realidad operativa. La amenaza concreta de 2026 no es una IA atacando sola: es una persona común con la capacidad de un equipo entero, y sobredimensionar el robot imparable distrae del riesgo que sí está golpeando ahora.
Y ese riesgo, en los tres frentes, es el mismo: procesos y personas, no magia tecnológica. El deepfake explota un proceso de aprobación débil. El shadow AI explota la ausencia de gobernanza. El malware con IA explota una detección que todavía mira firmas en vez de comportamiento. La IA amplifica la escala y baja el costo del ataque, pero las puertas que abre son las que ya estaban mal cerradas.
Por eso la ciberseguridad dejó de ser responsabilidad exclusiva del área técnica. Cuando el vector de entrada es una videollamada creíble o un empleado bienintencionado, la defensa empieza mucho antes del firewall: en cómo la organización decide, verifica y entrena. Esa es la mentalidad con la que diseñamos cada implementación en Nexarys: la seguridad no es un add-on, es parte del diseño desde el día cero.
En la próxima entrega de esta serie bajamos del marco a los hechos: los cuatro vectores concretos con los que la IA ya se usa para atacar, con casos documentados de 2024 a 2026.