Durante años, la regla práctica para detectar un correo fraudulento fue casi infantil: si tenía faltas de ortografía, frases raras o un saludo genérico, era phishing. Esa heurística acaba de morir. La IA generativa permite a los atacantes redactar mensajes impecables, en cualquier idioma y con el tono exacto de tu banco o de tu jefe. Este artículo —el primero de la serie Enfoque Ofensivo: el lado oscuro de la IA— explica cómo cambió la amenaza y, sobre todo, cómo defenderse cuando la gramática ya no sirve de pista.
Enfoque. Este es un artículo de concienciación y defensa. Describe cómo operan los atacantes para que puedas reconocer y frenar el fraude, no para reproducirlo.
1. Por qué la vieja pista dejó de funcionar
Los correos de phishing “clásicos” se escribían a menudo con traductores automáticos o por personas que no dominaban el idioma de la víctima. El resultado eran los errores que todos aprendimos a detectar. Un modelo de lenguaje elimina ese ruido de un plumazo:
- Redacta en español neutro o chileno sin un solo error.
- Imita el tono corporativo de un banco, una AFP o el área de TI.
- Personaliza el mensaje con datos públicos (LinkedIn, la web de la empresa) para que parezca legítimo.
- Produce decenas de variantes del mismo engaño en segundos.
El filtro mental “si está mal escrito, es falso” ahora juega en contra: un correo perfecto ya no es señal de que sea legítimo.
2. Las tres caras del fraude potenciado por IA
2.1 Correos y mensajes impecables (spear phishing a escala)
El spear phishing —el ataque dirigido y personalizado— solía ser caro: requería que un humano investigara a la víctima y redactara con cuidado. La IA industrializa ese trabajo. Un atacante puede pedirle a un modelo que combine datos públicos de un empleado con la plantilla de un proveedor real y genere un correo creíble, listo para enviar. Lo que antes era artesanal hoy es masivo.
2.2 Clonación de voz y video (deepfakes)
Aquí está el salto más inquietante. Con pocos segundos de audio —una entrevista, un webinar, una nota de voz reenviada— se puede clonar la voz de un directivo. El guion típico del fraude:
Una llamada o nota de voz del “gerente de finanzas”, con su voz y su forma de hablar, pide a un colaborador una transferencia urgente a un proveedor nuevo “antes de que cierre el banco”.
Ya hay casos documentados de empresas que transfirieron grandes sumas tras una videollamada en la que varios de los participantes eran deepfakes. La presión de autoridad + urgencia + una voz reconocible rompe la guardia de casi cualquiera.
2.3 Estafas automatizadas de punta a punta
Combinando lo anterior con chatbots, el atacante automatiza la conversación completa: el modelo responde dudas de la víctima, mantiene el tono, sortea objeciones y empuja hacia el pago o la entrega de credenciales, las 24 horas y en miles de conversaciones en paralelo.
3. Entonces, ¿en qué nos fijamos ahora?
Si la forma (gramática, diseño) ya no delata el fraude, la defensa se mueve al contexto y al proceso:
- El canal y la urgencia. Casi todo fraude explota la prisa. Una petición urgente de dinero, credenciales o datos —por el canal que sea— es la señal de alarma, no la ortografía.
- Verificación por un segundo canal. ¿Te “llamó” el gerente pidiendo una transferencia? Cuelga y llámalo tú a su número conocido. Una voz —aunque suene idéntica— ya no prueba identidad.
- Palabra clave / código de verificación. Acordar una palabra de seguridad para operaciones sensibles entre finanzas y dirección anula la clonación de voz.
- El dominio y los enlaces, no el texto. Pasar el cursor sobre el enlace, revisar el dominio real del remitente y desconfiar de dominios parecidos (typosquatting) sigue siendo efectivo.
- La regla “ningún pago sin doble control”. Procesos, no heroísmos individuales.
Cambio de mentalidad. Enseñábamos a "detectar el correo mal escrito". Hay que reemplazarlo por "verificar toda petición sensible por un segundo canal, sin importar qué tan creíble parezca". La confianza ya no puede basarse en la forma.
4. Qué puede hacer la organización
- Reentrenar la concienciación. Actualizar las campañas de awareness: mostrar ejemplos de phishing perfecto y de deepfakes, no solo los correos torpes de hace años.
- Simulacros realistas. Simulaciones de phishing que reflejen la nueva calidad del ataque, incluido el vishing (fraude por voz).
- Controles de proceso en finanzas. Doble aprobación, verificación fuera de banda y límites para pagos a proveedores nuevos.
- MFA resistente a phishing. Preferir llaves de seguridad (FIDO2/passkeys) frente a los códigos SMS/OTP, que se pueden capturar en tiempo real.
- Tecnología de apoyo. Filtros de correo con análisis de intención y detección de suplantación (DMARC, DKIM, SPF bien configurados).
5. Conclusión
La IA generativa no inventó el phishing: le quitó sus defectos. Desaparecieron las faltas de ortografía, llegaron las voces clonadas y las estafas se volvieron masivas y personalizadas a la vez. La buena noticia es que la defensa de fondo no cambió: verificar por un segundo canal, desconfiar de la urgencia y apoyarse en procesos, no en la intuición sobre cómo “se ve” un mensaje. En TitanSec incorporamos estos escenarios —phishing impecable y deepfakes— a los materiales de concienciación, porque el eslabón humano sigue siendo el objetivo.
En el próximo artículo de la serie: el malware polimórfico que usa IA para cambiar de forma y esquivar a los antivirus.
Fuentes
- Engineering giant Arup lost $25 million to a deepfake scam — Business Insider (caso real de fraude con deepfake en videollamada, Hong Kong, 2024)
- OWASP Top 10 for LLM Applications — OWASP GenAI Security Project (contexto de amenazas con IA generativa)
- Cost of a Data Breach 2026 — IBM (impacto económico del fraude y la ingeniería social)