WormGPT: La peligrosa herramienta de inteligencia artificial que usan los ciberdelincuentes para ataques de correo electrónico empresarial
La inteligencia artificial (IA) ha avanzado mucho, y una de sus aplicaciones, como ChatGPT de OpenAI, ha creado una nueva forma de ataques de correo electrónico empresarial (BEC). ChatGPT es un sofisticado modelo de IA que genera texto similar al humano según la información que recibe. Los ciberdelincuentes pueden usar esta tecnología para crear correos electrónicos falsos altamente convincentes y personalizados para cada destinatario, lo que aumenta las posibilidades de éxito en el ataque.
Recientemente, se ha detectado un hilo de discusión en un foro de ciberdelincuencia donde se mostraba el potencial de utilizar la IA generativa para perfeccionar correos electrónicos destinados a ataques de phishing o BEC. Se recomendaba redactar el correo en el idioma nativo, traducirlo y luego introducirlo en una herramienta como ChatGPT para mejorar su sofisticación y formalidad. Esto implica que los ciberdelincuentes ahora pueden fabricar correos electrónicos persuasivos incluso si no dominan el idioma en cuestión.
Los ciberdelincuentes están buscando maneras de “jailbreak” o romper la seguridad de interfaces como ChatGPT para generar resultados no deseados, como la divulgación de información confidencial o la ejecución de código dañino. Esto representa un desafío para mantener la seguridad de la IA frente a estos actores maliciosos.
Además, se ha observado que los ciberdelincuentes están creando sus propios módulos personalizados similares a ChatGPT, pero más fáciles de usar para actividades maliciosas. La ciberseguridad se está volviendo más desafiante debido a la creciente complejidad y adaptabilidad de estas acciones en un mundo moldeado por la IA.
WormGPT es una de estas herramientas maliciosas que hemos descubierto. Es un módulo de IA basado en el modelo GPTJ y diseñado específicamente para actividades maliciosas. Hemos probado WormGPT en ataques BEC y los resultados fueron inquietantes, ya que produjo correos electrónicos persuasivos y astutos que podrían engañar a personas desprevenidas.
El uso de IA generativa para ataques BEC ofrece ventajas a los ciberdelincuentes, como una gramática impecable en los correos electrónicos, lo que los hace parecer más legítimos y menos sospechosos. Además, reduce el umbral de entrada para llevar a cabo ataques sofisticados, permitiendo que incluso ciberdelincuentes novatos utilicen esta tecnología.
Para protegerse contra estos ataques, es esencial implementar medidas preventivas sólidas. Las empresas deben capacitar a sus empleados específicamente en la detección y prevención de ataques BEC impulsados por IA, actualizando regularmente sus conocimientos. También es necesario aplicar procesos de verificación de correo electrónico mejorados que alerten sobre correos sospechosos y apliquen filtros para detectar palabras clave vinculadas a ataques BEC.
En resumen, la IA generativa como WormGPT representa una grave amenaza en manos de ciberdelincuentes. La ciberseguridad debe adaptarse para enfrentar estos nuevos desafíos y protegerse contra los ataques de correo electrónico empresarial impulsados por IA.