IA en Phishing: ¿Se benefician más los atacantes o los defensores?

A medida que ha crecido el cibercrimen, la industria de la ciberseguridad ha tenido que adoptar tecnología punta para mantenerse al día.

La inteligencia artificial (IA) se ha convertido rápidamente en una de las herramientas más útiles para detener los ataques cibernéticos, pero los atacantes también pueden beneficiarse de ella.

El phishing es con mucho, el tipo de delito cibernético más común en la actualidad y ante las tendencias más recientes de phishing son un excelente ejemplo de ambos lados del problema.

A medida que más empresas se han dado cuenta de esta creciente amenaza, más han implementado herramientas de IA para detenerla. Sin embargo, los ciberdelincuentes también están aumentando el uso de la IA en el phishing.

Demos un vistazo más cercano a cómo ambas partes usan esta tecnología e intentemos comprender quién se puede beneficiar más de ella.

¿Cómo la IA puede ayudar a combatir el phishing?

Los ataques de phishing se aprovechan de la tendencia natural de las personas hacia la curiosidad y el miedo.

Debido a que esta ingeniería social es tan efectiva, una de las mejores formas de protegerse contra ella es asegurarse de que no la vea en primer lugar. Ahí es donde entra la IA.

Las herramientas de IA contra el phishing generalmente vienen en forma de filtros de correo electrónico avanzados. Estos programas escanean sus mensajes entrantes en busca de signos de intentos de phishing y automáticamente envían correos electrónicos sospechosos a la carpeta de correo no deseado.

Algunas soluciones más nuevas pueden detectar correos electrónicos de phishing con un 99,9 % de precisión al generar diferentes versiones de mensajes fraudulentos basados en ejemplos reales para entrenarse a sí mismos para detectar variaciones.

A medida que los investigadores de seguridad detectan más correos electrónicos de phishing, pueden proporcionar más datos a estos modelos, haciéndolos aún más precisos.

Las capacidades de aprendizaje continuo de AI también ayudan a refinar los modelos para reducir los falsos positivos.

La inteligencia artificial también puede ayudar a detener los ataques de phishing cuando haces clic en un enlace malicioso.

El software de monitoreo automatizado puede establecer una línea base de comportamiento normal para detectar anomalías que probablemente surgirán cuando alguien más use la cuenta.

Luego pueden bloquear el perfil y alertar a los equipos de seguridad antes de que el intruso cause demasiado daño.

¿Cómo los atacantes usan la IA en el phishing?

El potencial de AI para detener los ataques de phishing es impresionante, pero también es una herramienta poderosa para generar correos electrónicos de phishing. A medida que la IA generativa como ChatGPT se vuelve más accesible, los ataques de phishing son más efectivos.

Spearphishing, utiliza datos personales para crear mensajes específicos del usuario, es uno de los tipos de phishing más efectivos.

Un correo electrónico que obtenga toda la información personal correctamente será, naturalmente, mucho más convincente.

Sin embargo, estos mensajes han sido tradicionalmente difíciles y lentos de crear, especialmente a gran escala. Pero este ya no es un gran problema con la IA generativa.

La AI puede generar cantidades masivas de mensajes de phishing personalizados en una fracción del tiempo que le tomaría a un ser humano. También es mejor que la gente escribiendo falsificaciones convincentes.

En un estudio de 2021, los correos electrónicos de phishing generados por IA registraron tasas de clics significativamente más altas que las que escribieron los humanos y eso fue antes del lanzamiento de ChatGPT.

Así como los especialistas en marketing usan la IA para personalizar sus campañas de contacto con los clientes, los ciberdelincuentes pueden usarla para crear mensajes de phishing efectivos y específicos para el usuario.

A medida que la IA generativa mejora, estas falsificaciones cada vez se volverán mucho más convincentes.

Los atacantes se aprovechan más de la IA, gracias a las debilidad humana

Con atacantes y defensores aprovechando la IA, ¿Qué lado ha logrado extraer más beneficios de su uso? Si observas las tendencias recientes de ciberdelincuencia, verás que los ciberdelincuentes han prosperado a pesar de las protecciones más sofisticadas.

Los ataques de compromiso de correo electrónico empresarial aumentaron un 81 % en la segunda mitad de 2022 y los empleados abrieron el 28 % de estos mensajes.

Eso es parte de un aumento del 175 % a más largo plazo en los últimos dos años, lo que sugiere que el phishing está creciendo más rápido que nunca.

Estos ataques también son efectivos y roban alrededor de más de 15.000 € por minuto, por lo que probablemente estén detrás del 91% de los ataques cibernéticos.

¿Por qué ha crecido tanto el phishing a pesar de que la IA ha mejorado las protecciones antiphishing? Es probable que se reduzca al elemento humano. Los empleados deben usar estas herramientas para que sean efectivos.

Más allá de eso, los trabajadores podrían participar en otras actividades inseguras que los hacen propensos a intentos de phishing, como iniciar sesión en sus cuentas de trabajo en dispositivos personales no autorizados y desprotegidos.

La encuesta mencionada anteriormente también encontró que los trabajadores reportan solo el 2.1% de los ataques. Esta falta de comunicación puede dificultar ver dónde y cómo deben mejorar las medidas de seguridad.

¿Cómo protegerse contra los crecientes ataques de phishing?

Dada esta tendencia alarmante, las empresas y los usuarios individuales deben tomar medidas para mantenerse a salvo. Implementar herramientas antiphishing de IA es un buen comienzo, pero no puede ser la única medida.

Solo el 7% de los equipos de seguridad no usan o planean usar IA, pero el dominio del phishing persiste, por lo que las empresas también deben abordar el elemento humano.

Debido a que los humanos son el eslabón más débil contra los ataques de phishing, deben ser el foco de los pasos de mitigación. Las organizaciones deben hacer que las mejores prácticas de seguridad sean una parte más destacada de la incorporación y capacitación continua de los empleados.

Estos programas deben incluir cómo detectar ataques de phishing, por qué es un problema y simulaciones para probar su retención de conocimientos después de la capacitación.

También es importante utilizar herramientas de administración de acceso e identidad más sólidas, ya que ayudan a detener las infracciones exitosas después de que ingresan a una cuenta.

Incluso los empleados experimentados pueden cometer errores, por lo que se debería poder detectar y detener las cuentas violadas antes de que causen daños importantes.

Una herramienta tan poderosa para el bien como para el mal

La IA es una de las tecnologías más disruptivas de la historia reciente, si eso es bueno o malo depende de su uso.

Es fundamental reconocer que la IA puede ayudar a los ciberdelincuentes tanto, si no más, que a los profesionales de la ciberseguridad.

Cuanto antes las organizaciones lleguen a reconocer estos riesgos, podrán comenzar a tomar medidas más efectivas para abordar los crecientes ataques de phishing.

Relacionados