Artificial Intelligence: El lado Ofensivo de ChatGPT

Por: Fátima Rodríguez Giles, Cybersecurity Intelligence Analyst ESET LATAM, Líder de Womcy Tech

Aún tenemos muchas dudas al rededor del impacto/efecto que tendrá el uso de ChatGPT en la industria y los practicantes de ciberseguridad en el mediano plazo. Sin embargo, hay cosas que ya sabemos.

En primera, se trata de una gran herramienta de enseñanza: podemos introducirnos al mundo de la seguridad ofensiva con una sencilla pregunta: ¿Qué es hackear? El chat dará una definición digerible al segundo. Sin embargo, ¿responderá cómo engañar a un humano en un ataque de Phishing? La respuesta corta es NO. Preguntar por cualquier ciberataque conocido no recibirá respuesta.

No es falta de capacidad, preguntar por actividades ilícitas, ataques o jerga de hacking en las consultas, pues viola las políticas de uso del chat. Sin embargo, preguntar indirectamente hará que el chat nos de las respuestas detalladas paso a paso.  Y si su capacidad no se detiene: preguntas sobre la automatización de un ataque de red mediante herramientas conocidas y comerciales son plenamente procesadas y códigos funcionales obtenidos.

Ver más: Estudiantes eligen mejorar su vida por encima del aumento de ingresos

ChatGPT tiene capacidades de codificación y modificación de exploits conocidos, malware, LOLBIN (Living off the Land Binaries) -código que puedan distribuirse de forma global- y con esto, mayores posibilidades de desarrollo de ataques de Día Cero solo preguntando correctamente.

Un impactante ejemplo de lo anterior fue compartido por el equipo de CyberArk, que lo utilizó para crear malware polimórfico (código que cambia su comportamiento en cada víctima para evadir la detección). El informe técnico muestra que pudieron eludir medidas de seguridad, como detección por antivirus tradicionales basados en firmas.

Presenciamos la forma de volver complejas formas de ataque en fáciles y digeribles respuestas ¿acaso no es de lo de que se trata la tecnología? Simplificar la vida, incluso, de un ciberatacante.