Próximos eventos

Adaptando Cloud con Ciberseguridad, 7 de marzo (evento presencial)

Ciberataques pymes

Cómo convertir la IA de ChatGPT en una aliada contra el cibercrimen

Las ventajas que aporta ChatGPT son múltiples, ya que pueden escribir líneas de código en varios lenguajes de programación y scripting cuando se le da una entrada en lenguaje natural.

Sobre esto, Sophos ha publicado el informe “La aplicación del procesamiento lingüístico a las ciberdefensas”, sobre cómo el sector de la ciberseguridad puede aprovechar GPT-3, el modelo de lenguaje que utiliza ChatGPT, como copiloto para ayudar a derrotar a los ciberatacantes.

«En Sophos, hace tiempo que vemos la IA como un aliado más que como un enemigo, lo que la convierte en una tecnología fundamental para Sophos, y GPT-3 no es diferente. El sector de la ciberseguridad debería prestar atención no sólo a los riesgos potenciales, sino también a las oportunidades que ofrece GPT-3«, explica Sean Gallagher, investigador principal de amenazas de Sophos.

Los investigadores de Sophos X-Ops han estado trabajando en tres proyectos experimentales:

  • Proyecto 1: Interfaz de consulta en lenguaje natural para buscar actividad maliciosa. La primera aplicación que Sophos ha probado con el método de aprendizaje “few-shot learning” es una interfaz de consulta en lenguaje natural para filtrar actividad maliciosa en la telemetría XDR. El modelo más amplio creado por Sophos para este proyecto ha dado respuestas precisas en más del 80% de los casos al tratar preguntas en lenguaje natural que utilizaban datos que había visto como parte del entrenamiento, y en el 70,5% de las veces al tratar preguntas que incluían datos que el modelo no había visto antes.

Sophos demuestra cómo convertir la IA de ChatGPT en una aliada contra el cibercrimen

  • Proyecto 2: Detector de spam basado en GPT. El Machine Learning ya se ha aplicado con anterioridad a la detección de spam utilizando diferentes tipos de modelo. Sin embargo, Sophos ha probado un nuevo filtro de spam usando ChatGPT y descubrió que, en comparación con otros modelos, el filtro de GPT-3 es significativamente más preciso y supera con creces otros métodos de Machine Learning tradicionales cuando la cantidad de datos utilizada para el entrenamiento es pequeña.
  • Proyecto 3: Herramienta para analizar líneas de comandos ejecutados en archivos binarios “living of the land” (LOLBin). Por último, los investigadores de Sophos han creado un programa para simplificar el proceso de ingeniería inversa de las líneas de comandos de LOLBins. Para los desarrolladores y expertos, este tipo de ingeniería inversa es difícil de realizar, ya que incluye mucha confusión y son códigos largos y difíciles de analizar; pero también resulta fundamental hacerlo para comprender el comportamiento de LOLBins y frenar este tipo de ataques.

Deja un comentario

Scroll al inicio