ChatGPT, ampliamente utilizado por millones de usuarios en todo el mundo, es un modelo de lenguaje poderoso que facilita diversas tareas diarias, como la generación de documentos y la traducción instantánea. Sin embargo, su neutralidad y falta de conciencia real permiten que este potencial se utilice para fines maliciosos.
Desde su lanzamiento al público el año pasado, Check Point ha identificado numerosos casos de ciberdelincuentes que aprovechan ChatGPT para mejorar y acelerar sus campañas y herramientas de ciberataque. Esto se ha convertido en un problema para los principales desarrolladores de IA.
“Para mitigar los riesgos de la inteligencia artificial en ciberseguridad, es esencial implementar medidas de detección avanzadas que identifiquen la actividad maliciosa antes de que ocurran los ataques”, explica Eusebio Nieva, director técnico de Check Point Software para España y Portugal.
Pecados digitales de ChatGPT
Ante esta situación, Check Point Software ha logrado sintetizar los siete principales peligros y malos usos de la inteligencia artificial generativa en el ámbito de la ciberseguridad:
- Distribución de malware: al aprovecharse del objetivo principal de estas herramientas, que buscan ayudar a los usuarios, los ciberdelincuentes generan elementos como virus o troyanos. Unos códigos maliciosos depurados que incrustan en documentos, correos electrónicos e incluso páginas web para maximizar el alcance de sus ataques e infectar los ordenadores de sus víctimas
- Phishing: con una gran cantidad de ejemplos disponibles, la IA permite crear unas comunicaciones falsas mucho más realistas y convincentes que hacen que la tarea de distinguir los verdaderos correos legítimos se convierta en un verdadero reto. Y es que el objetivo de estos no es otro que engañar a los usuarios para hacer que se sientan seguros y proporcionen información sensible como contraseñas o datos de pago como tarjetas de crédito
- Ingeniería social: diseñadas para ser lo más humano posible, ChatGPT puede ser utilizado para hacerse pasar por personas reales con el fin de manipular a los usuarios para que realicen acciones perjudiciales para ellos mismos o sus empresas, engañar a un usuario para que proporcione información de su cuenta
- Filtración y robo de datos: la IA generativa puede ser utilizada para crear documentos o correos electrónicos falsos que parezcan legítimos, lo que puede ser utilizado para engañar a los usuarios y hacer que revelen sus credenciales o datos sensibles
- Desinformación y propaganda: ChatGPT puede ser utilizado para generar noticias falsas y propaganda que pueden ser utilizadas para engañar y manipular a las personas. Esto puede ser usado para dañar reputaciones, sembrar discordia, e incluso incitar a la violencia
- Difamación y suplantación: con herramientas como estas, cada vez más accesibles y asequibles, hay una creciente preocupación de que distinguir entre archivos auténticos y deep fakes sea casi imposible, capaces de crear fotografías, vídeos e incluso audios falsos
- Amenazas internas: la inteligencia artificial puede ser utilizada maliciosamente para crear documentos o correos electrónicos falsos que parezcan provenir de usuarios autorizados, lo que puede ser utilizado para obtener acceso a datos o sistemas sensibles
