La Unión Europea está trabajando actualmente en la Ley IA, con el fin de controlar el desarrollo y uso de herramientas basadas en IA (Inteligencia Artificial). Las herramientas, como el chatbot ChatGPT, han causado un gran flujo de tinta en los últimos meses y plantean preocupaciones sobre su uso con fines delictivos. ChatGPT incorpora filtros de contenido para que no se respondan preguntas sobre temas problemáticos. Sin embargo, esto no significa que no se pueda utilizar con fines maliciosos.
Cuantos más usuarios de Internet utilicen ChatGPT, más aprenderá OpenAI de las capacidades y los límites de su inteligencia artificial y mejor podrá ajustar los mecanismos de defensa y filtrado que supuestamente protegen su IA generativa y bloquean sus usos desaconsejables, peligrosos o prohibidos. Pero esa es la teoría. La práctica es como siempre más complicada.
Filtro de derivación
Los filtros de contenido se usan comúnmente en los modelos de chatbot de idiomas con fines de aprendizaje. Su implementación tiene como objetivo restringir el acceso a categorías específicas de contenido o proteger a los usuarios contra contenido potencialmente peligroso o inapropiado. Así, ChatGPT se niega a priori a responder a cualquier solicitud de código malicioso debido a un filtro de este tipo, pero quedan puntos ciegos: a fuerza de insistencia y solicitudes, es posible eludirlo, utilizando múltiples restricciones y obligando a ChatGPT a cumplir. con ellos. El código malicioso funcional que se recibe luego se puede manipular usando ChatGPT para generar varias variaciones. ChatGPT, cuando se accede a través de la API, tampoco parece estar sujeto a su filtro de contenido.
De hecho, una de las capacidades más poderosas de ChatGPT desde una perspectiva cibernética es la facilidad con la que es posible crear y modificar continuamente módulos de inyección. Al interrogar continuamente al chatbot y recibir un código distinto con cada interacción, es posible desarrollar un programa polimórfico que evade la detección de manera efectiva.
Una estrategia de cuatro pasos
El uso de un código corto es suficiente para identificar los archivos que el ransomware podría tener como objetivo para el cifrado. Una vez detectados, se pueden aplicar códigos similares para leer y cifrar archivos. Y parece que ChatGPT puede generar el código necesario para el ransomware típico, incluidos los módulos de inyección de código y cifrado de archivos.
El principal inconveniente de este enfoque es que, una vez infiltrado en el sistema de destino, el software está claramente compuesto de código dañino y, por lo tanto, es susceptible de ser identificado por las herramientas de ciberseguridad implementadas. Sin embargo, esta detección se puede eludir mediante el uso de la API de ChatGPT en el propio malware del sitio: el malware incluye un intérprete de Python, por ejemplo, que consulta periódicamente a ChatGPT en busca de nuevos módulos con acciones maliciosas. Esto permite que el malware detecte información útil entrante en forma de texto en lugar de binario.
Además, al solicitar específicamente funciones como la inyección de código, el cifrado de archivos, es fácil obtener un código nuevo o modificado. Por lo tanto, el malware es polimórfico, sin un comportamiento dañino aparente y, a menudo, sin una lógica sospechosa cuando está presente en el servidor. Esta gran adaptabilidad hace que estos malware sean muy evasivos para las herramientas de seguridad cuya detección se basa en firmas.
Finalmente, el ciberdelincuente puede ejecutar el código recibido de ChatGPT. Mediante el uso de funciones nativas, este malware puede aplicarlo en múltiples plataformas. Además, y como medida de precaución, también puede optar por borrarlo, lo que dificulta el análisis posterior al ataque.
El uso de la API de ChatGPT para ciberdelincuentes presenta desafíos importantes para los profesionales de la seguridad. Es importante recordar que este no es un escenario hipotético, sino una amenaza muy real. Además, estas nuevas herramientas están en constante evolución, por lo que es fundamental mantenerse informado y atento.
A medida que los usuarios aprendan a organizar sus consultas para obtener los mejores resultados, ChatGPT evolucionará de manera más inteligente y poderosa. Sin embargo, este software también se convertirá en una herramienta para los ciberdelincuentes que buscan información. A medida que los piratas informáticos investigan cualquier nuevo vector de ataque para defraudar a los usuarios, es importante conocer las amenazas y asegurarse de que las defensas implementadas sean óptimas para frustrar los intentos maliciosos.
____________________________
Par Eran Shimonyinvestigador principal en cibernética en la Laboratorios CyberArk
Lea también:
ChatGPT: entre ventajas y desventajas, el corazón de los profesores se balancea
El autor de SF produjo 97 libros en 9 meses usando ChatGPT e IA
ChatGPT Plus formaliza sus primeros plugins
Custocy s’attaque aux IA adversariales
Crowdstrike lanza su propia IA generativa dedicada a la ciberseguridad, Charlotte AI
Incorporación de IA en la empresa: ¿deberían preocuparse los profesionales de la seguridad?
Con Security Copilot, Microsoft pone la IA GPT-4 en el centro de la ciberseguridad
Google también está jugando la carta de IA generativa para la ciberseguridad
Veracode presenta GPT AI para corregir código vulnerable
[
