Ante la explotación maliciosa de sus herramientas de inteligencia artificial, Microsoft despliega medidas legales y técnicas para neutralizar una red de ciberdelincuentes que operaban claves de acceso robado para generar y distribuir contenido contrario a las políticas de seguridad, explotando ilegalmente las soluciones de servicios de Azure OpenAI. Un caso que desafortunadamente es probablemente solo el comienzo …
Microsoft ha intensificado esta semana su lucha contra los ciberdelincuentes esta semana que buscan sortear las salvaguardas de sus servicios generativos de IA que comienzan con el famoso copilot de Microsoft. La Unidad de Delitos Digitales (DCU) de Microsoft acaba de presentar una queja ante el Tribunal de Distrito Federal de Virginia (Estados Unidos) para proteger la seguridad y la integridad de sus soluciones en la nube, incluido el servicio Azure Openai, animado por GPT-4O y Dall-E Tecnologías de Openai.
Según la queja, un grupo de diez acusados anónimos, calificados como «lo hace», ha desarrollado herramientas y métodos sofisticados para ingresar ilegalmente en cuentas de los clientes de Azure Openai. Las investigaciones de Microsoft comenzaron en el verano de 2024, cuando la compañía notó que las claves de API (estos identificadores que permiten que un usuario o aplicación se conectara a un servicio) tenían acceso gratuito a foros o audiencias de sitios.
Los ciberdelincuentes habrían recuperado estas claves robadas de varios clientes pagos, luego las usaron para generar contenido contra las políticas de uso de Microsoft, incluido el contenido «ofensivo» o «ilegal». Peor aún, el grupo se habría embarcado en la reventa de este acceso ilegal a otros actores maliciosos, proporcionándoles instrucciones detalladas para aprovechar estas herramientas.
Una herramienta maliciosa pero desordenada «DE3U»
En el centro de este dispositivo fraudulento hay un software llamado «DE3U». Según los elementos de la queja, este programa se conectó directamente al servicio Azure OpenAI para generar imágenes a través de Dall-E sin requerir habilidades técnicas particulares. Los cibercriminales lo usaron para evitar las medidas de filtrado y control implementadas por Microsoft, en particular las que modifican o rechazan las solicitudes que comprenden términos considerados contrarios a la política de uso.
Este enfoque «llave en mano» facilitó la creación y difusión de contenido malicioso, incluso potencialmente ilegal. Los autores de «De3u» incluso habrían trabajado para ocultar o evitar las verificaciones habituales para evitar que Microsoft use actividades sospechosas.
Microsoft en contraataque
Ante el descubrimiento de esta campaña, Microsoft ha adoptado varias medidas:
1/ una acción legal : La queja requiere una orden judicial para poner fin a estas prácticas, así como a los daños. Este enfoque se basa en particular en las leyes estadounidenses como la Ley de Fraude y Abuso de la Computación (CFAA) y la Ley de Derechos de Autor Digital Millennium (DMCA).
2/ Entrada y análisis de infraestructura : El tribunal autorizó la entrada de un sitio web considerado «instrumental» en la operación. El objetivo es examinar más en profundidad el funcionamiento de la red criminal, comprender su estructura de monetización y poner fuera de daño para dañar cualquier plataforma que aloje estas herramientas.
3/ Fortalecimiento de las medidas de seguridad : Microsoft afirma haber revocado las claves de acceso comprometidas, eliminar el contenido ilegal alojado en GitHub y reforzar los sistemas de protección del servicio Azure OpenAI.
El caso ilustra un problema importante: proteger la tecnología AI, en particular generativa, contra las derivaciones o los usos criminales. Este ya es uno de los principales desafíos cibernéticos de 2025, ampliamente identificados por todos los analistas. Microsoft recuerda en un informe titulado » Protección del público del contenido generado por AI abusivo » que las empresas y los gobiernos deben unir sus esfuerzos para establecer salvaguardas técnicas y legislativas. Al realizar esta acción legal, el editor estadounidense quiere enviar un mensaje claro: la explotación de sus servicios de IA para fines maliciosos no se puede tolerar. A través de su unidad de crímenes digitales, Microsoft tiene la intención de continuar y evitar estos abusos.
Leer también:
El FBI desconecta una red rusa de 1000 bots es responsable de manipular opiniones
AI, herramienta de ciberdelincuentes en nuevos tipos de ataques …
OpenAi Decrypt cómo se utiliza chatgpt para las operaciones de influencia de opinión
Ciberseguridad: ¿Cómo proteger la IA generativa de los ataques?
Las 12 llm vulnerabilidades que DSI y RSSI deben saber
[
