OpenAI bloquea 20 campañas globales maliciosas que usan IA para cibercrimen y desinformación.

OpenAI anunció el miércoles que ha interrumpido más de 20 operaciones y redes engañosas en todo el mundo que intentaban utilizar su plataforma para fines maliciosos desde principios de año. Estas actividades incluían depuración de malware, redacción de artículos, generación de biografías para cuentas falsas en redes sociales y creación de fotos de perfil con IA para cuentas en X.

“Los actores maliciosos siguen evolucionando y experimentando con nuestros modelos, pero no hemos visto evidencia de avances significativos en su capacidad para crear malware nuevo o construir audiencias virales”, declaró OpenAI. También interrumpieron actividades relacionadas con contenido de redes sociales sobre elecciones en EE. UU., Ruanda, India y la Unión Europea, sin que ninguna de estas redes lograra atraer un compromiso viral o audiencias sostenidas.

Algunas operaciones cibernéticas destacadas incluyen:

• SweetSpecter: un adversario sospechoso con sede en China que utilizó modelos de IA para reconocimiento, investigación de vulnerabilidades y desarrollo de guiones. Intentó sin éxito realizar spear-phishing contra empleados de OpenAI.
• Cyber Av3ngers: grupo iraní afiliado al IRGC que investigó controladores lógicos programables con modelos de IA.
• Storm-0817: actor de amenazas iraní que utilizó IA para depurar malware de Android y traducir perfiles de LinkedIn.

OpenAI también bloqueó cuentas relacionadas con operaciones de influencia que generaban contenido en inglés y francés para publicaciones en sitios web y redes sociales, incluyendo imágenes generadas con DALL·E. Otros grupos usaban la API de OpenAI para generar conversaciones falsas en X o difundir enlaces a sitios de apuestas.

Sophos advirtió que la IA también puede ser utilizada para difundir desinformación personalizada, creando sitios web de campañas políticas falsas y correos electrónicos dirigidos específicamente para desinformar.

Referencias: https://thehackernews.com/2024/10/openai-blocks-20-global-malicious.html