Microsoft ha advertido que adversarios de Estados Unidos, especialmente Irán y Corea del Norte, están comenzando a emplear inteligencia artificial generativa para llevar a cabo operaciones cibernéticas ofensivas, según informó el miércoles.
El gigante tecnológico, en colaboración con su socio comercial OpenAI, detectó e interrumpió amenazas que utilizaban o intentaban aprovechar la tecnología de inteligencia artificial desarrollada por ellos.
En un comunicado, Microsoft señaló que si bien estas técnicas están en una etapa inicial y no son particularmente novedosas o únicas, es importante exponerlas públicamente mientras los rivales de Estados Unidos utilizan modelos de lenguaje de gran tamaño para infiltrarse en redes y llevar a cabo operaciones de influencia.
Las empresas de ciberseguridad han estado utilizando el aprendizaje automático en defensa durante mucho tiempo, principalmente para detectar comportamientos anómalos en las redes. Sin embargo, los delincuentes y hackers también están utilizando esta tecnología, lo que aumenta el desafío.
Microsoft ha invertido significativamente en OpenAI, y el anuncio del miércoles coincide con un informe que destaca cómo se espera que la inteligencia artificial generativa incremente la ingeniería social maliciosa, dando lugar a deepfakes (resultados hiperrealistas) y clonación de voz más sofisticados.
Uno de los ejemplos proporcionados por Microsoft es el grupo de ciberespionaje norcoreano conocido como Kimsuky, que ha utilizado modelos de IA para investigar centros de análisis extranjeros y generar contenido para campañas de hackeo. Otro caso es la unidad de inteligencia militar rusa GRU, conocida como Fancy Bear, que ha utilizado IA para investigar tecnologías relacionadas con la guerra en Ucrania.
OpenAI, en otro blog, mencionó que su chatbot modelo GPT-4 ofrece capacidades limitadas para tareas de ciberseguridad maliciosas, pero advierte sobre el potencial de la tecnología de IA en este ámbito.
Esta alerta resalta la necesidad de estar al tanto de las nuevas amenazas que emergen en el ámbito cibernético y la importancia de seguir desarrollando estrategias de defensa adecuadas en un entorno digital en constante evolución.
