martes, junio 25

OpenAI afirma que Rusia y China utilizaron su IA en campañas encubiertas

Al igual que Google, Meta y Microsoft, OpenAI ofrece chatbots en línea y otras herramientas de inteligencia artificial que pueden escribir publicaciones en redes sociales, generar imágenes fotorrealistas y escribir programas de computadora. En su informe, la compañía dijo que sus herramientas se habían utilizado en campañas de influencia que los investigadores habían estado siguiendo durante años, incluida una campaña rusa llamada Doppelganger y una campaña china llamada Spamouflage.

Publicación de una campaña de influencia en Telegram que, según OpenAI, se generó con sus herramientas.Crédito…a través de OpenAI

La campaña Doppelganger utilizó la tecnología de OpenAI para generar comentarios anti-Ucrania publicados en X en inglés, francés, alemán, italiano y polaco, dijo OpenAI. Las herramientas de la empresa también se utilizaron para traducir y editar artículos que apoyaban a Rusia en la guerra en Ucrania al inglés y al francés, y para convertir artículos de noticias contra Ucrania en publicaciones de Facebook.

Las herramientas de OpenAI también se utilizaron en una campaña rusa previamente desconocida dirigida a personas en Ucrania, Moldavia, los estados bálticos y Estados Unidos, principalmente a través del servicio de mensajería Telegram, dijo la compañía. La campaña utilizó IA para generar comentarios en ruso e inglés sobre la guerra en Ucrania, así como la situación política en Moldavia y la política estadounidense. El esfuerzo también utilizó herramientas OpenAI para depurar código informático aparentemente diseñado para publicar información automáticamente en Telegram.

Los comentarios políticos recibieron pocas respuestas y me gusta, dijo OpenAI. Los esfuerzos también fueron a veces poco sofisticados. En un momento, la campaña publicó un texto que claramente había sido generado por AI. “Como modelo de lenguaje de IA, estoy aquí para ayudar y brindar la retroalimentación deseada”, se lee en un mensaje. En otras ocasiones, se publicó en un inglés deficiente, lo que llevó a OpenAI a calificar el esfuerzo de “mala gramática”.

El spammer, atribuido durante mucho tiempo a China, utilizó la tecnología OpenAI para depurar código, pedir consejo sobre cómo analizar las redes sociales y buscar noticias, dijo OpenAI. Sus herramientas también se han utilizado para generar publicaciones en las redes sociales que denigran a personas que han criticado al gobierno chino.