La IA generativa podría ser un avance autoritario en el lavado de cerebro

Publicado

La IA generativa está lista para ser el próximo gran regalo del mundo libre para los autoritarios. El lanzamiento viral de ChatGPT, un sistema con capacidades inquietantemente similares a las humanas para componer ensayos, poesía y código de computadora, ha despertado a los dictadores del mundo al poder transformador de la IA generativa para crear contenido único y atractivo a escala.

Pero el feroz debate que se produjo entre los líderes de la industria occidental sobre los riesgos de lanzar herramientas avanzadas de IA generativa ha pasado por alto en gran medida dónde es probable que sus efectos sean más perniciosos: dentro de las autocracias. Las empresas de IA y el gobierno de los EE. UU. por igual deben instituir normas más estrictas para el desarrollo de herramientas como ChatGPT teniendo en cuenta su potencial innovador para los autoritarios del mundo, antes de que sea demasiado tarde.

Hasta ahora, las preocupaciones en torno a la IA generativa y los autócratas se han centrado principalmente en cómo estos sistemas pueden impulsar los esfuerzos de propaganda chinos y rusos en los Estados Unidos. ChatGPT ya ha demostrado la capacidad de la IA generativa para automatizar la desinformación extranjera china y rusa con solo presionar un botón. Cuando se combina con los avances en la publicidad dirigida y otras nuevas técnicas de propaganda de precisión, la IA generativa presagia una revolución en la velocidad, la escala y la credibilidad de las operaciones de influencia autocrática.

Pero, por desalentadores que parezcan los esfuerzos de desinformación en el extranjero de China y Rusia en un mundo posterior al GPT, las sociedades abiertas reciben solo una pequeña fracción de la propaganda que Beijing y Moscú lanzan contra sus propias poblaciones. Y mientras que los poderes democráticos mantienen comunidades robustas de tecnólogos dedicados a combatir la manipulación en línea, los autócratas pueden usar todo el poder de sus estados para optimizar la influencia de su propaganda.

En 2019, Xi Jinping de China exigió exactamente eso cuando ordenó a su partido-estado que aprovechara la IA para “aumentar de manera integral” la capacidad del Partido Comunista Chino para moldear la opinión pública china. De manera similar, Vladimir Putin de Rusia ha duplicado la propaganda habilitada por IA a raíz de su invasión de Ucrania, incluido un video falso del presidente ucraniano Volodymyr Zelensky que pide a los ucranianos que se rindan. Estos esfuerzos están respaldados por una vertiginosa variedad de agencias chinas y rusas encargadas de controlar el pensamiento, cultivando un ecosistema competitivo de herramientas de propaganda digital respaldadas por presupuestos multimillonarios cada año.

China y Rusia son, en otras palabras, un terreno fértil para que la IA generativa marque el comienzo de un avance histórico en el lavado de cerebro: una receta para más catástrofes internacionales, mayores abusos contra los derechos humanos y un despotismo aún más arraigado. A medida que China refina y exporta su tecnoautoritarismo, es probable que los posibles tiranos de todo el mundo saquen provecho de la revolución propagandística.

Afortunadamente, las empresas en los Estados Unidos y las naciones aliadas han liderado en gran medida el avance de las capacidades de IA generativa. A medida que la tecnología madure, esta ventaja será cada vez más importante para que las sociedades abiertas tengan tiempo de comprender, detectar y mitigar los daños potenciales antes de que los estados autocráticos aprovechen las tecnologías para sus propios fines. Pero el mundo libre corre el riesgo de desperdiciar esta ventaja si los autoritarios adquieren fácilmente estas herramientas pioneras.

Desafortunadamente, mantener los modelos de inteligencia artificial de vanguardia fuera del alcance de los autócratas es una tarea difícil. A nivel técnico, los modelos de IA generativa se prestan a un robo fácil. A pesar de requerir enormes recursos para construir, una vez desarrollados, los modelos se pueden copiar y adaptar fácilmente a un costo mínimo. Esas son especialmente malas noticias ya que China saquea rutinariamente la tecnología de las corporaciones estadounidenses.

Las empresas tecnológicas estadounidenses también pueden verse tentadas a vender capacidades de IA generativa, del mismo modo que, sin darse cuenta, ayudaron a sentar las bases para el Gran Cortafuegos de China, el aparato de vigilancia ubicuo y la recolección de genes de la minoría musulmana a través de empresas comerciales.

Además, los investigadores de IA chinos o rusos pueden simplemente explotar los esfuerzos de varias empresas para mantener el código abierto de la IA generativa. Meta ha comenzado a «democratizar» el acceso a su modelo de lenguaje OBT-175B, al igual que la empresa de inteligencia artificial Hugging Face ayudó a lanzar BLOOM, un modelo multilingüe de acceso abierto. Por bien intencionados que sean estos esfuerzos, son una bendición para los propagandistas.

En cambio, las empresas deben tratar el desarrollo de IA generativa con la cautela y las medidas de seguridad apropiadas para una tecnología con un inmenso potencial para impulsar el despotismo, y abstenerse de ofrecer detalles técnicos de código abierto de sus modelos de vanguardia.

El gobierno de EE. UU. debe aclarar la importancia estratégica de la IA generativa y restringir la exportación de modelos de IA generativa de vanguardia a socios no confiables ahora, basándose en medidas similares que restringen la exportación de tecnología de vigilancia estadounidense. La financiación de la investigación federal para la IA generativa debe limitarse solo a destinatarios de confianza con sólidas prácticas de seguridad. Estados Unidos y sus aliados también deberían invertir agresivamente en capacidades de contrapropaganda que puedan mitigar las próximas oleadas de propaganda generativa de IA, tanto en casa como dentro de las autocracias.

La alternativa es un camino bien transitado: las empresas tecnológicas estadounidenses refuerzan el tecnoautoritarismo a través de una combinación de incentivos de ganancias e ingenuidad. Es hora de hacerlo mejor.

HTML tutorial

Esta publicación es solo para suscriptores

Esta publicación es solo para suscriptores

Prueba 15 días Gratis

Copyright © 2023 DIAFINTECH 

“ Esta página web utiliza cookies propias y de terceros para fines funcionales (permitir lanavegación web), para optimizar la navegación y personalizarla según tus preferencias asícomo para mostrarte publicidad en base a tu perfil de navegación (p.e páginas visitadas). Si pulsas ACEPTAR, aceptas todas las cookies. Conoce nuestro aviso de privacidad