¿La IA en contra de los derechos humanos?

La IA no debe convertirse en un impulsor de abusos contra los derechos humanos. El 30 de mayo, el Centro para la Seguridad de la IA emitió una advertencia pública sobre el riesgo que la inteligencia artificial representa para la humanidad. La declaración de una frase firmada por más de 350 científicos, ejecutivos de negocios y figuras públicas afirma: «Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear».

Es difícil no sentir la doble ironía brutal de esta declaración. En primer lugar, algunos de los firmantes, incluidos los CEO de Google DeepMind y OpenAI, que advierten sobre el fin de la civilización, representan a las empresas responsables de crear esta tecnología en primer lugar.

En segundo lugar, son exactamente estas mismas empresas las que tienen el poder de garantizar que la IA realmente beneficie a la humanidad, o al menos no haga daño. Deben prestar atención al consejo de la comunidad de derechos humanos y adoptar de inmediato un marco de diligencia debida que les ayude a identificar, prevenir y mitigar los posibles impactos negativos de sus productos.

Los científicos advirtieron durante mucho tiempo sobre los peligros que conlleva la IA. Pero, no fue hasta el reciente lanzamiento de nuevas herramientas de IA generativa, que una gran parte del público en general se dio cuenta de las consecuencias negativas que puede tener.

Podría hacerse un enfoque basado en los derechos humanos para la IA generativa

La IA generativa es un término amplio que describe algoritmos «creativos» que pueden generar nuevo contenido, incluidas imágenes, texto, audio, video e incluso código informático. Estos algoritmos se entrenan en conjuntos de datos masivos y luego usan ese entrenamiento para crear resultados que a menudo son indistinguibles de los datos «reales».

Lo que dificulta, si no imposible, saber si el contenido fue generado por una persona o por un algoritmo. Hasta la fecha, los productos de IA generativa tomaron tres formas principales. Conocidos como herramientas como ChatGPT que generan texto; herramientas como Dall-E, Midjourney y Stable Diffusion que generan imágenes, y herramientas como Codex y Copilot que generan código informático.

El repentino aumento de las nuevas herramientas de IA generativa no tiene precedentes. El chatbot ChatGPT desarrollado por OpenAI tardó menos de dos meses en llegar a 100 millones de usuarios. Esto supera con creces el crecimiento inicial de plataformas populares como TikTok, que tardó nueve meses en llegar a la mayor cantidad de personas.

A lo largo de la historia, la tecnología ayudó a promover los derechos humanos, pero también creó daños, a menudo de manera impredecible. Desde que se lanzaron por primera vez las herramientas de búsqueda en Internet, las redes sociales y la tecnología móvil, y a medida que crecían en adopción y accesibilidad generalizadas, era casi imposible predecir muchas de las formas angustiantes en que estas tecnologías transformadoras se convirtieron en impulsores y multiplicadores de abusos contra los derechos humanos en todo el mundo.

Una historia de tecnología no tan reconfortante

El papel de Meta en la limpieza étnica de los rohingya en Myanmar en 2017, por ejemplo. Incluso el uso de spyware casi indetectable desplegado para convertir los teléfonos móviles en máquinas de vigilancia las 24 horas utilizadas contra periodistas y defensores de los derechos humanos. Son ahora, consecuencias de la introducción de tecnologías disruptivas cuyas implicaciones sociales y políticas no se habían considerado seriamente.

Aprendiendo de estos desarrollos, la comunidad de derechos humanos está pidiendo a las empresas que desarrollan productos de IA generativa. Pero, que actúen de inmediato para evitar cualquier consecuencia negativa para los derechos humanos que puedan tener.

En primer lugar, para cumplir con su responsabilidad de respetar los derechos humanos, deben implementar inmediatamente un marco riguroso de diligencia debida en materia de derechos humanos, tal como se establece en los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos.

Y en segundo lugar, las empresas que desarrollan estas tecnologías deben comprometerse proactivamente con académicos, actores de la sociedad civil y organizaciones comunitarias, especialmente aquellas que representan a comunidades tradicionalmente marginadas.

Aunque no se pueda predecir todas las formas en que esta nueva tecnología puede causar o contribuir al daño. Debe existir una amplia evidencia de que las comunidades marginadas son las más propensas a sufrir las consecuencias.

Todos ven la IA con miedo a que sea mejor que la humanidad

Las versiones iniciales de ChatGPT se involucraron en prejuicios raciales y de género, sugiriendo, por ejemplo, que las mujeres indígenas «valen» menos que las personas de otras razas y géneros.

El compromiso activo con las comunidades marginadas debe ser parte de los procesos de diseño de productos y desarrollo de políticas, para comprender mejor el impacto potencial de estas nuevas herramientas. Esto no se puede hacer después de que las empresas ya hayan causado o contribuido al daño.

En tercer lugar, la propia comunidad de derechos humanos debe dar un paso adelante. En ausencia de una regulación para prevenir y mitigar los efectos potencialmente peligrosos de la IA generativa, las organizaciones de derechos humanos deben tomar la iniciativa en la identificación de daños reales y potenciales.

Esto significa que las organizaciones de derechos humanos deberían ayudar a construir un cuerpo de comprensión profunda en torno a estas herramientas y desarrollar investigación, defensa y compromiso que anticipen el poder transformador de la IA generativa.

La complacencia frente a este momento revolucionario no es una opción, pero tampoco, para el caso, es cinismo. Todos tenemos interés en garantizar que esta nueva y poderosa tecnología se utilice en beneficio de la humanidad. La implementación de un enfoque basado en los derechos humanos para identificar y responder al daño es un primer paso crítico en este proceso.