Europa quiere plataformas para etiquetar contenido generado por IA para combatir la desinformación

La Unión Europea depende de los signatarios de su Código de prácticas sobre desinformación en línea para etiquetar las falsificaciones profundas y otro contenido generado por IA.

En comentarios de ayer luego de una reunión con los más de 40 signatarios del Código, la Comisionada de Valores y Transparencia de la UE, Vera Jourova, dijo que aquellos registrados para contrarrestar la desinformación deben implementar tecnología para reconocer el contenido de IA y etiquetarlo claramente para los usuarios.

“Las nuevas tecnologías de IA pueden ser una fuerza para el bien y ofrecer nuevas vías para una mayor eficiencia y expresión creativa. Pero, como siempre, debemos mencionar el lado oscuro de este caso y también presentan nuevos riesgos y el potencial de consecuencias negativas para la sociedad”, advirtió. “También en cuanto a la creación y difusión de información errónea.

«Los chatbots avanzados como ChatGPT pueden crear contenido y elementos visuales complejos y aparentemente bien respaldados en segundos. Los generadores de imágenes pueden crear imágenes auténticas de eventos que nunca sucedieron. El software de generación de voz puede imitar la voz de una persona basándose en una muestra de unos pocos segundos. Las nuevas tecnologías también plantean nuevos desafíos para la lucha contra la desinformación, por lo que hoy les pedí a los firmantes que crearan una pista dedicada y la separaran en el código para discutirla.

La versión actual del código, que la UE reforzó el verano pasado, cuando también confirmó que tenía la intención de que el instrumento voluntario se convirtiera en una medida de mitigación que cuente para el cumplimiento de la ley (jurídicamente vinculante) sobre Servicios Digitales (DSA), actualmente no contratar para identificar y etiquetar deepfakes. Pero la Comisión espera cambiar eso.

El comisionado de la UE dijo que ve dos ángulos principales de discusión sobre cómo incluir mitigaciones para el contenido generado por IA en el código: uno se centraría en los servicios que integran los servicios generativos de IA, como los servicios de búsqueda aumentados por IA Bard de Microsoft o Bard de Microsoft, que debería se comprometen a establecer «las salvaguardas necesarias para que estos servicios no puedan ser utilizados por actores malintencionados para generar información errónea».

Un segundo comprometería a los signatarios que tienen servicios que probablemente difundan información errónea generada por IA para implementar «tecnología para reconocer ese contenido y dejarlo claro para los usuarios».

Jourova dijo que habló con Sundar Pichai de Google y le dijeron que Google tiene tecnología que puede detectar contenido de texto generado por IA, pero que también continúa desarrollando la tecnología para mejorar sus habilidades.

En comentarios adicionales durante una sesión de preguntas y respuestas con la prensa, el comisionado dijo que la UE quiere que las etiquetas para deepfakes y otro contenido generado por IA sean claras y oportunas, para que los usuarios normales puedan entender de inmediato que una parte del contenido que se les presenta fue creado por un máquina, no una persona.

“He dicho muchas veces que nuestra tarea principal es proteger la libertad de expresión. Pero cuando se trata de la producción de IA, no veo el derecho de que las máquinas tengan libertad de expresión. Y así también se remonta a los buenos viejos pilares de nuestra ley. Y es por eso que queremos seguir trabajando en eso también bajo el código de práctica basado en esa idea tan fundamental”, agregó.

La Comisión espera ver acciones contra los riesgos de desinformación generados por IA el próximo mes: Jourova dice que los signatarios afectados deberían usar los informes de julio para «informar al público sobre las salvaguardas que están implementando para evitar el mal uso de la IA generativa para difundir desinformación». .

El Código de desinformación ahora tiene 44 signatarios en total, que incluyen gigantes tecnológicos como Google, Facebook y Microsoft, así como entidades de tecnología publicitaria más pequeñas y organizaciones de la sociedad civil, un total de 34 que firmaron los compromisos en junio de 2022.

Sin embargo, a fines del mes pasado, Twitter tomó la medida inusual de optar por no participar en el código voluntario de la UE.

Otros grandes temas que Jourova dijo que planteó con los otros signatarios en la reunión de ayer, instándolos a hacer más, incluyeron la propaganda de guerra rusa y la desinformación pro-Kremlin; la necesidad de moderación y verificación de hechos “consistentes”; esfuerzos de seguridad electoral; y el acceso a los datos para los investigadores.

“Todavía hay demasiado contenido de desinformación peligroso que circula en las plataformas y muy poca capacidad”, advirtió, señalando una queja de la Comisión de larga data de que las iniciativas de verificación de hechos no se aplican de manera exhaustiva en el contenido dirigido a todos los idiomas hablados en Los Estados unidos. Estados miembros, incluidos los países pequeños.

“Son especialmente los países de Europa Central y del Este los que son constantemente atacados por fuentes de desinformación, en particular los rusos”, agregó. “Hay mucho por hacer. Se trata de habilidades, se trata de nuestro conocimiento, se trata de nuestra comprensión del idioma. Y también entender las razones por las que en algunos estados miembros hay un caldo de cultivo o terreno preparado para la absorción de mucha desinformación.

El acceso para los investigadores aún es insuficiente, también enfatizó, e instó a las plataformas a redoblar sus esfuerzos.

Jourova también agregó algunas palabras de advertencia sobre el camino elegido por Elon Musk, lo que sugiere que Twitter ha estado bajo el escrutinio de la UE, como una VLOP designada (plataforma en línea muy grande) bajo la DSA.

La DSA impone una obligación legal a los VLOP de evaluar y mitigar los riesgos sociales, como la información errónea. Por lo tanto, Twitter invita a la censura y al castigo anulando el código de la UE (las multas en virtud de la DSA pueden alcanzar el 6 % de la facturación anual mundial).

“A partir de agosto de este año, nuestras estructuras, que actuarán como ejecutores de la DSA, revisarán el desempeño de Twitter para ver si cumple, tomando las medidas necesarias para mitigar el riesgo y tomar medidas contra… en particular, el contenido ilegal”, advirtió además.

“La Unión Europea no es donde queremos ver leyes de California importadas”, agregó. “Lo hemos dicho muchas veces y por eso también quiero volver y agradecer la cooperación con los… ex empleados de Twitter, que han colaborado con nosotros. [for] varios años ya sobre el código de conducta contra el discurso de odio y el código de práctica [on disinformation] también. Así que lo sentimos. Creo que Twitter tenía gente muy bien informada y determinada que entendió que tenía que haber una responsabilidad, una responsabilidad mucho mayor en el sitio de plataformas como Twitter.

Cuando se le preguntó si el enfoque de calificaciones de la comunidad de Twitter, que externaliza (por lo tanto, esencialmente externaliza) la verificación de hechos a los usuarios de Twitter si suficientes personas intervienen para agregar un consenso de contexto a los tweets en disputa, podría ser suficiente por sí solo para cumplir con los requisitos legales para combatir la desinformación bajo el DSA , Jourova dijo que dependerá de las autoridades de la Comisión evaluar si cumplen o no.

Sin embargo, señaló que la eliminación de Twitter del Código fue un paso significativo en la dirección equivocada, y agregó: «El Código de práctica será reconocido como una medida de mitigación muy seria y confiable contra el contenido dañino».