Europa da otro paso importante hacia la adopción de un reglamento de IA

Europa da otro paso importante hacia la adopción de un reglamento de IA

El Parlamento Europeo ha votado para confirmar su mandato de negociación para la ley de IA, dando un gran paso que abre la siguiente etapa de negociaciones hacia una regulación paneuropea sobre inteligencia artificial.

Los eurodiputados respaldaron una versión modificada de la propuesta de la Comisión que amplía el reglamento de una manera que, según dicen, tiene como objetivo garantizar que la IA desarrollada y utilizada en Europa esté «totalmente en línea con los derechos y valores de la UE», incluida la supervisión humana, la seguridad, la privacidad, la transparencia, la no discriminación y el bienestar social y ambiental”.

Entre los cambios respaldados por los parlamentarios se encuentra la prohibición total de la vigilancia biométrica remota y la vigilancia policial predictiva. También agregaron una prohibición sobre el «raspado no dirigido de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial», así que básicamente una prohibición estricta de Clearview AI y similares.

La prohibición propuesta de la vigilancia biométrica remota se aplicaría tanto a las aplicaciones en tiempo real como a posteriori de tecnologías como el reconocimiento facial, excepto, en el último caso, para las fuerzas del orden encargadas de enjuiciar delitos graves con un suspiro judicial.

Los parlamentarios también agregaron una prohibición sobre el uso de la tecnología de reconocimiento emocional utilizada por las fuerzas del orden, las agencias fronterizas, los lugares de trabajo y las instituciones educativas.

Los parlamentarios también ampliaron la clasificación de los sistemas de IA de alto riesgo para incluir aquellos que dañan significativamente la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, así como los sistemas de IA utilizados para influir en los votantes y los resultados electorales.

Los parlamentarios también han agregado a la lista de alto riesgo plataformas de redes sociales más grandes que usan algoritmos para recomendar contenido.

La votación plenaria sigue al respaldo de la comisión a la propuesta modificada el mes pasado después de que los eurodiputados de diferentes grupos políticos explicaran cómo querían modificar el texto de la Comisión, incluida la adición de obligaciones a los fabricantes de la llamada IA ​​para uso general.

LEER  Deal Dive: Finalmente, una startup que construye una red para aquellos que podrían beneficiarse más

En respuesta a los rápidos desarrollos en la IA generativa, los eurodiputados apoyaron la imposición de un conjunto de obligaciones en los modelos de IA fundamentales/de propósito general, como la tecnología que sustenta el chatbot de IA de OpenAI ChatGPT, que requiere que estos sistemas identifiquen y mitiguen los riesgos antes de su comercialización. colocación, así como aplicar divulgaciones de transparencia al contenido generado por IA e implementar salvaguardas contra la generación de contenido ilegal.

Los fabricantes de IA de uso general también deben publicar «resúmenes detallados» de la información con derechos de autor utilizada para entrenar sus modelos según la propuesta de los parlamentarios.

Durante una gira por las capitales europeas para reunirse con los legisladores el mes pasado, el director ejecutivo de OpenAI, Sam Altman, criticó este aspecto de la propuesta de la UE. Sugirió que la compañía podría verse obligada a retirar los servicios en la región si no podía cumplir, y dijo a los periodistas que esperaba que se rescindieran las obligaciones.

Da la casualidad de que la votación plenaria de hoy muestra un apoyo abrumador entre los parlamentarios a la versión enmendada del proyecto de ley, incluidos los requisitos propuestos para los IA de propósito general, con 499 votos a favor y solo 28 en contra (más 93 abstenciones).

La votación que aprueba el mandato significa que las conversaciones entre el parlamento y los gobiernos de los estados miembros de la UE ahora pueden comenzar, y el primer diálogo tripartito tendrá lugar esta noche.

Comentando en una declaración después de la votación, el co-ponente Brando Benifei dijo:

Todos los ojos están puestos en nosotros hoy. Mientras las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa ha dado un paso al frente y ha ofrecido una respuesta concreta a los riesgos que la IA está empezando a plantear. Queremos que se aproveche el potencial positivo para la creatividad y la productividad de la IA, pero también lucharemos para proteger nuestra posición y contrarrestar los peligros para nuestras democracias y libertades al negociar con el Consejo.

En otra declaración de apoyo, el co-ponente Dragos Tudorache agregó:

La Ley de Inteligencia Artificial marcará la pauta en todo el mundo para el desarrollo y la gobernanza de la inteligencia artificial, asegurando que esta tecnología, establecida para transformar radicalmente nuestras sociedades a través de los enormes beneficios que puede brindar, evolucione y se utilice de acuerdo con los valores europeos de democracia. , los derechos fundamentales y el estado de derecho.

La versión de la ley de IA que los eurodiputados respaldaron hoy también agrega exenciones para actividades de investigación y componentes de IA suministrados bajo licencias de código abierto, lo que, según los eurodiputados, garantizará el apoyo a la innovación, así como espacios de prueba regulatorios para los sistemas de prueba que se establecerán en el marco.

LEER  Es posible que los automóviles y camiones de EE. UU. pronto tengan que frenar por usted en caso de emergencia

La propuesta de los eurodiputados también agrega una serie de derechos de los consumidores en la toma de decisiones de IA, incluida la capacidad de los consumidores de buscar acciones colectivas si un sistema de IA los ha perjudicado.

La organización europea de consumidores BEUC ha acogido con satisfacción los cambios, pero ha criticado al parlamento por no apoyar una prohibición total del uso de IA de reconocimiento emocional (ya que la propuesta no limita el uso comercial de este aceite de serpiente).

También cree que los eurodiputados han dado a los desarrolladores demasiada libertad para decidir si sus sistemas entran o no en la categoría de alto riesgo, lo que, según dicen, podría socavar la eficacia del marco basado en el riesgo.

Esto puede convertirse en la manzana de la discordia durante los debates a tres bandas que tienen que encontrar un compromiso entre la posición del Consejo de la UE, que es el órgano compuesto por los gobiernos de los Estados miembros, y los legisladores del parlamento para lograr el necesario acuerdo político sobre un texto definitivo y sellar el expediente.

Generalmente, el Consejo de la UE adopta una línea más favorable a la industria, mientras que el Parlamento tiende a preocuparse más por los derechos fundamentales. Por lo tanto, queda por ver dónde se encontrarán las dos partes en el medio de la regulación de la IA.

Si no llegan a un acuerdo, el proceso legislativo de la UE puede estancarse o incluso fracasar. Pero hay un ímpetu en Bruselas para llevar este archivo al límite dado el enfoque global ahora en la regulación de la IA. (Ser el primero en atacar con un acuerdo democrático para la IA brinda al bloque oportunidades para ejercer influencia más allá de sus fronteras mientras otras jurisdicciones luchan por encontrar sus propios enfoques para regular un área compleja de tecnología en rápido desarrollo).

LEER  TweetDeck sufre cuando Musk hace cumplir los límites de lectura de Twitter

El Consejo adoptó su posición sobre el expediente de devolución en diciembre. En ese momento, los estados miembros estaban en gran medida a favor de posponer lo que se necesitaba hacer con respecto a la IA de propósito general: para implementar aún más la legislación. Pero, dado lo que sucedió mientras tanto, con herramientas de IA generativa como ChatGPT ocupando un lugar central en las discusiones sobre tecnología y generando múltiples llamadas regulatorias (incluso de muchos tipos de industrias tecnológicas), será interesante ver si los Estados miembros estarán de acuerdo con los eurodiputados. sobre la necesidad de añadir obligaciones para esta clase de sistemas de IA en el texto de la ley sobre la ‘IA.

El ejecutivo de la UE presentó la propuesta inicial para el marco basado en el riesgo para la IA en abril de 2021. Aunque este primer borrador de texto de la Comisión no abordó el tema de la IA de propósito general, propuso disposiciones de transparencia para los chatbots y la tecnología deepfake. Entonces, incluso en ese entonces, los legisladores europeos creían que los consumidores deberían ser conscientes de que estaban interactuando con contenido generado por máquinas.

Aunque la Comisión mantiene la esperanza de que las conversaciones tripartitas sobre el expediente de la ley de IA conduzcan a un acuerdo político para fines de este año, todavía habrá un período de implementación, por lo que es poco probable que la legislación se aplique hasta 2026.

Es por eso que la UE también está trabajando en varias iniciativas voluntarias que tienen como objetivo incentivar a las empresas de IA a autorregularse en materia de seguridad mientras tanto.

Más contenidos sobre empresas en América Latina

Deja una respuesta