Si bien la legislación sustantiva de IA aún podría llevar años, la industria se mueve a la velocidad de la luz y muchos, incluida la Casa Blanca, temen que vaya a toda marcha. Por lo tanto, la administración de Biden recopiló «promesas voluntarias» de 7 de los principales desarrolladores de IA para perseguir objetivos comunes de seguridad y transparencia antes de una orden ejecutiva esperada.
OpenAI, Anthropic, Google, Inflection, Microsoft, Meta y Amazon son las empresas que participan en este acuerdo no vinculante y enviarán representantes a la Casa Blanca para reunirse hoy con el presidente Biden.
Para ser claros, aquí no se ofrece ninguna regla o aplicación; las prácticas acordadas son puramente voluntarias. Pero si bien ninguna agencia gubernamental responsabilizará a una empresa si evita algunos, también es probable que sea un asunto de dominio público.
Esta es la lista de asistentes al concierto en la Casa Blanca:
- Brad Smith, presidente de Microsoft
- Kent Walker, presidente de Google
- Dario Amodei, CEO, Anthropic
- Mustafa Suleyman, director ejecutivo de Inflection AI
- Nick Clegg, presidente de Meta
- Greg Brockman, presidente de OpenAI
- Adam Selipsky, director ejecutivo, servicios web de Amazon
Sin subordinados, pero tampoco multimillonarios. (Y ninguna mujer.)
Las siete empresas (y probablemente otras que no han recibido el tratamiento de la alfombra roja pero querrán aceptarlo) se han comprometido a lo siguiente:
- Pruebas de seguridad internas y externas de los sistemas de IA antes del lanzamiento, incluidas las contradictorias «el equipo rojo» por expertos externos a la empresa.
- Compartir información entre el gobierno, la academia y la «sociedad civil» sobre los riesgos de la IA y las técnicas de mitigación (como la prevención del «jailbreak»).
- Invierta en ciberseguridad y «protecciones contra amenazas internas» para proteger los datos de modelos privados como pesas. Esto es importante no solo para proteger la propiedad intelectual, sino también porque la difusión prematura a gran escala podría presentar una oportunidad para los actores malintencionados.
- Facilite que terceros descubran e informen vulnerabilidades, como un programa de recompensas por errores o análisis de expertos de dominio.
- Desarrolle una marca de agua sólida u otra forma de marcar el contenido generado por IA.
- Reportar “capacidades, limitaciones y áreas de uso apropiado e inapropiado” de los sistemas de IA. Buena suerte para obtener una respuesta directa sobre esto.
- Priorizar la investigación sobre los riesgos sociales, como el sesgo sistemático o los problemas de privacidad.
- Desarrollar y desplegar IA «para ayudar a abordar los mayores desafíos de la sociedad», como la prevención del cáncer y el cambio climático. (Aunque en una llamada de prensa se señaló que no se rastreó la huella de carbono de los modelos de IA).
Si bien lo anterior es voluntario, uno puede imaginar fácilmente que la amenaza de una orden ejecutiva (actualmente están «desarrollando» una) está ahí para alentar el cumplimiento. Por ejemplo, si algunas empresas no permiten pruebas de seguridad externas de sus modelos antes del lanzamiento, el OE puede desarrollar un párrafo que instruye a la FTC a examinar los productos de IA que afirman tener una seguridad sólida. (Una EO ya está solicitando a las agencias que tengan cuidado con los sesgos en el desarrollo y uso de la IA).
La Casa Blanca obviamente está ansiosa por adelantarse a esta próxima gran ola de tecnología, ya que las capacidades disruptivas de las redes sociales la tomaron desprevenida. Tanto el presidente como el vicepresidente se han reunido con líderes de la industria y han buscado asesoramiento sobre una estrategia nacional de IA, y también están comprometiendo una buena parte de los fondos para nuevos centros y programas de investigación de IA. Por supuesto, el aparato científico y de investigación nacional está muy por delante de ellos, porque esta herramienta muy completa (aunque necesariamente algo obsoleta) informe sobre los desafíos y oportunidades de investigación de los programas del DOE y los laboratorios nacionales.