Con un nuevo programa de subvenciones, OpenAI pretende subcontratar la regulación de la IA

Con un nuevo programa de subvenciones, OpenAI pretende subcontratar la regulación de la IA

OpenAI dice que está lanzando un programa para otorgar diez subvenciones de $ 100,000 para financiar experimentos en el establecimiento de un proceso democrático para decidir qué reglas deben seguir los sistemas de IA, «dentro de los límites establecidos por la ley».

El lanzamiento del programa de subvenciones se produce después de las llamadas de OpenAI para un regulador internacional de IA similar al que gobierna la energía nuclear. En su propuesta para dicho organismo, los cofundadores de OpenAI, Sam Altman, Greg Brockman e Ilya Sutskever, argumentaron que el ritmo de innovación en IA es tan rápido que no podemos esperar que las autoridades existentes tengan la tecnología adecuada, un sentimiento anunciado hoy. también capturar.

Concretamente, OpenAI dice que busca financiar a personas, equipos y organizaciones para desarrollar pruebas de concepto para un «proceso democrático» que podría responder preguntas sobre las salvaguardas de la IA. La compañía quiere aprender de estas experiencias, dice, y usarlas como base para un proceso más completo y ambicioso en el futuro.

LEER  Los contratistas de YouTube Music ganan histórica votación sindical

“Si bien estas experiencias iniciales no tienen la intención (al menos por ahora) de ser vinculantes para las decisiones, esperamos que exploren temas relevantes para la toma de decisiones y construyan nuevas herramientas democráticas que puedan informar más directamente las decisiones en el futuro”, escribió la compañía. en una entrada de blog. artículo publicado hoy. «Esta subvención representa un paso hacia el establecimiento de procesos democráticos para supervisar… la superinteligencia».

Con las subvenciones, proporcionadas por la organización sin fines de lucro OpenAI, OpenAI espera establecer un proceso que refleje el ideal platónico de la democracia: un grupo de personas «ampliamente representativas» que intercambien opiniones, participen en discusiones «deliberadas» y finalmente decidan un resultado a través de una proceso transparente. proceso de toma de decisiones. Idealmente, dice OpenAI, el proceso ayudará a responder preguntas como «¿Bajo qué condiciones los sistemas de IA deberían condenar o criticar a las figuras públicas, dadas las diferentes opiniones de los grupos con respecto a estas figuras?» y «¿Cómo se deben representar los puntos de vista cuestionados en los resultados de la IA?»

LEER  Prosus recorta la valoración del gigante edtech Byju a $ 5.1 mil millones

“El objetivo principal de esta subvención es fomentar la innovación de procesos: necesitamos métodos democráticos mejorados para gobernar el comportamiento de la IA”, escribe OpenAI. «Creemos que las decisiones sobre el comportamiento de la IA deben estar determinadas por diversas perspectivas que reflejen el interés público».

En la publicación del anuncio, OpenAI implica que el programa de subvenciones está completamente separado de sus intereses comerciales. Pero esa es una píldora un poco difícil de tragar, dadas las recientes críticas de Altman a la propuesta regulatoria de IA de la UE. El momento también me parece destacable, después de Altman apariencia ante el Comité del Congreso del Senado de EE. UU. la semana pasada, donde abogó por un tipo muy específico de regulación de IA que tendría un efecto mínimo en la tecnología de OpenAI tal como existe hoy.

Aún así, incluso si el programa termina siendo egoísta, es una dirección interesante para la formulación de políticas de IA (aunque duplica los esfuerzos de la UE en algunas formas obvias). Yo, por mi parte, tengo curiosidad por ver qué tipo de ideas de «proceso democrático» emergen, y qué candidatos termina eligiendo OpenAI.

LEER  Pale Blue Dot continúa invirtiendo en su visión climática, con un segundo fondo de $100 millones

Las personas pueden solicitar el programa de subvenciones OpenAI a partir de hoy; la fecha límite es el 24 de junio a las 9 p.m. PDT. Una vez que finaliza el período de solicitud, OpenAI seleccionará diez destinatarios exitosos. Los ganadores deberán presentar un concepto que involucre al menos a 500 participantes, publicar un informe público sobre sus hallazgos antes del 20 de octubre y abrir el código detrás de su trabajo.

Más contenidos sobre empresas en América Latina

Deja una respuesta