Se dice que la FTC se encuentra al menos en la fase exploratoria de investigar a OpenAI para determinar si la IA conversacional ChatGPT insignia de la compañía ha hecho declaraciones «falsas, engañosas, despectivas o dañinas» sobre las personas. Parece poco probable que esto conduzca a una represión repentina, pero muestra que la FTC está haciendo más que advertir a la industria de IA sobre posibles violaciones.
El Washington Post informó por primera vez la noticia., citando el acceso a una carta de 20 páginas a OpenAI solicitando información sobre quejas de difamación. La FTC se negó a comentar y señaló que sus investigaciones no son públicas.
En febrero, el regulador anunció la creación de una nueva Oficina de Tecnología para abordar el ‘aceite de serpiente’ del sector tecnológico y, poco después, advirtió a las empresas que hicieran afirmaciones sobre la IA que estaban sujetas a las mismas exigencias de verdad que cualquier otra persona. “Mantenga sus reclamos de IA bajo control”, escribieron, o la FTC lo hará.
Aunque la carta que se informa en la publicación no es la primera vez que la agencia adopta una de las muchas formas de IA, parece anunciar que el actual líder mundial indiscutible en el campo, OpenAI, debe estar listo para justificar.
Este tipo de investigación no surge de la nada: la FTC no mira a su alrededor y dice: «Esto parece sospechoso». Por lo general, se les presenta una demanda o queja formal y las prácticas descritas allí dan como resultado que se ignoren las reglamentaciones. Por ejemplo, una persona puede demandar a una compañía de suplementos porque las píldoras la enfermaron, y la FTC iniciará una investigación como resultado de eso, porque hay evidencia de que la compañía mintió sobre los efectos secundarios.
Si es así, existe una alta probabilidad de que una demanda como esta, en la que un alcalde australiano se quejó ante OpenAI de que ChatGPT dijo que fue acusado de corrupción y sentenciado a prisión, entre otras cosas, podría desencadenar una investigación. (Este caso está en curso y, por supuesto, la jurisdicción es mala, pero es casi seguro que hay más como este).
Publicar tales cosas podría constituir difamación o difamación o simplemente «daño a la reputación», como lo llamaría la carta actual de la FTC a OpenAI. C’est presque certainement ChatGPT en cause car c’est le seul produit vraiment public du portefeuille d’OpenAI qui pourrait faire une telle chose – GPT-4 et les autres API sont un peu trop verrouillés (et sont trop récents) pour être pris en cuenta.
Esto no es pan comido: los tecnicismos por sí solos cuestionan si esto cuenta como una publicación o un discurso o incluso cualquier otra cosa que no sea una comunicación privada; todo esto debe probarse.
Pero tampoco es una locura pedirle a una empresa que se explique. Una cosa es cometer un error y otra inventar detalles sobre las personas de forma sistemática e indetectable, a gran escala, y no decir nada al respecto. Si el corrector ortográfico de Microsoft Word agregara ocasionalmente «delincuente convicto» delante de los nombres de las personas, es mejor que crea que habría un alboroto.
Si bien la FTC ha sufrido recientemente algunas derrotas de alto perfil en la forma de sus esfuerzos contra las fusiones dirigidas a Meta y Microsoft derribados, también ha criticado a las empresas tecnológicas por problemas de privacidad e incluso infracciones adyacentes a la IA.