La IA generativa tiene el potencial de cambiarlo todo. Puede informar sobre nuevos productos, empresas, industrias e incluso economías. Pero lo que la hace diferente y mejor que la IA «tradicional» también podría hacerla peligrosa.
Su capacidad única para crear ha abierto un conjunto completamente nuevo de problemas de seguridad y privacidad.
De repente, las empresas deben hacerse nuevas preguntas: ¿Tengo los derechos sobre los datos de capacitación? al modelo? ¿En las salidas? ¿El sistema en sí tiene derechos sobre los datos que se crearán en el futuro? ¿Cómo se protegen los derechos de este sistema? ¿Cómo gobernar la privacidad de los datos en un modelo que utiliza IA generativa? La lista continúa.
No sorprende que muchas empresas se estén moviendo a la ligera. Las evidentes vulnerabilidades de seguridad y privacidad, junto con la renuencia a confiar en las soluciones Band-Aid existentes, han provocado que muchos prohíban estas herramientas por completo. Pero hay esperanza.
La informática confidencial, un nuevo enfoque de la seguridad de los datos que protege los datos en uso y garantiza la integridad del código, es la respuesta a los problemas de seguridad más complejos y graves de los modelos de lenguaje extenso (LLM). Está preparado para ayudar a las empresas a aprovechar todo el poder de la IA generativa sin comprometer la seguridad. Antes de explicar, primero veamos qué hace que la IA generativa sea particularmente vulnerable.
La IA generativa tiene la capacidad de ingerir los datos de toda una empresa, o incluso un subconjunto rico en conocimientos, en un modelo inteligente que permite realizar búsquedas y ofrece nuevos conocimientos al alcance de la mano. Esto tiene un gran atractivo, pero también es extremadamente difícil para las empresas mantener el control sobre sus datos patentados y cumplir con los requisitos normativos cambiantes.
La protección de los datos y los modelos de capacitación debe ser la máxima prioridad; ya no es suficiente cifrar campos de base de datos o líneas de formulario.
Esta concentración de conocimiento y los resultados generativos que se derivan de él, sin la seguridad de datos adecuada y el control de la confianza, podrían convertir inadvertidamente la IA generativa en un arma para el abuso, el robo y el uso indebido.
De hecho, los empleados traen cada vez más documentos comerciales confidenciales, datos de clientes, código fuente y otra información regulada a los LLM. Dado que estos modelos están parcialmente entrenados en nuevas entradas, podría provocar importantes filtraciones de IP si se violan. Y si los propios modelos se ven comprometidos, también se puede filtrar cualquier contenido que una empresa haya estado legal o contractualmente obligada a proteger. En el peor de los casos, robar un modelo y sus datos permitiría a un competidor o actor estatal duplicar todo y robar esos datos.
Estas son apuestas altas. Gartner encontrado recientemente que el 41% de las organizaciones han experimentado una violación de la privacidad o un incidente de seguridad relacionados con la IA, y más de la mitad son el resultado de un compromiso de datos por parte de una parte interna. El advenimiento de la IA generativa seguramente aumentará estos números.
Además, las empresas también deben mantenerse al día con las regulaciones de privacidad en evolución cuando invierten en IA generativa. En todas las industrias, existe una gran responsabilidad y un incentivo para cumplir con los requisitos de datos. En el cuidado de la salud, por ejemplo, la medicina personalizada impulsada por IA tiene un enorme potencial cuando se trata de mejorar los resultados de los pacientes y la eficiencia general. Pero los proveedores y los investigadores deberán acceder y trabajar con grandes cantidades de datos confidenciales de los pacientes sin dejar de cumplir, lo que presenta un nuevo dilema.
Para enfrentar estos desafíos y otros que inevitablemente surgirán, la IA generativa necesita una nueva base de seguridad. La protección de los datos y los modelos de capacitación debe ser la máxima prioridad; ya no es suficiente cifrar campos de base de datos o líneas de formulario.
En escenarios donde los resultados de la IA generativa se utilizan para decisiones importantes, la prueba de la integridad del código y los datos, y la confianza que transmite, será absolutamente esencial, tanto para el cumplimiento como para la gestión de la responsabilidad legal. Debe haber una manera de proporcionar protección hermética para todo el proceso y el estado en el que se ejecuta.
El advenimiento de la IA generativa «confidencial»
Confidential Computing ofrece una manera simple pero extremadamente poderosa de resolver lo que de otro modo parecería un problema irresoluble. Con la computación confidencial, los datos y la propiedad intelectual están completamente aislados de los propietarios de la infraestructura y solo son accesibles para aplicaciones confiables que se ejecutan en procesadores confiables. La confidencialidad de los datos está garantizada por el cifrado, incluso durante la ejecución.
La seguridad y la privacidad de los datos se convierten en propiedades intrínsecas de la computación en la nube, tanto que incluso si un atacante malicioso viola los datos de la infraestructura, la dirección IP y el código son completamente invisibles para ese actor malicioso. Esto es perfecto para la IA generativa, ya que mitiga sus riesgos de seguridad, privacidad y ataques.
La computación confidencial está ganando cada vez más popularidad como elemento innovador de la seguridad. Todos los principales proveedores de nube y fabricantes de chips están invirtiendo en ella, con ejecutivos en Azure, AWS y GCP proclaman su eficacia. Hoy, la misma tecnología que convierte incluso a los más resistentes a la nube podría ser la solución que ayude a la IA generativa a despegar de forma segura. Los líderes deben comenzar a tomarlo en serio y comprender sus profundos impactos.
Con Confidential Computing, las empresas pueden estar seguras de que los modelos generativos de IA solo aprenden sobre los datos que pretenden usar, y nada más. La capacitación con conjuntos de datos privados en una red de fuentes confiables en la nube brinda control total y tranquilidad. Toda la información, ya sea dentro o fuera, permanece completamente protegida y detrás de las cuatro paredes de la empresa.