3 cosas que las empresas deben hacer para proteger las aplicaciones en la era de la IA
Las organizaciones necesitan rápidamente adaptar sus estrategias de seguridad de aplicaciones para hacer frente a las nuevas amenazas impulsadas por IA.
Ellos entienden:
- Tráfico de bots más sofisticado.
- Ataques de phishing más creíbles.
- El aumento en la cantidad de agentes legítimos de IA que acceden a las cuentas en línea de los clientes en nombre de los usuarios.
Al comprender las implicaciones de la IA en la gestión de acceso a la identidad (IAM) y tomar medidas proactivas, las empresas pueden mantenerse a la vanguardia de la IA y proteger sus activos digitales. Estas son las tres acciones principales que las organizaciones que preparan la seguridad de sus aplicaciones para un mundo posterior a la IA deben considerar en sus estrategias de seguridad:
Ya estamos viendo ejemplos de sitios de ingeniería inversa impulsados por IA para obtener computación de IA gratuita.
Defiéndete de la ingeniería inversa
Cualquier aplicación que expone las capacidades de IA del lado del cliente está expuesta a ataques de bots particularmente sofisticados que buscan «desnatar» o enviar spam a esos puntos finales de API, y ya estamos viendo ejemplos de sitios impulsados por ingeniería inversa por IA para obtener computación de IA gratuita.
Toma el ejemplo de GPT4Gratis, un proyecto de GitHub dedicado a sitios de ingeniería inversa para aprovechar los recursos de GPT. Acumuló la asombrosa cantidad de más de 15,000 estrellas en solo unos pocos días en un flagrante ejemplo público de ingeniería inversa.
Para evitar la ingeniería inversa, las organizaciones deben invertir en bots y herramientas avanzadas de mitigación del fraude. Los métodos estándar contra bots como CAPTCHA, limitación de velocidad y JA3 (una forma de huella digital TLS) pueden ser útiles para derrotar a los bots comunes, pero estos métodos estándar son fácilmente derrotados por problemas de bots más complejos como los que enfrentan las terminales de IA. La protección contra la ingeniería inversa requiere herramientas más sofisticadas como CAPTCHA personalizados o JavaScript a prueba de manipulaciones y herramientas de huellas dactilares de dispositivos.