En el imprevisible mundo de la ciberseguridad, mantener la ventaja frente a los ciberdelincuentes es una batalla continua. Desde hace más de dos décadas, la inquietud relativa a la seguridad de las aplicaciones ha sido una constante, y las tácticas convencionales a menudo caen en la erradicación y amansamiento de amenazas novedosas. Sin embargo, emerge una tecnología de vanguardia conocida como Inteligencia Artificial Generativa (o GenAI). En este artículo, analizaremos su relevancia en el ámbito de la ciberseguridad, cómo solventa desafíos históricos que las técnicas anteriores no lograban, las posibles repercusiones en el ecosistema de la seguridad y cómo se distingue de los modelos más antiguos de aprendizaje automático (ML).
¿Por qué necesitamos una nueva tecnología para este dilema?
El desafío de la seguridad en las aplicaciones es multifacético y complicado. Las soluciones de seguridad convencionales han dependido principalmente del reconocimiento de patrones, detección basada en firmas y tácticas basadas en reglas. Aunque resulten eficaces en situaciones sencillas, estos métodos luchan por mantenerse al ritmo de las innovadoras formas en que los desarrolladores escriben código y configuran sistemas. Los ciberatacantes de hoy en día actualizan continuamente sus estrategias de ataque, expandiendo la superficie de ataque y excediendo la capacidad de detección de los patrones primordiales para protegerse contra los nuevos riesgos. Esto exige un cambio de mentalidad en las estrategias de seguridad, y la GenAI emerge como una posible respuesta a estos retos.
La magia del LLM dentro de la ciberseguridad
La tecnología GenAI representa un avance sobre los modelos antiguos que se utilizaban en algoritmos de aprendizaje automático, altamente eficientes para clasificar o agrupar datos basados en el aprendizaje adquirido de ejemplos sintéticos. Los LLM modernos se entrenan con millones de ejemplos de enormes repositorios de código (como GitHub) que están parcialmente etiquetados por problemas de seguridad. Al aprender de grandes volúmenes de datos, los modelos LLM modernos pueden cosas como descifrar los patrones, estructuras y relaciones existentes en el código y el entorno de la aplicación, lo que permite identificar posibles vulnerabilidades y prever estrategias de ataque con las entradas y la preparación correctas.
Otro avance significativo es la facultad de crear muestras de soluciones realistas que pueden ayudar a los desarrolladores a detectar la raíz del problema y solucionarlo más rápidamente. Esto es de gran utilidad en organizaciones extensas en las cuales los profesionales de la seguridad suelen estar sobrecargados y aislados organizativamente.
¿Qué disrupciones anticipamos gracias a la GenAI?
La GenAI tiene el potencial de revolucionar la seguridad de las aplicaciones en diferentes formas:
Detección automática de vulnerabilidades: Las herramientas de escaneo convencionales a menudo dependen del establecimiento manual de reglas o de una limitada coincidencia de patrones. La GenAI es capaz de automatizar este proceso aprendiendo de extensos repositorios de código y generando muestras sintéticas para identificar vulnerabilidades. Así, se reduce el tiempo y esfuerzo necesario para el análisis manual.
Simulación de ataques adversarios: Las simulaciones de ataques son una parte integral de las pruebas de seguridad, ya que buscan identificar las deficiencias de una aplicación. La GenAI es capaz de generar escenarios de ataques realistas, incluyendo ataques múltiples sofisticados. Ello permite que las organizaciones reforcen sus medidas de defensa contra amenazas reales. Un gran ejemplo de ello es «BurpGPT», una mezcla de GPT y Burp, que ayuda a identificar problemas de seguridad dinámicos.
Creación inteligente de parches: Crear parches efectivos para las vulnerabilidades es una tarea complicada. La GenAI puede analizar las bases de código existentes y generar parches específicos para ciertas vulnerabilidades, ahorrando tiempo y minimizando el error humano en el proceso de desarrollo de parches.
Aunque la industria ha sido reticente a este tipo de soluciones previamente, la combinación de correcciones de código automatizadas y la capacidad de generar pruebas mediante GenAI podría ser la vía para que la industria empuje los límites a un nuevo nivel.
Mejora de la inteligencia de amenazas: La GenAI puede analizar grandes volúmenes de datos de seguridad, incluyendo informes de vulnerabilidad, patrones de ataque y muestras de malware. GenAI puede mejorar notablemente las capacidades para la detección de amenazas al generar nuevos conocimientos e identificar tendencias emergentes desde una indicación inicial hasta un modelo práctico y funcional, permitiendo estrategias de defensa proactivas.
El futuro de los LLM y la seguridad de aplicaciones
Los LLM aún presentan ciertas limitaciones para lograr una seguridad impecable de las aplicaciones a consecuencia de su comprensión contextual limitada, la cobertura de código inconsistente, la falta de evaluación en tiempo real y la ausencia de conocimiento específico del dominio. Para superar estas limitaciones en los próximos años, una solución probable tendrá que combinar enfoques de LLM con herramientas de seguridad especializadas, fuentes externas de enriquecimiento y escáneres. Los progresos continuos en inteligencia artificial y seguridad contribuirán a superar estas limitaciones.
En general, cuanto mayor sea la cantidad de datos disponibles, más preciso será el LLM que se pueda crear. Esto se aplica también al código, de modo que a medida que dispongamos de más código en el mismo lenguaje, podremos utilizarlo para crear LLM más eficientes. Esto, a su vez, impulsará una mejor generación de código y seguridad en el futuro.
Esperamos que en los próximos años asistamos a avances en la tecnología de los LLM, incluyendo la capacidad de utilizar tokens más grandes, lo que tiene un gran potencial para mejorar aún más la ciberseguridad basada en IA de manera significativa.
LEE MÁS ARTÍCULOS SOBRE: Seguridad con IA.
LEE LA ENTRADA ANTERIOR: El marco de IA dirigido por humanos promete un aprendizaje de robótica más rápido en entornos innovadores.