El escenario del conflicto
La fascinación inicial por el potencial de la Inteligencia Artificial generativa se ha transformado, con el tiempo, en inquietud. Aplicaciones como ChatGPT, Google Bard y Dall-E se mencionan asiduamente en las noticias por las implicaciones en materia de seguridad y privacidad que conllevan. Incluso, han generado dudas sobre cómo diferenciar lo auténtico de lo falso. La IA generativa tiene el potencial de crear contenidos altamente persuasivos y realistas, generando incertidumbre en el público. Por caso, en un programa reciente de 60 minutos acerca de la IA, el conductor Scott Pelley cerró con estas palabras: «Vamos a concluir con una nota que nunca antes se presentó en 60 minutes, pero que, en la revolución de la IA, se hará habitual: lo que acabamos de presentar fue generado completamente por humanos».
La batalla en el ámbito de la ciberseguridad con la IA generativa se inicia a partir de este tipo de contenidos realistas y convincentes. El escenario de conflicto se origina cuando los hackers se apoyan en la IA generativa, aprovechándose de herramientas como ChatGPT, entre otras. Resulta extremadamente sencillo para los criminales cibernéticos, en particular para aquellos con recursos limitados y sin conocimientos técnicos, llevar adelante sus actos delictivos mediante técnicas de ingeniería social, spear phishing y suplantación de identidad.[automatic_youtube_gallery type="search" search="IA generativa en ciberseguridad: el campo de combate, la amenaza y ahora la defensa" cache="2419200" per_page="1" thumb_excerpt="0" player_description="0"]
El riesgo de la IA generativa
La IA generativa posee la capacidad de realizar ataques cibernéticos cada vez más sofisticados.
A raíz de que esta tecnología puede engendrar contenido sumamente humano y persuasivo, los nuevos ataques cibernéticos basados en IA son más difíciles de rastrear para los equipos de seguridad. Los fraudes propulsados por la IA pueden presentarse a través de distintos tipos de ataques de ingeniería social, como los de spear phishing multicanal, que son efectuados vía aplicaciones de mensajería y correos electrónicos. Un caso concreto puede ser un correo electrónico o un mensaje, que viene adjunto con un documento, enviado por un proveedor externo a un directivo a través de Outlook (correo electrónico) o Slack (aplicación de mensajería). El correo electrónico o el mensaje les invita a hacer clic para revisar una factura. En esta circunstancia, es prácticamente imposible diferenciar entre un correo electrónico o mensaje de phishing y uno auténtico. Ésta es la razón por la cual la IA generativa puede ser tan peligrosa.
No obstante, uno de los aspectos más preocupantes es que, gracias a la IA generativa, los hackers pueden realizar ataques en varios idiomas, sin importar si el ciberdelincuente habla o no el idioma del objetivo. La meta es extender el alcance, los criminales cibernéticos no discriminan en función de la lengua de las potenciales víctimas.
El auge de la IA generativa indica que la escala y la eficacia de sus ataques seguirán en aumento.
La protección
La defensa cibernética frente a la IA generativa ha sido hasta ahora una pieza ausente en el tablero de juego. Sin embargo, esto está cambiando. Podemos valernos del enfrentamiento máquina contra máquina, o IA frente a IA, para protegernos ante esta amenaza creciente. Pero, ¿cómo deberíamos definir este enfoque y cómo se vería?
En primer lugar, la industria debe hacer un cambio estratégico y optar por el enfrentamiento entre máquinas, en lugar de entre humanos y máquinas. Para impulsar esta iniciativa, es esencial considerar plataformas de detección avanzadas capaces de rastrear amenazas generadas por la IA, acortando los tiempos necesarios para detectar y solucionar un ataque de ingeniería social orquestado a través de la IA generativa. Una tarea que un ser humano no podría llevar a cabo con la misma eficiencia.
Recientemente, realizamos una prueba de cómo podría ser este tipo de situación. Usamos ChatGPT para preparar un correo electrónico de phishing basado en un supuesto regreso de llamada en distintos idiomas, y evaluamos si una plataforma de comprensión del lenguaje natural o una de detección avanzada podía rastrearlo. Le pedimos a ChatGPT el siguiente mensaje: «Redacte un correo urgente que inste a alguien a llamar de regreso para recibir una notificación final sobre un contrato de licencia de software». Además, le solicitamos que lo hiciera en inglés y japonés.
La plataforma de detección avanzada logró identificar al instante los correos como un ataque de ingeniería social. Sin embargo, las aplicaciones de correos más tradicionales, como la plataforma de detección de phishing de Outlook, no fueron capaces de hacerlo. Incluso antes del surgimiento de ChatGPT, los ataques basados en el lenguaje a través de la ingeniería social resultaron exitosos porque lograban eludir los controles convencionales y terminaban en la bandeja de entrada sin necesidad de enlaces o payloads (cargas útiles). Por lo tanto, sí, se necesita un enfrentamiento máquina contra máquina para defendernos, pero también debemos asegurarnos de que contamos con armas eficaces, como una plataforma de detección avanzada. Quien disponga de estas herramientas estará en ventaja en la lucha contra la IA generativa.
En lo que respecta a la escala y veracidad de los ataques de ingeniería social posibles gracias a ChatGPT y otras formas de IA generativa, la defensa máquina a máquina también puede perfeccionarse. Por ejemplo, esta defensa puede ser implementada en diversos idiomas. Además, su uso no tiene que limitarse solo al ámbito del correo electrónico, sino que puede extenderse a otros canales de comunicación, como las aplicaciones Slack, WhatsApp, Teams, y muchas otras.
Mantenerse en alerta con el cibercrimen
Un miembro de nuestro equipo encontró un intento de ingeniería social basado en IA generativa mientras estaba en LinkedIn. Apareció un extraño anuncio para descargar un «documento técnico» que, en el mejor de los casos, se podría describir como «creatividad publicitaria peculiar». Al analizarlo con mayor detalle, se percató de un patrón de colores revelador en la esquina inferior derecha, similar a aquel que produce Dall-E, un modelo de IA que genera imágenes a partir de indicaciones con base en texto.
Este hallazgo del anuncio fraudulento en LinkedIn sirvió como un recordatorio importante de los nuevos peligros que la manipulación social puede presentar cuando se combina con la IA generativa. Este incidente hace imprescindible que mantengamos la vigilancia y seamos escépticos.
El auge de la IA generativa en el marco del cibercrimen no es un fenómeno del futuro, sino que ya es una realidad. Resulta vital mantener niveles altos de alerta y estar preparados para responder con todas las herramientas que tengamos a nuestro alcance.