Herramienta de fuentes abiertas de Microsoft para usar IA en ataques simulados


Únase a GamesBeat Summit 2021 del 28 al 29 de abril. Regístrese hoy para obtener un pase gratuito o VIP.


Como parte de la investigación de Microsoft sobre formas de utilizar el aprendizaje automático y la inteligencia artificial para mejorar las defensas de seguridad, la compañía ha lanzado un conjunto de herramientas de ataque de código abierto para permitir a los investigadores crear entornos de red simulados y ver cómo les va contra los ataques.

Lanzamiento de Microsoft 365 Defender Research CyberBattleSim, que crea una simulación de red y modela cómo los actores de amenazas pueden moverse lateralmente a través de la red en busca de puntos débiles. Al construir la simulación de ataque, los defensores e investigadores empresariales crean varios nodos en la red e indican qué servicios se están ejecutando, qué vulnerabilidades están presentes y qué controles de seguridad están en su lugar. Los agentes automatizados, que representan a los actores de amenazas, se implementan en la simulación de ataque para ejecutar acciones al azar mientras intentan hacerse cargo de los nodos.

“El objetivo del atacante simulado es apropiarse de una parte de la red explotando estas vulnerabilidades plantadas. Mientras el atacante simulado se mueve a través de la red, un agente defensor observa la actividad de la red para detectar la presencia del atacante y contener el ataque ”, el Equipo de investigación de Microsoft 365 Defender escribió en una publicación discutiendo el proyecto.

Uso del aprendizaje por refuerzo para la seguridad

Microsoft ha estado explorando cómo se pueden utilizar algoritmos de aprendizaje automático, como el aprendizaje por refuerzo, para mejorar la seguridad de la información. El aprendizaje por refuerzo es un tipo de aprendizaje automático en el que los agentes autónomos aprenden a tomar decisiones en función de lo que sucede mientras interactúan con el entorno. El objetivo del agente es optimizar la recompensa, y los agentes toman gradualmente mejores decisiones (para obtener una recompensa mayor) a través de intentos repetidos.

El ejemplo más común es jugar a un videojuego. El agente (el jugador) mejora en el juego después de repetidos intentos al recordar las acciones que funcionaron en rondas anteriores.

En un escenario de seguridad, hay dos tipos de agentes autónomos: los atacantes que intentan robar información de la red y los defensores que intentan bloquear o mitigar los efectos de un ataque. Las acciones de los agentes son los comandos que los atacantes pueden ejecutar en las computadoras y los pasos que los defensores pueden realizar en la red. Usando el lenguaje del aprendizaje por refuerzo, el objetivo del agente es maximizar la recompensa de un ataque exitoso al descubrir y hacerse cargo de más sistemas en la red, y encontrar más cosas para robar. El agente tiene que ejecutar una serie de acciones para explorar gradualmente las redes, pero sin activar ninguna de las defensas de seguridad que puedan existir.

Entrenamientos y juegos de seguridad

Al igual que la mente humana, la IA aprende mejor jugando, por lo que Microsoft convirtió CyberBattleSim en un juego. Captura la bandera competiciones y simulaciones de phishing ayudar a fortalecer la seguridad creando escenarios donde los defensores pueden aprender de los métodos de los atacantes. Al utilizar el aprendizaje por refuerzo para obtener la recompensa de “ganar” un juego, los agentes de CyberBattleSim pueden tomar mejores decisiones sobre cómo interactúan con la red simulada.

CyberBattleSim se centra en el modelado de amenazas de cómo un atacante puede moverse lateralmente a través de la red después de la infracción inicial. En la simulación de ataque, cada nodo representa una máquina con un sistema operativo, aplicaciones de software, propiedades específicas (controles de seguridad) y un conjunto de vulnerabilidades. El kit de herramientas utiliza la interfaz Open AI Gym para capacitar a agentes automatizados mediante algoritmos de aprendizaje por refuerzo. El código fuente de Python de código abierto es disponible en GitHub.

El comportamiento errático debería activar rápidamente las alarmas y las herramientas de seguridad responderían y expulsarían al actor malintencionado. Pero si el actor ha aprendido cómo comprometer los sistemas más rápido al acortar la cantidad de pasos que necesita para tener éxito, eso les da a los defensores una idea de los lugares que necesitan controles de seguridad para detectar la actividad antes.

CyberBattleSim es parte de la investigación más amplia de Microsoft para aplicar el aprendizaje automático y la inteligencia artificial para automatizar muchas de las tareas que los defensores de la seguridad están manejando actualmente de forma manual. en un estudio reciente de Microsoft, casi las tres cuartas partes de las organizaciones dijeron que sus equipos de TI dedicaban demasiado tiempo a tareas que deberían automatizarse. Los sistemas autónomos y el aprendizaje por refuerzo “se pueden aprovechar para construir tecnologías resistentes de detección de amenazas del mundo real y estrategias robustas de ciberdefensa”, escribió Microsoft.

“Con CyberBattleSim, solo estamos rascando la superficie de lo que creemos que es un enorme potencial para aplicar el aprendizaje por refuerzo a la seguridad”, escribió Microsoft.

VentureBeat

La misión de VentureBeat es ser una plaza urbana digital para que los responsables de la toma de decisiones técnicas obtengan conocimientos sobre tecnología transformadora y realicen transacciones. Nuestro sitio ofrece información esencial sobre tecnologías y estrategias de datos para guiarlo a medida que dirige sus organizaciones. Te invitamos a convertirte en miembro de nuestra comunidad, para acceder a:

  • información actualizada sobre los temas de su interés
  • nuestros boletines
  • contenido exclusivo de líderes de opinión y acceso con descuento a nuestros preciados eventos, como Transformar 2021: Aprende más
  • funciones de red y más

Hágase miembro

Latest articles

¿Target acaba de BAJAR a Chrissy Teigen sobre viejos tweets?

Es 2021 Chrissy Teigen enfrentando serias consecuencias por las cosas 2013 Chrissy Teigen tuiteó ?? En caso de que no lo haya visto, Batalla...

Ver avance: Estudiantes de último año de secundaria lo arriesgan todo para tener la oportunidad de ganar $ 50,000 en “Pánico”

Una adolescente arriesga su vida por una oportunidad de un futuro mejor en "Panic", un próximo drama de Amazon Prime YA. Basada...
49.6k Followers
Follow

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Translate »