cybercaronte

This user hasn't shared any profile information

La Inteligencia Artificial es el futuro de la Seguridad Informática

by cybercaronte - on Feb 20th 2017 - 1 Comment

https://farm1.staticflickr.com/684/32156020054_4e7ee7276f.jpg

Escena de la película “2001 Una Odisea Del Espacio” donde HAL 9000 lee los labios de los astronautas Frank y Dave. Enlace foto.

Se está hablando mucho de la IA (Inteligencia Artificial) y su aplicación en diversos campos como la conducción automática de vehículos o incluso en medicina identificando células cancerígenas mejor que un humano. Estos avances son realmente espectaculares y definitivamente cambiarán la humanidad  pero creo que no se está hablando lo suficiente del tremendo impacto de la IA dentro del mundo de la seguridad informática.

Pues prepárate porque este impacto será espectacular.

Hasta ahora la ciberseguridad es básicamente un juego entre humanos, pero esto cambiará muy pronto. Si ya existen programas con técnicas de Machine Learning para recomendarte libros o películas, en breve habrá un ejército de programas con su propia IA diseñados para protegerte … o para atacarte. ¿Podéis imaginaros un programa creado con fines maléficos diseñado con técnicas de IA para atacar ordenadores, instalaciones o cualquier cosa conectada a Internet, con todo el tiempo del mundo para aprender de sus vulnerabilidades? ¿Imagináis IA creadas a medida para atacar objetivos concretos ya que han crecido aprendiendo de ellos hasta el último detalle de su configuración o forma de trabajar?

Todas las IA se programan en base a patrones y reglas de aprendizaje, partiendo desde cero, para ir adquiriendo más conocimiento al igual que lo hace un humano que comienza a aprender una nueva tarea. La diferencia es que la curva de aprendizaje es muchísimo menor, y por lo tanto en poco tiempo esa IA será toda una experta en el tema para el cual se le ha entrenado, sea cual sea. Además trabajará sin descanso, 24 horas al día los los 365 días del año y además será más barata que un humano.

No estamos hablando de scripts o programas avanzados como los que ya existen, sino de programas inteligentes diseñados para aprender ha realizar una tarea concreta a base de ensayos, análisis y toma de decisiones. Estos programas son capaces de analizar el entorno, cambios, variables, etc para decidir qué método utilizar en un momento concreto para conseguir un objetivo. ¿Os acordáis del post que publicamos sobre “Cómo entrenar a tu IA”? En este post hablábamos sobre una plataforma creada para entrenar a una IA para superar niveles de juegos arcades clásicos. Esta IA comienza cometiendo muchos errores, incapaz de superar el primer nivel del juegos. Pero al cabo de un tiempo, posiblemente minutos, es capaz de pasar ese primer nivel pero no sólo eso, lo que ha aprendido para superar este nivel lo aplicará para superar el segundo, el tercero y así hasta completar el juego. Utilicemos ahora este mismo concepto de campo de entrenamiento” aplicado a la ciberseguridad. En vez de crear una plataforma con juegos clásicos como método de entrenamiento, podríamos utilizar por ejemplo una plataforma basada en máquinas virtuales con diferentes sistemas operativos y otros programas instalados como antivirus o cortafuegos. En este entorno controlado podemos enseñar a nuestra IA a atacar o defender esos equipos. Si queremos atacar, entrenaremos nuestra IA para que aprenda a analizar el equipo objetivo. Este análisis no terminará hasta que no sea capaz de conseguir la “recompensa” (término utilizado para definir la “motivación” de una IA para llegar a su objetivo) que será por ejemplo acceder a algunos ficheros del ordenador o realizar un ataque que lo inutilice. Si queremos defenderlo, nuestra IA aprenderá a analizar los programas instalados, los procesos, la memoria y analizar todos los posibles cambios en su entorno que puedan ser una pista de un posible ataque.

Pero además podemos dar un salto más allá y expandir los vectores de ataque al mundo físico. ¿Recordáis la escena de ¨2001 Una Odisea del Espacio” donde HAL 9000 lee los labios de los astronautas Frank y Dave cuando hablan de desconectarlo?. Esto ya es una realidad, las técnicas de visión artificial son capaces o están a punto de conseguir este espectacular avance. Por lo tanto una IA entrenada en leer los labios podría analizar y reconocer conversaciones consiguiendo todo tipo de información sensible. Imaginaos ahora una IA con acceso a miles de cámaras de seguridad. Siguiendo con la visión artificial, una IA entrenada a reconocer el movimiento de los dedos de la mano en un teclado (en cualquier dispositivo), podría por ejemplo ser capaz de reconocer las teclas que estás pulsando en y de esa forma conseguir tu contraseña en un ordenador o el patrón para desbloquear tu móvil.

Y lo mismo ocurre con el audio. Esas cámaras tienen micrófonos y una IA entrenada a reconocer conversaciones sería capaz de captar todo tipo de información e incluso discriminar conversaciones dentro de un ruido caótico. Pero además, y ahora sí que vamos a divagar un poco, esta misma IA podría ser capaz de simular tu voz y acceder a un sistema de seguridad basado en ella o aún peor, podría ser capaz de hacerse pasar por ti en una llamada por teléfono por ejemplo a tu banco… pero bueno esto quizás es imaginar demasiado ¿o quizás no?.

La IA revolucionará todas las técnicas que utilizamos para identificar y solucionar las vulnerabilidades en seguridad (por ejemplo necesitaremos nuevas herramientas de pentesting). Esta revolución será tan grande que afectará no solo al mundo de la seguridad, sino que tendrá también repercusión en todos los campos de la Informática que obligará a revisar, modificar e incluso cambiar protocolos, diseños, hardware, etc. Uno de estos elementos que desaparecerán o evolucionaran a otro nivel, son los los famosos captchas. Con su filosofía actual, no podrán ser capaces de distinguir a una máquina de un humano. A nivel de hardware, es posible que los nuevos cortafuegos que instalemos en nuestro sistema llegarán a nuestras manos con una configuración básica, mínima pero preparados para empezar a aprender desde cero sobre toda nuestra infraestructura y por lo tanto, defenderla mejor invirtiendo un tiempo inicial de entrenamiento. Finalmente tendríamos un dispositivo inteligente hecho a medida para defendernos que a la vez no parará de aprender de nosotros para ir evolucionando hacia la protección perfecta.

Antes comencé este artículo diciendo que la seguridad informática a día de hoy es un juego entre humanos. En pocos años pasará a ser un juego de maquinas, más parecido al clásico juego “Core Wars” pero esta vez el campo de batalla no será una simple matriz en la memoria de un ordenador. El nuevo campo de batalla será Internet.

Yo ya he desempolvado hace tiempo mis libros de Cálculo y Álgebra … 😉

Entradas relacionadas:

Inside Russia’s Hacker Underworld (Bloomberg)

by cybercaronte - on Feb 12th 2017 - No Comments

Entradas relacionadas: