Inteligencia Artificial y Ciberseguridad

Dos temas en los que como responsables de diseñar, implementar y operar ambientes complejos de TI para nuestros clientes, no podemos darnos el lujo de quedarnos atrás en su comprensión y aplicación.

En el proceso continuo de mantenerme al día con estos temas, me topé con este artículo publicado en el Foro Económico Mundial que me pareció extraordinario y es por ello que decidí compartirlo con ustedes en español, pero puede siempre acceder a la liga que se incluye abajo para referirse al artículo original.

Lo relevante de este artículo para mí es como se devela lo que enfrentamos ya hoy en relación al cibercrimen y como se está dando la evolución de la defensa y el ataque, ambos usando Inteligencia Artificial.

Espero les parezca tan interesante como me lo ha parecido a mi y me va a encantar conocer sus puntos de vista al respecto.

https://www.weforum.org/agenda/2019/09/4-ways-ai-is-changing-cybersecurity-both-in-attack-and-defense/

La IA está transformando el cibercrimen.  Así es cómo podemos defendernos

En marzo de 2019, el CEO de una gran empresa energética dio reversa a una transferencia urgente que había realizado de € 220,000 a lo que él creía que era la cuenta de un nuevo proveedor de Europa del Este, después de una llamada que creía haber sostenido con el CEO de su empresa matriz. 

En cuestión de horas, el dinero había pasado a través de una red de cuentas en América Latina de presuntos delincuentes que habían usado inteligencia artificial (IA) para imitar convincentemente la voz del CEO.

Con una simple llamada y una voz creada artificialmente con IA, los criminales anularon capas y capas de controles de seguridad. 

El éxito que tuvieron ilustra cómo el uso de potentes tecnologías en desarrollo como IA, 5G, biometría y nuevas tecnologías de cifrado cambiarán el escenario del cibercrimen tanto para los que atacan como para los que defienden.

Por Qué la IA importa para el cibercrímen

Los cibercriminales son adeptos en adoptar cualquier técnica o innovación que les de ventaja sobre las defensas de ciberseguridad.

Casos de estudio recientes e investigación indican donde los defensores están observando los más recientes impactos:

  • Defendiéndose de ataques usando ‘fuerte’ IA – es donde los cibercriminales usan sistemas que operan, piensan y actúan como humanos.
  • Defendiéndose en contra de ataques que usan una ‘débil’ o ‘delgada’ IA – dónde sistemas son modelados en comportamiento humano para ejecutar tareas específicas.

Dados sus usos potenciales, se estima que la IA impulsará cambios sistémicos en el escenario de la ciberseguridad e impactará cuatro retos claves en ciberseguridad en el futuro cercano.

Reto 1: Incrementando sofisticación de los atacantes

Atacantes con diferentes grados de sofisticación, desde activistas sociales hasta naciones, que invierten sus esfuerzos en apuntar a oportunidades cuyas expectativas sean las de maximizar el retorno de la inversión.

Las organizaciones pueden conducir sus inversiones a aquellas basadas en control del riesgo para reducir su atractivo ante los atacantes. Mientras las organizaciones maduras despliegan programas de ciberseguridad, se vuelven objetivos de menor valor.

La IA tiene el potencial de acelerar el volumen de ataques mientras mejora la automatización de tareas y servicios maliciosos, a la vez que se reducen aún más las barreras de entrada y ejecución de las habilidades de los ataques.

Tecnología con IA activada puede también mejorar las habilidades de los atacantes de preservar su anonimato y distancia de sus víctimas en un ambiente donde atribuir e investigar crímenes es ya de por sí todo un reto.

Reto 2: Asimetría

Como defensores, debemos tener éxito en detener los ataques el 100% de las veces, mientras que los atacantes solo deben tener éxito una vez. Las organizaciones deben enfocarse en construir las capacidades correctas, un equipo que pueda implementar procesos y tecnología que reduzca la asimetría.

Mientras la IA y la automatización están reduciendo la variabilidad y costo, mejorando la escala y limitando los errores, los atacantes también usan IA para inclinar la balanza. Los Criminales podrán automatizar los elementos de consumo intensivo de recursos en sus ataques y anular los controles desplegados en su contra. Las predicciones más conservadoras de IA para el futuro cercano indican que los escaneos de vulnerabilidades con IA que pueden acelerar el descubrimiento y explotación de vulnerabilidades por los atacantes pueden ser un reto para las habilidades existentes de las organizaciones en gestión de vulnerabilidades y capacidad operativa de ciberseguridad.

Reto 3: Incrementando la superficie de ataque / Operaciones digitalizadas.

Mientras las organizaciones continúan creciendo, también lo hace el tamaño de la complejidad de su tecnología y el estado de sus datos, lo que significa que los atacantes tienen más superficie para explorar y explotar vulnerabilidades. Para mantenerse adelante de los atacantes, las organizaciones pueden desplegar tecnologías avanzadas tales como IA y automatización para ayudar a crear “puntos de estrangulamiento” defendibles en lugar de extender los esfuerzos por igual en todo el entorno.

Adicionalmente, el uso de IA en los procesos de negocio tiene el potencial de cambiar la naturaleza de los ciber-riesgos y activos que deben ser defendidos. Incrementar la dependencia en tecnología basada en IA puede crear oportunidades para los atacantes de interferir con procesos de negocio críticos, afectando tanto la toma de decisiones interna como las relaciones con los clientes.

Reto 4: Balanceando el riesgo y el habilitamiento operacional.

Las organizaciones buscan realizar sus operaciones con éxito y seguridad. Una fácil reacción ante cambios en el riesgo y las amenazas del entorno es el adoptar una cultura de mano-dura que terminará por reducir la competitividad y suprimirá la moral de la fuerza laboral. Por el contrario, los equipos de seguridad pueden usar aproximaciones basadas en riesgo al establecer procesos de gobierno y umbrales materiales, informando a los líderes de la operación sobre su postura en ciberseguridad e identificando iniciativas para mejorarlas continuamente.

Adicionalmente la habilitación operacional puede ser alcanzada por el uso de tecnología como la IA para mejorar como los equipos operacionales y de tecnología se enganchan con la seguridad. Por ejemplo, usando la tecnología disponible hoy, el tiempo requerido para completar un proceso rutinario de seguridad puede ser reducido significativamente al usar IA para automatizar el  consumo intensivo del recurso o del tiempo empleado para ello. Para equipos operacionales, las mejoras en la eficiencia de los procesos de seguridad reduce la fricción asociada con los requerimientos de seguridad. Con los desarrollos en tecnología de IA se espera que se desencadenan oportunidades para mejorar las operaciones en ciberseguridad y soportar el balance entre riesgo y retorno.

Construyendo una respuesta

En el siempre cambiante entorno de las ciberamenazas, las organizaciones tendrán que defenderse de riesgos que irán creciendo en complejidad y que se interconectan. Las tecnologías clave de la cuarta revolución industrial, incluyendo la IA, tienen el potencial de crear una serie de desplazamientos en el entorno. En el futuro cercano, la IA delineara el riesgo de las organizaciones y mediante el programa “Series de Futuro: Cibercrímen 2025” el Foro Económico Mundial y sus aliados buscarán identificar las acciones efectivas necesarias para mitigar y atender estos riesgos.

Francisco Valencia


Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *