IA y IA Gen están transformando la ciberseguridad en las organizaciones

Si bien la IA generativa aumenta las vulnerabilidades, más de la mitad de las organizaciones también prevén una detección de amenazas más rápida y una mayor precisión gracias a su uso.

Foto: Capgemini. Portal ERP México.

El reciente informe del Instituto de Investigación Capgemini, ‘Nuevas defensas, nuevas amenazas: lo que la IA y la IA generativa aportan a la ciberseguridad’, revela que, aunque están surgiendo nuevos riesgos de ciberseguridad, debido a la proliferación de la Inteligencia artificial (IA) y la IA generativa (Gen AI), estas tecnologías representan un cambio transformador en el fortalecimiento de las estrategias de ciberdefensa a largo plazo para predecir, detectar y responder a las amenazas. Dos tercios de las organizaciones están dando prioridad a la IA dentro de sus operaciones de seguridad.

Según el informe, las organizaciones consideran a la IA como una tecnología estratégica para reforzar sus estrategias de seguridad, la creciente adopción de la IA generativa en diversos sectores aumenta la vulnerabilidad.

La IA generativa introduce tres áreas principales de riesgo para las organizaciones: Ataques más sofisticados con más adversarios, la expansión de la superficie de ciberataques, y un aumento de las vulnerabilidades en todo el ciclo de vida de las soluciones IA generativas personalizadas.

Te puede interesar: Se cuadruplica el despliegue de IA generativa desde 2023: Capgemini

Estos riesgos también se ven agravados por el uso indebido de la IA y la IA Gen por parte de los empleados, que puede aumentar significativamente el riesgo de fuga de datos.

Dos de cada tres organizaciones desconfían de una mayor exposición a las amenazas

Casi todas las organizaciones encuestadas (97%) afirman haber sufrido brechas o problemas de seguridad relacionados con el uso de IA generativa en el último año. Ya que está también conlleva a riesgos adicionales, como alucinaciones, generación de contenidos sesgados, dañinos o inapropiados y ataques de inyección de instrucciones. Dos de cada tres organizaciones (67%) están preocupadas por el envenenamiento de datos y la posible filtración de datos sensibles a través de los conjuntos de datos de entrenamiento utilizados para entrenar los modelos de IA generativa.

Además, la capacidad de Gen AI para generar contenido sintético altamente realista plantea riesgos adicionales: más de dos de cada cinco organizaciones encuestadas (43%) afirmaron haber sufrido pérdidas económicas derivadas del uso de deepfakes.

Casi 6 de cada 10 empresas creen que necesitan aumentar su presupuesto de ciberseguridad para reforzar sus defensas

IA y Gen AI, primordiales para detectar y responder a los ataques

Después de encuestar a 1,000 organizaciones alrededor del mundo, que han considerado la IA para la ciberseguridad o que ya la están utilizando, los datos concluyeron en que la mayoría confía en la IA para reforzar la seguridad de sus datos, aplicaciones y nubes debido a la capacidad de la tecnología para analizar rápidamente grandes cantidades de datos, identificar patrones y predecir posibles brechas.

Más del 60% de ellas informaron de una reducción de al menos el 5% en el tiempo de detección, y casi el 40% afirmaron que su tiempo de corrección se redujo en un 5% o más tras implementar la IA en sus centros de operaciones de seguridad (SOC).

Tres de cada cinco organizaciones encuestadas (61%) creen que la IA es esencial para una respuesta eficaz ante las amenazas, ya que les permite aplicar estrategias de seguridad proactivas contra ciberdelincuentes cada vez más sofisticados. Además, la misma proporción de encuestados prevé que la IA generativa reforzará las estrategias proactivas de defensa a largo plazo, anticipando una detección más rápida de las amenazas. Más de la mitad de ellos cree también que la tecnología permitirá a los analistas de ciberseguridad concentrarse más en la estrategia para combatir los desafíos.

“El uso de la IA y la IA generativa ha demostrado hasta ahora ser un arma de doble filo. Aunque introduce riesgos sin precedentes, las organizaciones confían cada vez más en la inteligencia artificial para una detección más rápida y precisa de los incidentes cibernéticos. La IA y la IA generativa proporcionan a los equipos de seguridad nuevas y potentes herramientas para mitigar estos incidentes y transformar sus estrategias de defensa. Para asegurarse de que representan una ventaja real frente a la evolución de la sofisticación de las amenazas, las organizaciones deben mantener y priorizar el monitoreo continuo del panorama de seguridad, construir la infraestructura de gestión de datos necesaria, marcos y directrices éticas para la adopción de IA, y establecer programas sólidos de formación y concientización de los empleados”, dijo Marco Pereira, Director Global de Ciberseguridad, Cloud y Servicios de Infraestructura de Capgemini.