Las dos caras de la IA en ciberseguridad

La IA es un arma de doble filo ya que, así como comienza a traernos numerosos beneficios para la vida en general, los atacantes la empiezan a utilizar para crear nuevas formas de explotar sus capacidades y mejorar los ataques.

Marcelo Felman, Director de Ciberseguridad para Microsoft en Latinoamérica. Foto: Portal ERP México.

La inteligencia artificial (IA) está aumentando potencialmente su presencia no sólo en la vida cotidiana, sino en el mundo de los negocios. Sin embargo, este ritmo acelerado en su implementación suele traer una serie de desafíos para la ciberseguridad.

“La inteligencia artificial es un arma de doble filo ya que, así como comienza a traernos numerosos beneficios para la vida en general, los atacantes la empiezan a utilizar para crear nuevas formas de explotar sus capacidades y mejorar los ataques”, comentó Marcelo Felman, Director de Ciberseguridad para Microsoft en Latinoamérica.

De acuerdo con el Informe de Protección Digital de Microsoft 2024, los actores maliciosos suelen estar mejor preparados y utilizan tácticas más sofisticadas para sus ataques, lo que requiere una respuesta ágil, efectiva y sistemas de seguridad más robustos.

Es aquí donde vemos la otra cara de la IA, ya que no sólo los cibercriminales la están aprovechando, también es una tecnología que está ayudando a robustecer los mecanismos de defensa, creando una detección proactiva de amenazas y mejorando la respuesta a incidentes, transformando, a su vez, el panorama de la ciberseguridad.

“Existen dos ámbitos donde la inteligencia artificial puede mejorar la ciberseguridad: escalando la habilidad humana al automatizar el bloqueo de comportamientos sospechosos, lo que llamamos la detección avanzada en tiempo real. La segunda, ingeniería inversa para poder detectar vulnerabilidades antes que los adversarios y mejorar la capacidad de respuesta”, agregó Felman.

Te puede interesar: Es tiempo de abordar los riesgos de contenidos abusivos generados con IA: Microsoft

Cinco principios de acceso a la IA

Microsoft busca democratizar el acceso a la IA sin dejar de lado la ciberseguridad, por ello, ha desarrollado los Cinco Principios de Acceso a la IA que se centran en proporcionar acceso y soporte para desarrolladores de IA, para crear modelos y aplicaciones que cumplan con las responsabilidades sociales y de protección digital.

• 1 - Habilitar la innovación y fomentar la competencia. La IA es una tecnología con capacidad de ayudar a resolver problemas sociales, mejorar la productividad humana y hacer que las empresas y los países sean más competitivos. Se debe tener la responsabilidad de ayudar a impulsar la innovación y la competencia en toda la nueva economía de la IA.
• 2 - La IA debe cumplir con obligaciones bajo la ley. Las leyes y reglas de tecnología cambian de manera rápida. La Unión Europea ha comenzado a implementar su Ley de Mercados Digitales y a completar su Ley de IA, mientras que Estados Unidos avanza de manera rápida con una nueva Orden Ejecutiva de IA. Leyes e iniciativas similares avanzan en el Reino Unido, Canadá, Japón, India y muchos otros países. Todos los participantes en este nuevo mercado de IA, deben cumplir con las obligaciones bajo la ley.
• 3 - La IA se debe llevar bajo asociaciones. El mundo de la tecnología debe de dejar de competir para ser asociaciones, uniendo fuerzas. La innovación y la competencia requerirán una amplia gama de soporte similar para modelos de IA propietarios y de código abierto, grandes y pequeños.
• 4 - Asociación extendida a clientes, comunidades y países. Se debe estar siempre consciente que las necesidades de la comunidad deben respaldar los avances de la IA, y se debe buscar un espíritu de asociación no solo con otros en la industria, sino con clientes, gobiernos y la sociedad civil.
• 5 - Se necesita ser proactivo y constructivos. Se necesita ser buenos oyentes y solucionadores de problemas constructivos al clasificar los problemas de preocupación e identificar pasos prácticos y soluciones antes de que se complete y lance un nuevo producto.

“Estos principios nos van a permitir desarrollar una IA bajo esquemas de seguridad, ya que cuando nos digitalizamos muy rápido nos exponemos a riesgos que no conocíamos. Todos estamos en esta carrera por sacar el máximo valor posible de la tecnología, pero una lección que nos dejó el COVID-19, es que tenemos que hacerlo de forma segura al mismo tiempo. En Microsoft nos estamos esforzando en diseñar y digitalizar de forma responsable”, agregó Marcelo Felman. 

Con estas iniciativas, Microsoft busca establecer un estándar de seguridad y responsabilidad en la era de la inteligencia artificial, encontrando el balance entre innovación y seguridad para enfrentar los desafíos actuales y futuros en el ámbito digital.

“No solamente se trata de crear sistemas que sean responsables con la IA, sino que además podamos adoptar rápidamente para ganarle a los ciudadanos. Para lograrlo debemos volver a los básicos de ciberseguridad. La abrumadora mayoría de los ataques, el 99% de ellos según los últimos reportes de defensa que tenemos, se pueden evitar con medidas básicas o medidas higiénicas de ciberseguridad: sistemas operativos actualizados, antimalware, mecanismos robustos de autenticación, entre otras prácticas”, finalizó Marcelo Felman, Director de Ciberseguridad para Microsoft en Latinoamérica.