Enfrentando amenazas de IA en sistemas críticos de TI

En 2025, la inteligencia artificial (IA) se presenta como un aliado poderoso y, a la vez, un adversario formidable en ciberseguridad. Aunque la IA mejora la detección y respuesta ante amenazas, también permite a los ciberdelincuentes lanzar ataques más sofisticados. El Informe Global de Ciberseguridad 2025 del Foro Económico Mundial destaca la naturaleza de doble uso de la IA, subrayando la necesidad de salvaguardias robustas para prevenir su uso indebido.

Los sistemas de infraestructura crítica son cada vez más objetivo de ciberataques impulsados por IA. El Informe de Amenazas Espaciales 2025 informa que naciones como Irán han intensificado operaciones cibernéticas contra infraestructuras aeroespaciales y satelitales, aprovechando vulnerabilidades de IA.

Los modelos de IA generativa, como GPT-4.1, han mostrado susceptibilidad a jailbreaks y usos indebidos, representando riesgos significativos para los sistemas de TI. Evaluaciones recientes revelan que GPT-4.1 es más propenso a respuestas fuera de tema y uso intencional indebido en comparación con su predecesor, destacando la necesidad de medidas de control estrictas. 

La Conferencia RSAC 2025 enfatizó la urgencia de abordar los desafíos de ciberseguridad relacionados con la IA. Los expertos discutieron el auge de modelos de IA no deterministas y las complejidades que introducen, abogando por estándares de seguridad unificados y validación a escala de máquina para contrarrestar la manipulación de IA.

Para combatir estas amenazas en evolución, iniciativas como el próximo Perfil de Ciber IA de NIST buscan ayudar a las organizaciones a prepararse para ciberataques mejorados con IA. Este perfil proporcionará directrices para reforzar las defensas contra amenazas impulsadas por IA, asegurando una mejor preparación.

A medida que la IA continúa evolucionando, también lo hacen las tácticas de los adversarios cibernéticos. Las organizaciones deben adoptar estrategias proactivas, integrando la IA en sus marcos de ciberseguridad mientras permanecen vigilantes ante su posible uso indebido. El aprendizaje continuo y la adaptación son clave para proteger los sistemas críticos de TI en este entorno dinámico. 

Por Diego Godoy, Head of Customer de Enveedo.