La Ciberseguridad, un pilar crítico en la era de la Inteligencia Artificial
Impacto de la evolución de la Tecnología IA e irrupción de aplicaciones IA en el ámbito de la ciberseguridad
En un mundo cada vez más impulsado por la inteligencia artificial (IA), la ciberseguridad se ha convertido en una prioridad esencial para proteger los sistemas, datos y usuarios frente a las crecientes amenazas digitales.
La tecnología IA se va adoptando a velocidad de vértigo en todos los sectores de actividad, generando una auténtica revolución y abriendo la puerta a enormes avances. La IA ha irrumpido así, no solo en el terreno de lo personal, sino de lo social, cultural y, como no podía ser de otra manera, en el ámbito empresarial.
Como viene sucediendo habitualmente, la adopción de una nueva tecnología trae consigo también aspectos negativos. En este caso está siendo muy patente que la aplicación no planificada de herramientas IA o, peor aún, el uso con intenciones delictivas de esta potente tecnología trae consigo un alto incremento de riesgos cibernéticos con nuevas tipologías de amenazas que deben preocupar a cualquier organización o empresa. Los ciberataques en la última década han experimentado una intensidad y frecuencia creciente, que pueden ser impulsados aún más con el uso de IA al servicio de los ciberdelincuentes.
Si ponemos el foco en el sector agroalimentario, podemos observar cómo la adopción de la IA está marcando una nueva era de mejora de la eficiencia, sostenibilidad y rentabilidad. Desde la optimización de cultivos hasta la mejora en la logística de distribución, esta tecnología está transformando todas las etapas de la cadena de valor, ofreciendo soluciones a desafíos clave como el cambio climático, la escasez de recursos y el aumento de la demanda alimentaria global.
Empresas líderes en el sector ya están integrando soluciones de IA con resultados positivos, inspirando a pequeños y medianos productores a seguir su ejemplo. La colaboración entre instituciones públicas, académicas y el sector privado será esencial para afrontar la transformación digital agroalimentaria y asegurar que los beneficios de la IA lleguen a todos los niveles de la industria. Es hora de evaluar si disponemos de las medidas de seguridad imprescindibles para abordar esta nueva etapa.
Nuevas amenazas y tipos de ataque basados en IA
El avance de la Digitalización y Automatización en los entornos empresariales e industriales proporciona nuevos objetivos y vectores de ataque a los ciberdelincuentes. Para afrontar estos retos, es crucial que las organizaciones pongan en marcha estrategias proactivas, inviertan en tecnologías de protección avanzadas y colaboren para establecer estándares globales que equilibren innovación y seguridad. Solo de esta manera podrán aprovechar todo el potencial de la IA mientras mitigan sus amenazas.
A continuación, se destacan algunas de las principales amenazas derivadas o potenciadas por el desarrollo de IA:
- Phishing automatizado y avanzado. Ransomware: los atacantes usan IA para crear campañas de phishing más sofisticadas y personalizadas con el objetivo, por ejemplo, de generar mensajes convincentes dirigidos a objetivos maliciosos específicos o de obtener datos sensibles por medio del engaño.
- Suplantación de Identidad. Spoofing: la facilidad de a través de herramientas IA generativas de fácil uso y bajo coste, permiten más que nunca a los ciberdelincuentes suplantar la voz, o la imagen de un CEO, CFO o responsable de la empresa, desarrollando estrategias de engaño para inducir a los empleados subalternos a desarrollar acciones concretas a través de correos, llamadas o mensajes de voz o vídeo.
- Deepfakes: la IA permite crear contenido manipulado hiperrealistas con el objetivo, entre otros, de difundir información falsa que incide sobre decisiones o reputaciones.
- Malware. Vulnerabilidades N-Day y Zero Day: impulsado por IA para adaptarse al entorno de la víctima y evitar la detección: “Evasion techniques”, que cambian su comportamiento o firma en tiempo real, o “Malware polimórfico”, que se reconfigura constantemente para dificultar su identificación y explotan vulnerabilidades recién descubiertas
- Ataques de denegación de servicio (DoS) dirigidos, que se utilizan para identificar vulnerabilidades en sistemas y coordinar ataques más eficaces. La IA, ofrece a los ciberdelincuentes herramientas para generar código avanzado que rastree vulnerabilidades, eluda las protecciones anti DDos o que permita organizar de forma dinámica redes de bots para ataques de denegación de servicio distribuidos.
- Mal uso de la IA generativa se refiere a la utilización de tecnologías de generación de contenido impulsadas por IA. Por un lado, la confianza creciente en este tipo de herramientas hace que los resultados no se contrasten o revisen, pudiendo dar lugar a exfiltración de información sensible, pero sobre todo es preocupante el uso para actividades malintencionadas o éticamente cuestionables.
¿Cómo mitigar estas amenazas? Cambiando la estrategia de defensa
Al igual que la IA generativa ofrece a los ciberdelincuentes potentes recursos para desarrollo de malware o nuevas estrategias de ataque, los fabricantes y empresas de servicios especializados en ciberseguridad, también adaptan sus propuestas introduciendo IA en sus soluciones. Mas allá de una estrategia de marketing, vemos cómo muchos productos van incorporando las siglas IA en sus referencias y especificaciones.
Ante este panorama, aunque la seguridad absoluta en una organización nunca pueda garantizarse, podemos tener cierta tranquilidad viendo que la balanza entre capacidad ofensiva (ciberataque) y defensiva (ciberprotección/ciberdefensa) mantiene un equilibrio.
Será responsabilidad de los CSO y responsables de Seguridad de las organizaciones evaluar qué medidas y herramientas debe de adoptar, considerando los servicios y activos que ofrece o debe garantizar, haciendo un replanteo de nuevos riesgos y amenazas y valorando si las medidas de protección hasta ahora desplegadas en la organización siguen estando vigentes.
Nuevas herramientas y servicios de ciberdefensa
El abanico de opciones y servicios para mejorar la seguridad y reducir el riesgo de sufrir ciberataques, se ha extendido notablemente.
La IA aplicada a la ciberseguridad consiste en el uso de técnicas o herramientas, como el aprendizaje automático, el procesamiento del lenguaje natural o la visión artificial, para mejorar la capacidad de detección, prevención y respuesta ante los ciberataques, así como para optimizar la gestión y el análisis de la seguridad de la información y los sistemas.
Mencionamos algunos de los servicios y tecnologías que comienzan a desplegarse:
- Sistemas de detección basados en IA: utilizar IA defensiva para identificar comportamientos anómalos y amenazas en tiempo real. Las soluciones de ciberseguridad basadas en IA ofrecen un enfoque más avanzado y efectivo para detectar y prevenir amenazas cibernéticas, como malware, ransomware y ataques de phishing.
- Sistemas de análisis de comportamiento de usuarios: estas herramientas basadas en IA ayudan a las organizaciones a analizar el comportamiento de los usuarios y detectar anomalías y actividades sospechosas, lo que permite una respuesta más rápida y eficaz a las amenazas internas.
- Autenticación multifactor (MFA): reducir la posibilidad de ataques de suplantación dificultando el acceso a aplicaciones o plataformas introduciendo sistemas de control de acceso que soliciten validación combinada al usuario a través de distintos métodos, aplicaciones y dispositivos.
- Monitorización continua 360. SIEM basado en IA: implementar herramientas avanzadas para rastrear y analizar actividades en redes y sistemas con detección de anomalías de comportamiento de sistemas y correlación inteligente de eventos de seguridad
- Plataformas SOAR: La tecnología de orquestación, automatización y respuesta de seguridad (SOAR) ayuda a coordinar, ejecutar y automatizar tareas entre varias personas y herramientas
- Mejora en la ciberseguridad de los modelos de IA. Implementación de plataforma de IA desplegada en ámbito local: diseñar sistemas robustos (Anti Adversal ML) para evitar manipulaciones adversariales, que modifiquen los datos de entrenamiento del LLM para producir datos erróneos y, además, evitar el envenenamiento de datos. Además, prolifera el uso de modelos de IA desplegados en ámbito local evitando posibles filtraciones de datos de carácter personal o confidenciales por configuración inadecuada de un LLM en Internet
- Formación y concienciación: capacitar a los usuarios para identificar señales de phishing o deepfakes.
Perspectiva para 2025
En 2025, la ciberseguridad seguirá siendo una prioridad crítica para las organizaciones a nivel global. Las tendencias observadas en 2023 y 2024 indican que asistiremos a un aumento continuo en la sofisticación y frecuencia de los ciberataques, así como en la inversión en medidas de seguridad:
Estas son algunas de las tendencias que podemos resaltar:
- Aumento de los ataques de Ransomware: los ataques de ransomware han mostrado un incremento significativo en los últimos años. En España, por ejemplo, se ha registrado un aumento del 38% en los ataques de ransomware en los últimos seis meses de 2024. LockBit ha sido una de las amenazas más destacadas en este ámbito.
- Crecimiento de la Cibercriminalidad: la cibercriminalidad ha crecido un 9,2% en comparación con el mismo periodo en 2023, registrando más de 237.000 infracciones penales de enero a julio de 2024. Este aumento, que se espera se incremente exponencialmente en 2025, refleja la creciente amenaza que representan los cibercriminales para las organizaciones y los individuos.
- Error Humano: Tres cuartas partes de los CISOs en España identifican el error humano como el principal riesgo de ciberseguridad. La incorporación de nuevas herramientas IA y su aplicación en procesos de automatización requerirá la revisión de procedimientos de uso, control y supervisión para evitar añadir más errores humanos. La formación y concienciación de los empleados seguirán siendo esenciales para mitigar este riesgo.
- Malware y Fraude por Correo Electrónico (BEC): El malware sigue siendo una preocupación importante, con un 43% de los CISOs señalándolo como una de las mayores amenazas. En 2025 deberemos de estar atentos a la incorporación de nuevas técnicas de suplantación y con mayor nivel de
- Emergen nuevas variantes de ataques y fraudes: la IA generativa abre opción a evolucionar ataques tradicionales del tipo phishing, ransomware, spoofing, a la que se unirán prácticas de Deepfakes (faseo de noticias) o Quiding (falseo de códigos QR).
¿Necesitas ayuda con tu Estrategia de Ciberseguridad?
La colaboración con expertos en ciberseguridad ayudará a las empresas a la implantación de medidas adecuadas a las necesidades reales de cada compañía y al seguimiento de las tendencias emergentes en amenazas cibernéticas, evaluando en cada momento el riesgo que suponen.
Debemos tener siempre presente que los incidentes de seguridad derivados de ciberataques pueden causar graves daños económicos, reputacionales y operativos a las organizaciones, así como afectar a la seguridad nacional y a los derechos de los ciudadanos. Las medidas preventivas deben formar parte de la estrategia de ciberprotección de las empresas.
En artica+i, contamos con un equipo humano especializado en ciberseguridad y digitalización con el que puedes contar para identificar, definir o hacer un seguimiento de la estrategia de seguridad de tu empresa, identificando aquellos puntos más vulnerables de tu organización y planteando soluciones acordes al valor real de tus activos.
 | José Manuel Fresno. CISA CISM Director. UN Digitalización en artica+i. Especialista en Sistemas y Ciberseguridad- CISA y CISM (ISACA), con más de 30 años de experiencia en el sector TIC. |
