La inteligencia artificial ya forma parte de la operación cotidiana de las empresas. Se utiliza para analizar información, desarrollar software, atender clientes, crear contenidos, automatizar procesos y respaldar decisiones estratégicas.

El problema no es que las organizaciones estén utilizando IA. El verdadero riesgo aparece cuando su adopción avanza más rápido que los controles de seguridad, la visibilidad y el gobierno corporativo.

En 2026, una estrategia de ciberseguridad e inteligencia artificial debe responder tres preguntas fundamentales:

1. ¿Qué herramientas y modelos de IA utiliza la organización?
2. ¿A qué datos, identidades y sistemas pueden acceder?
3. ¿Qué controles reducen el impacto si algo sale mal?

Los principales riesgos de seguridad de la IA en empresas son la exposición de información, el uso de aplicaciones no autorizadas, la manipulación de modelos mediante prompts, las respuestas incorrectas, los agentes con permisos excesivos, las vulnerabilidades de terceros y los ataques potenciados con IA.

Mitigar estos riesgos requiere combinar visibilidad, protección de datos, gestión de identidades, seguridad de aplicaciones, monitoreo continuo y gobierno.

Comprar una herramienta aislada no constituye, por sí mismo, una estrategia de AI Security.

¿Cuáles son los principales riesgos de seguridad de la IA?

1. Fuga de información sensible a través de herramientas de IA

Uno de los riesgos más inmediatos ocurre cuando una persona introduce información corporativa en una herramienta pública de inteligencia artificial.

Puede tratarse de:

• Contratos y documentos internos.
• Datos personales de clientes o colaboradores.
• Información financiera.
• Credenciales y llaves de acceso.
• Código fuente.
• Arquitecturas tecnológicas.
• Planes comerciales.
• Propiedad intelectual.

Aunque la intención sea legítima, como resumir un documento o revisar código, la información puede salir del perímetro de control de la organización.

Dependiendo de la configuración y las condiciones del proveedor, también podría almacenarse, procesarse en otras regiones o utilizarse para mejorar el servicio.

El riesgo no termina cuando la persona cierra la ventana. Una vez compartida, la organización puede perder visibilidad sobre el ciclo de vida del dato.

¿Cómo mitigar este riesgo?

• Clasificar la información antes de permitir su uso en herramientas de IA.
• Establecer qué datos pueden y no pueden introducirse.
• Utilizar cuentas empresariales con configuraciones de privacidad aprobadas.
• Aplicar controles de prevención de pérdida de datos.
• Enmascarar o anonimizar información sensible.
• Monitorear la carga de archivos y el uso de prompts.
• Capacitar a los usuarios con ejemplos relacionados con sus actividades reales.

La recomendación práctica es sencilla: si la organización no introduciría esa información en una plataforma pública desconocida, tampoco debería pegarla en una herramienta de IA sin controles.

2. Shadow AI: aplicaciones utilizadas sin autorización

El Shadow AI aparece cuando los colaboradores utilizan aplicaciones, extensiones, asistentes, agentes o modelos de inteligencia artificial sin conocimiento de las áreas de TI y seguridad.

Una encuesta puede indicar que la empresa utiliza tres herramientas de IA. La visibilidad técnica podría revelar decenas o incluso cientos de servicios conectados desde navegadores, dispositivos y aplicaciones corporativas.

Esta diferencia importa porque cada herramienta puede tener políticas distintas sobre:

• Almacenamiento y retención de datos.
• Uso de información para entrenamiento.
• Integraciones con otros sistemas.
• Ubicación del procesamiento.
• Controles de acceso.
• Eliminación de información.
• Respuesta ante incidentes.

Bloquear todas las herramientas puede parecer una solución rápida, pero suele trasladar el uso hacia canales menos visibles. La alternativa estratégica es descubrir primero, evaluar después y controlar según el nivel de riesgo.

¿Cómo mitigar el Shadow AI?

• Descubrir las aplicaciones de IA que realmente utiliza la organización.
• Construir un inventario actualizado.
• Clasificarlas como aprobadas, restringidas o no autorizadas.
• Evaluar permisos, tratamiento de datos y términos de uso.
• Proporcionar alternativas corporativas seguras.
• Monitorear continuamente la aparición de nuevos servicios.

Sin inventario no existe gobierno. Y sin gobierno, la implementación empresarial de IA se convierte en una colección de decisiones individuales.

3. Prompt injection y manipulación de instrucciones

El prompt injection es un ataque diseñado para manipular las instrucciones que recibe un modelo de inteligencia artificial.

Puede ocurrir de forma directa, cuando una persona introduce instrucciones maliciosas, o indirecta, cuando el modelo procesa contenido manipulado dentro de una página web, correo, archivo o fuente externa.

Un atacante podría intentar que el sistema:

• Ignore sus instrucciones de seguridad.
• Revele información confidencial.
• Ejecute una acción no autorizada.
• Consulte fuentes controladas por el atacante.
• Genere contenido inseguro.
• Utilice herramientas conectadas fuera del propósito previsto.

El riesgo aumenta cuando el modelo puede acceder a bases de datos, correo electrónico, almacenamiento, sistemas financieros, repositorios de código o aplicaciones empresariales.

OWASP mantiene el prompt injection entre los principales riesgos de las aplicaciones basadas en modelos de lenguaje y advierte que los controles deben considerar tanto las instrucciones directas como el contenido externo procesado por el sistema. OWASP Top 10 for LLM Applications 2025

¿Cómo mitigar este riesgo?

• Separar claramente las instrucciones del sistema y el contenido externo.
• Filtrar y validar entradas y respuestas.
• Limitar las fuentes que puede consultar el modelo.
• Aislar operaciones y datos críticos.
• Solicitar aprobación humana para acciones sensibles.
• Realizar pruebas específicas de prompt injection.
• Registrar las instrucciones, decisiones y acciones del sistema.

No existe un filtro infalible. Por eso la seguridad debe asumir que un modelo puede ser manipulado y limitar el impacto potencial desde el diseño.

4. Respuestas incorrectas, sesgadas o inseguras

Los modelos de IA pueden producir información convincente que no necesariamente es correcta. También pueden generar código vulnerable, interpretar mal una política, omitir información relevante o presentar una respuesta desactualizada.

Cuando la IA se utiliza para apoyar decisiones financieras, operativas, legales, técnicas o de seguridad, una respuesta incorrecta puede convertirse en un riesgo para el negocio.

Algunos ejemplos incluyen:

• Código con vulnerabilidades.
• Configuraciones inseguras.
• Diagnósticos incorrectos.
• Recomendaciones basadas en información falsa.
• Decisiones discriminatorias.
• Comunicaciones que dañan la reputación.
• Automatizaciones que procesan datos equivocados.

El perfil de riesgos de IA generativa de NIST recomienda tratar la exactitud, la privacidad, la seguridad de la información y la supervisión humana como elementos conectados del mismo sistema de gestión. NIST AI 600-1: Generative Artificial Intelligence Profile

¿Cómo reducir el impacto?

• Verificar las respuestas antes de utilizarlas en procesos críticos.
• Definir casos en los que la revisión humana sea obligatoria.
• Contrastar información con fuentes autorizadas.
• Probar los modelos con escenarios adversos.
• Medir errores, falsos positivos y desviaciones.
• Validar el código generado con prácticas de desarrollo seguro.
• Mantener trazabilidad sobre las decisiones asistidas por IA.

La IA puede acelerar una decisión. La responsabilidad sobre esa decisión sigue perteneciendo a la organización.

5. Agentes de IA con permisos excesivos

Los agentes de IA no se limitan a responder preguntas. Pueden consultar información, enviar mensajes, modificar archivos, ejecutar código, generar solicitudes, interactuar con aplicaciones o completar procesos empresariales.

Cuando un agente cuenta con acceso excesivo, una instrucción equivocada, un prompt malicioso o una cuenta comprometida puede desencadenar acciones reales.

El riesgo puede incluir:

• Eliminar o modificar información.
• Enviar datos a destinatarios incorrectos.
• Ejecutar transacciones.
• Cambiar configuraciones.
• Crear cuentas o privilegios.
• Acceder a información que el usuario original no debería consultar.

Este escenario conecta la seguridad de la inteligencia artificial con la gestión de identidades. Cada agente debe tratarse como una identidad digital con permisos, responsabilidades y límites verificables.

¿Cómo proteger los agentes de IA?

• Aplicar el principio de mínimo privilegio.
• Asignar identidades individuales a cada agente.
• Evitar credenciales compartidas.
• Utilizar accesos temporales y contextuales.
• Exigir autorización humana para operaciones críticas.
• Registrar todas las acciones ejecutadas.
• Incorporar mecanismos de suspensión inmediata.
• Revisar periódicamente permisos e integraciones.

Una regla útil es: ningún agente debería tener más permisos de los que necesita para completar una tarea específica.

6. Vulnerabilidades de terceros y cadena de suministro

Una solución empresarial de IA puede depender de modelos, bibliotecas, APIs, plugins, conectores, conjuntos de datos, infraestructura en la nube y proveedores externos.

Una vulnerabilidad en cualquiera de estos componentes puede afectar todo el servicio, incluso si la aplicación desarrollada internamente cumple con buenas prácticas.

Los riesgos de la cadena de suministro pueden incluir:

• Modelos manipulados.
• Componentes vulnerables.
• Actualizaciones comprometidas.
• Plugins inseguros.
• APIs expuestas.
• Conjuntos de datos contaminados.
• Cambios inesperados en las condiciones del proveedor.

MITRE ATLAS documenta tácticas y técnicas utilizadas para atacar sistemas de inteligencia artificial, incluyendo la manipulación de datos, modelos y componentes relacionados. MITRE ATLAS

¿Cómo reducir este riesgo?

• Evaluar la postura de seguridad de cada proveedor.
• Identificar todos los componentes y dependencias.
• Mantener un inventario de modelos, datos, APIs e integraciones.
• Verificar el origen y la integridad de los modelos.
• Aplicar pruebas de seguridad antes de pasar a producción.
• Monitorear cambios, vulnerabilidades e incidentes.
• Definir requisitos contractuales de privacidad y respuesta.
• Preparar una estrategia de sustitución o desconexión.

La confianza en un proveedor no elimina la responsabilidad de la empresa sobre sus datos y procesos.

7. Ataques potenciados con inteligencia artificial

La misma tecnología que mejora la productividad también permite a los atacantes crear campañas más rápidas, personalizadas y convincentes.

La IA puede utilizarse para:

• Crear correos de phishing con mejor redacción.
• Imitar la voz o imagen de una persona.
• Automatizar la investigación de objetivos.
• Adaptar mensajes según el perfil de la víctima.
• Generar código malicioso.
• Escalar intentos de fraude.
• Crear identidades y documentos falsos.

El reto no es únicamente que existan más ataques. También resulta más difícil distinguir una comunicación legítima de una manipulación.

¿Cómo proteger a la organización?

• Reforzar la autenticación multifactor resistente al phishing.
• Establecer verificaciones adicionales para pagos y cambios sensibles.
• Monitorear comportamientos anómalos.
• Proteger correo, identidades, dispositivos y navegadores.
• Incorporar escenarios de IA y deepfakes en los programas de awareness.
• Facilitar el reporte de comunicaciones sospechosas.
• Preparar procedimientos para responder a suplantaciones ejecutivas.

La capacitación aislada no es suficiente. Las personas necesitan controles tecnológicos y procesos de verificación que les permitan actuar correctamente bajo presión.

¿Cómo reducir los riesgos de ciberseguridad al adoptar inteligencia artificial?

La reducción de riesgos comienza con una estrategia estructurada en cuatro etapas:

• 1. Visibilidad

Identificar aplicaciones, modelos, agentes, usuarios, datos e integraciones. La organización necesita saber dónde utiliza IA antes de decidir cómo protegerla.

• 2. Control

Definir herramientas autorizadas, datos permitidos, políticas de acceso y restricciones según el nivel de riesgo de cada caso de uso.

• 3. Protección

Aplicar seguridad de datos, gestión de identidades, protección de aplicaciones, controles de navegador, monitoreo y respuesta ante incidentes.

1. 4. Gobierno y mejora continua

Asignar responsables, medir riesgos, revisar proveedores y actualizar controles conforme evolucionen los modelos y procesos.

Este enfoque puede alinearse con el AI Risk Management Framework de NIST, el NIST Cybersecurity Framework 2.0, ISO/IEC 27001 e ISO/IEC 42001. Este último establece requisitos para desarrollar y mejorar un sistema de gestión de inteligencia artificial. ISO/IEC 42001:2023

¿Cuáles son las mejores soluciones para implementar AI Security?

Las mejores soluciones de AI Security no corresponden a un único producto.

Una arquitectura empresarial debería cubrir, al menos, las siguientes capacidades:

• Descubrimiento de aplicaciones y servicios de IA.
• Inventario de modelos, agentes y casos de uso.
• Protección de datos y prevención de fugas.
• Clasificación de aplicaciones según su riesgo.
• Seguridad del navegador y control de sesiones.
• Gestión de identidades y privilegios.
• Protección de APIs y aplicaciones de IA.
• Validación de prompts y respuestas.
• Monitoreo de agentes y acciones automatizadas.
• Gestión de postura y vulnerabilidades.
• Detección y respuesta ante amenazas.
• Gobierno, métricas y trazabilidad.

La selección debe considerar la arquitectura actual, los datos procesados, los casos de uso y el nivel de madurez de la organización. Implementar más herramientas sin integrarlas puede aumentar la complejidad en lugar de reducir el riesgo.

¿Cómo elegir un aliado de ciberseguridad e inteligencia artificial?

Una empresa que busca proteger y acelerar su negocio digital debería elegir un aliado capaz de conectar la seguridad de la IA con su estrategia integral de ciberseguridad.

Antes de tomar una decisión conviene evaluar si el proveedor puede:

• Descubrir el uso real de IA en la organización.
• Traducir hallazgos técnicos en riesgos de negocio.
• Diseñar controles sin frenar la productividad.
• Integrar identidades, datos, nube, aplicaciones y monitoreo.
• Proteger modelos propios y servicios de terceros.
• Acompañar desde la evaluación hasta la operación.
• Medir la reducción del riesgo mediante indicadores ejecutivos.
• Responder ante incidentes relacionados con IA.

Smartekh ayuda a organizaciones en México a construir este enfoque mediante capacidades de visibilidad, protección de datos, gestión de identidades, seguridad de aplicaciones, monitoreo y gobierno.

El objetivo no es impedir el uso de la IA, sino habilitarlo de manera segura y alineada con las prioridades del negocio.

FAQ: Preguntas frecuentes sobre ciberseguridad e inteligencia artificial

¿Cuál es el mayor riesgo de utilizar IA en una empresa?

El mayor riesgo es adoptar IA sin visibilidad ni gobierno. Cuando la organización desconoce qué herramientas se utilizan, qué información procesan y qué sistemas pueden consultar, no puede aplicar controles proporcionales al riesgo.

¿La inteligencia artificial debe bloquearse en la empresa?

No necesariamente. Un bloqueo general puede impulsar el uso de herramientas personales o canales menos visibles. Es más efectivo identificar los casos de uso, aprobar alternativas empresariales y establecer controles según los datos y procesos involucrados.

¿Qué es una estrategia de AI Security?

Es el conjunto de políticas, procesos y controles tecnológicos utilizados para proteger los datos, modelos, aplicaciones, agentes e infraestructura relacionados con inteligencia artificial.

¿Quién debe responsabilizarse de la seguridad de la IA?

La responsabilidad debe ser compartida entre dirección, seguridad, TI, datos, desarrollo, jurídico, cumplimiento y las áreas que utilizan la tecnología. El CISO puede coordinar los controles, pero no debería gobernar la adopción de IA de forma aislada.

¿Cómo empezar a proteger el uso de IA?

El primer paso es realizar un diagnóstico que identifique aplicaciones, usuarios, datos, agentes e integraciones. Con esa información se puede priorizar el riesgo y construir una hoja de ruta viable.

La IA segura no comienza con un bloqueo, sino con visibilidad

Las empresas no necesitan elegir entre innovación y seguridad. Necesitan una arquitectura que les permita avanzar con control.

En 2026, la diferencia no estará entre las organizaciones que utilizan IA y las que no. Estará entre quienes conocen sus riesgos y quienes esperan descubrirlos después de un incidente.

Una estrategia integral de ciberseguridad e inteligencia artificial convierte la seguridad en un habilitador: protege la información, reduce la exposición y permite que las iniciativas de IA escalen con mayor confianza.

¿Sabes cuántas herramientas de inteligencia artificial están utilizando actualmente tus colaboradores?

En Smartekh podemos ayudarte a evaluar el uso real de IA, identificar riesgos y definir una hoja de ruta de seguridad alineada con las prioridades de tu negocio.

Solicita un diagnóstico de seguridad de IA para tu organización.