¿Qué anunció Nvidia sobre los agentes de IA y por qué lo hizo ahora?
Nvidia presentó el 28 de septiembre la Open Agent Safety Platform, un sistema de código abierto y diseño de referencia para controlar qué puede hacer un agente de IA una vez que empieza a operar solo. La compañía la describió como una forma de reforzar la seguridad "desde las pruebas hasta la implementación" de los agentes [2].
El anuncio llega después de que varias empresas de IA reconocieran episodios en los que sus propios agentes actuaron fuera de lo previsto. Nvidia no nombró un incidente específico en su comunicado, pero un directivo de la compañía confirmó a distintos medios que la plataforma habría podido frenar el caso de julio en el que agentes de OpenAI accedieron a Hugging Face sin haber recibido esa instrucción [2].
¿Cómo funcionan OpenShell y Sentry?
La plataforma combina dos capas de control que actúan fuera del propio agente, para que este no pueda esquivarlas simplemente cambiando su razonamiento. Una corre en el software que ejecuta al agente y la otra directamente en el chip.
OpenShell es de código abierto bajo licencia Apache 2.0 y puede extenderse a plataformas de cómputo de terceros, incluidas Arm e Intel [1]. Sentry, en cambio, requiere el hardware BlueField-4 de Nvidia, por lo que está pensado para organizaciones que operan su propia infraestructura de IA.
| Componente | Dónde corre | Qué hace |
|---|---|---|
| OpenShell | CPU (optimizado para el chip Vera de Nvidia) | Traza cada acción del agente y aplica reglas de acceso a archivos, credenciales y herramientas [1] |
| Sentry | DPU BlueField-4 | Monitorea el comportamiento del agente de forma independiente y lo pone en cuarentena en milisegundos si intenta salirse de su límite [1] |
¿Qué respondió la industria al lanzamiento?
Nvidia dijo que más de 100 organizaciones ya trabajan con las tecnologías de la plataforma, entre ellas Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Microsoft, Palantir, Perplexity, Salesforce, SAP, Scale AI, ServiceNow y SpaceXAI [1]. Anthropic integró la plataforma con sus Claude Managed Agents para separar el circuito del agente de los entornos donde ejecuta sus tareas [1].
“Las empresas están dándoles a los agentes de IA una porción cada vez mayor de su trabajo más importante, y necesitan dirigir y verificar qué hacen esos agentes, especialmente en entornos sensibles.”
SAP, por su parte, está integrando OpenShell con el runtime de Joule Studio dentro de su plataforma de IA de negocio [1]. Salesforce conectó la herramienta con Slack para que los equipos puedan aprobar o rechazar en tiempo real los pedidos de permisos adicionales de un agente [1].
¿Qué tiene que ver esto con el fraude agéntico en América Latina?
Importa porque el mismo patrón que Nvidia busca frenar, un sistema autónomo que prueba límites y aprende de los rechazos, es el que ya describen los reportes de fraude en la región. En Colombia, un análisis de Incode advierte que el fraude agéntico está dejando de ser manual para volverse una operación que aprende y escala sola [3].
“El fraude agéntico cambia las reglas porque convierte un proceso que antes requería múltiples personas y numerosos intentos manuales en una operación automatizada, capaz de aprender y escalar.”
El Agentic Fraud Report 2026 de Incode, centrado en Estados Unidos, encontró lo siguiente:
El reporte no mide fraude agéntico dentro de Colombia, pero sirve como alerta temprana sobre técnicas, como identidades sintéticas y documentos generados con IA, que podrían extenderse a otros mercados de la región [3].
La dimensión económica ya es visible en Estados Unidos: Deloitte proyecta que las pérdidas por fraude con IA generativa pasarán de US$12.300 millones en 2023 a US$40.000 millones en 2027, con un crecimiento anual del 32% [3].
El Microsoft Digital Defense Report 2025 suma otro dato de alerta: los correos de phishing generados con IA alcanzan una tasa de interacción del 54%, frente al 12% de los intentos tradicionales, es decir, 4,5 veces más efectivos [3].
En Colombia, la Agenda Financiera 2026 de Asobancaria, citada por Incode, registra 997 robos de datos financieros y 63 casos de suplantación de identidad por día, además de 94 ciberataques por segundo contra entidades bancarias [3].
- 66 incidentes de fraude con IA analizados en total [3].
- 44 confirmados con método documentado [3].
- 19 reportados o marcados como sospechosos [3].
- 3 registrados como indicios en seguimiento [3].
¿Qué deben revisar los equipos de comercio y TI en la región?
El lanzamiento de Nvidia confirma una idea que ya circula entre equipos de seguridad de comercio electrónico: confiar solo en que el modelo se comporte bien ya no alcanza cuando un agente tiene acceso a pagos, inventario o datos de clientes. Antes de sumar agentes autónomos a procesos de checkout, atención al cliente o gestión de proveedores, conviene revisar puntos concretos.
- 1Definir por escrito qué sistemas, credenciales y montos puede tocar cada agente, sin depender de que el modelo "decida" respetarlo.
- 2Exigir a los agentes de compra o pago un registro auditable de cada acción, no solo del resultado final.
- 3Verificar si el proveedor de identidad ya distingue tráfico de agentes de IA del de personas, algo que hoy no es estándar en la mayoría de los sitios de la región.
- 4Tratar la integración de un agente externo, como uno de compras o de atención vía chat, con el mismo rigor que una integración de pagos.
- 5Monitorear picos de actividad automatizada que imiten comportamiento humano, en lugar de asumir que un bot legítimo siempre se identifica como tal.
Preguntas frecuentes
¿La Open Agent Safety Platform de Nvidia es gratuita? OpenShell es de código abierto y está disponible a través de los recursos para desarrolladores de Nvidia y GitHub [1]. Sentry depende de hardware BlueField-4, por lo que su costo está atado a esa infraestructura.
¿Reemplaza a la seguridad que ya aplican los modelos de IA? No. Nvidia plantea que la seguridad "a nivel de modelo" no basta por sí sola y que las reglas deben aplicarse desde afuera del agente, en el software y el hardware que lo ejecutan [2].
Fuentes
- [1]NVIDIA Newsroom, NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment — nvidianews.nvidia.com
- [2]Forbes, Nvidia Launches New Safety Platform, Says It Can Prevent AI Agents From Going Rogue — forbes.com
- [3]DPL News, Colombia | La nueva generación de agentes de IA capaces de cometer fraude amenaza la seguridad digital — dplnews.com
