El error estratégico de recortar defensas humanas frente a una IA peligrosa

Anthropic publicó el 7 de abril algo inusual para una empresa de tecnologías de la información (TI): una advertencia sobre sí misma. Su nuevo modelo, Mythos Preview, había encontrado decenas de miles de vulnerabilidades críticas en los sistemas operativos y navegadores más utilizados del mundo. Más del 99% de esas fallas todavía no habían sido parcheadas. El modelo podía encadenar múltiples vulnerabilidades simultáneamente, escapar de mecanismos de aislamiento del sistema operativo y obtener acceso completo a servidores sin intervención humana.

Por eso Anthropic hizo algo que ninguna compañía de inteligencia artificial había hecho antes: decidió no lanzar el modelo al público. En su lugar, creó Project Glasswing, un consorcio junto con algunos de los principales fabricantes de software del mundo para identificar y corregir esas vulnerabilidades antes de que otros actores pudieran explotarlas.

El director general ejecutivo de la compañía, Dario Amodei, fue directo al describir la situación: "Esto es un momento de peligro". Luego agregó un dato que pasó relativamente desapercibido, pero que resulta central para entender el escenario actual: los modelos equivalentes desarrollados en China se encuentran entre seis y doce meses detrás de esta capacidad.

Doce meses. Esa es la ventana de ventaja tecnológica que hoy separa a quienes desarrollan las capacidades más avanzadas de inteligencia artificial ofensiva y quienes intentan construir mecanismos para defenderse de ellas. Mientras tanto, en otro punto del planeta, otra noticia avanzaba en dirección opuesta.

Por qué recortar personal de seguridad es un error estratégico

Standard Chartered anunció el 19 de mayo en Hong Kong que reducirá 7.800 puestos de trabajo hacia 2030. Los recortes estarán concentrados principalmente en funciones de "back-office", incluyendo recursos humanos, riesgo y cumplimiento. Su director general ejecutivo explicó la decisión con una frase reveladora: "No es reducción de costos; es reemplazar capital humano de menor valor con capital financiero y de inversión".

Ese mismo día, HSBC comunicaba a sus más de 200.000 empleados que la inteligencia artificial destruirá algunos empleos, creará otros y que la adaptación ya no es opcional.

Ambas noticias podrían interpretarse como capítulos independientes de la transformación digital. Sin embargo, leídas juntas exponen una contradicción que debería preocupar a cualquier directorio corporativo.

Porque riesgo y cumplimiento no son funciones administrativas intercambiables. No son simplemente áreas destinadas a completar formularios o verificar procedimientos. Son los equipos que procesan inteligencia de amenazas, interpretan cambios regulatorios, detectan anomalías, evalúan escenarios de crisis y coordinan respuestas cuando algo sale mal. Son, en definitiva, las personas encargadas de proteger el sistema cuando el sistema falla.

La automatización de tareas rutinarias es lógica. La incorporación de inteligencia artificial para aumentar productividad también. El problema aparece cuando la búsqueda de eficiencia económica se transforma en una reducción indiscriminada de capacidades humanas precisamente en el momento en que las amenazas se vuelven exponencialmente más sofisticadas.

La aparición de modelos como Mythos no representa simplemente una mejora tecnológica. Marca un cambio estructural en la relación entre atacantes y defensores. Históricamente, descubrir vulnerabilidades críticas requería equipos especializados, tiempo, experiencia y recursos significativos. Ahora una inteligencia artificial puede realizar ese trabajo a una velocidad y escala imposibles para cualquier grupo humano. La capacidad de encontrar fallas dejó de ser un recurso escaso.

Lo que sigue siendo escaso es la capacidad de corregirlas. Allí aparece la verdadera asimetría. Un modelo avanzado puede identificar miles de vulnerabilidades en cuestión de horas. Las organizaciones continúan tardando días, semanas o incluso meses en remediarlas. El ciclo ofensivo se acelera mientras el ciclo defensivo permanece prácticamente igual.

Anthropic entendió esa realidad y decidió cerrar temporalmente la brecha dentro de su ecosistema mediante Glasswing. Pero ese mecanismo no está disponible para la mayoría de las organizaciones del mundo. Mucho menos para una empresa mediana de América latina.

Cómo quedan las empresas locales frente a riesgos globales inevitables

El banco de Lima que está evaluando reducir personal especializado. La aseguradora de Bogotá que busca financiar un nuevo programa de automatización. La compañía industrial de Buenos Aires que considera reemplazar analistas por herramientas de inteligencia artificial. Ninguna de ellas tendrá acceso privilegiado a consorcios globales de defensa tecnológica ni a programas coordinados de mitigación temprana.

Sin embargo, todas estarán expuestas a las mismas amenazas. Y ahí radica uno de los riesgos menos discutidos de la actual carrera por la adopción de inteligencia artificial. Las empresas de América latina suelen incorporar las estrategias de eficiencia de los grandes bancos y corporaciones globales con dos o tres años de retraso. La amenaza, en cambio, no llega con demora. Llega en tiempo real.

Los modelos abiertos con capacidades ofensivas crecientes no necesitan autorización para operar en la región. Tampoco distinguen entre economías desarrolladas y emergentes. La capacidad de ataque se globaliza instantáneamente; la capacidad de defensa continúa dependiendo de presupuestos, talento y gobernanza local.

Por eso el debate no debería centrarse únicamente en cuántos puestos de trabajo puede reemplazar la inteligencia artificial ni en cuánto ahorro genera la automatización. Esas son preguntas importantes, pero insuficientes. Quién vigila el sistema cuando las máquinas toman el control total

La pregunta estratégica es otra. ¿Qué ocurre cuando las organizaciones reducen precisamente a las personas encargadas de interpretar riesgos en un contexto donde los riesgos aumentan más rápido que nunca?

Standard Chartered eligió un camino. Anthropic eligió otro. Ambas decisiones se conocieron prácticamente en la misma semana. Una apostó por acelerar la automatización. La otra decidió frenar la difusión de una tecnología demasiado poderosa hasta construir mecanismos de protección adecuados.

La diferencia entre ambas posturas revela el desafío central de esta década: no se trata solamente de desarrollar inteligencia artificial más capaz. Se trata de preservar la capacidad humana necesaria para gobernarla. Porque la pregunta ya no es cuánto se ahorra automatizando cumplimiento. La pregunta es quién defiende el sistema cuando ya nadie está mirando.

(*) Director en BTR Consulting.