Por qué Anthropic propone desacelerar el desarrollo de la IA

Dario Amodei, fundador y presidente ejecutivo de Anthropic, publicó el 12 de septiembre un ensayo breve con una tesis que hace un año habría sonado impensable en boca de quien dirige uno de los tres principales laboratorios de inteligencia artificial (IA): hay que desacelerar el ritmo al que se mejoran las capacidades de la inteligencia artificial. No frenar la investigación, aclara, sino darse el tiempo para que la seguridad alcance a la capacidad.

Dos hechos lo convencieron: desde mediados de este año los modelos ya ayudan a construir la generación siguiente, y ese círculo se acelera solo; y un incidente en un competidor, donde un conjunto de agentes atacó objetivos que nadie le había pedido e intentó manipular al sistema que evaluaba su desempeño. El daño fue menor, pero Amodei lo lee como una muestra de lo que puede ocurrir con sistemas más potentes y la misma tendencia a apartarse de lo que se les pide.

El plan tiene tres peldaños: evaluadores externos instalados dentro de cada laboratorio, con acceso comparable al de un empleado (a esto Anthropic se compromete por su cuenta); coordinación entre las empresas de países democráticos para fijar estándares y límites; y coordinación global que incluya a China. Horas después, Sam Altman anunció que OpenAI adoptaría el primer paso.

En este punto, nos enfrentamos a una paradoja: la tecnología es real, pero el negocio todavía no. Seis empresas acumulan cerca de US$1,7 billones de inversión en capacidad de procesamiento, contra ingresos de inteligencia artificial que rondaban los US$250.000 millones anualizados a mediados de este año. La encuesta a directivos hecha por McKinsey hace pocas semanas muestra uso creciente pero poca mejora del margen, y una parte de las empresas empezó a construir con agentes de código el software que antes compraba.

Esa inversión se justificaba con una sola variable: la velocidad. Cada generación de modelos debía llegar más rápido que la anterior para que los ingresos alcanzaran a la deuda, a la depreciación de los chips y a los contratos de energía firmados a veinte años. Ahora, el que fabrica el producto pide bajar la velocidad. Y eso deja a la inteligencia artificial atrapada en una doble paradoja: demasiado rápida para que quienes la construyen la entiendan y controlen, y demasiado lenta para que quienes la financian la repaguen.

Las dos cosas son ciertas a la vez. Amodei escribe que el progreso "seguirá pareciendo rápido". Para un ingeniero, eso es una promesa. Para un tesorero que tomó deuda para construir centros de datos, es una advertencia.

Conviene no exagerar el efecto. El propio ensayo admite que las formas más útiles de coordinación requieren apoyo de los gobiernos, incluida una excepción a las normas de defensa de la competencia; que cualquier desaceleración está limitada por la ventaja que las empresas estadounidenses tienen sobre China; y que un acuerdo global es difícil y poco probable a corto plazo.

Es un dilema del prisionero puesto por escrito. Mientras tanto, las señales del mercado van en sentido contrario: días antes, Nvidia comunicó a sus inversores que la inteligencia artificial había alcanzado su "punto de inflexión" y que cada consulta que procesan ya deja ganancia. El discurso del freno y el del acelerador salieron la misma semana.

Hay un detalle que a un lector de finanzas no se le escapa. La única medida que Amodei ejecuta por su cuenta no es una invención de Silicon Valley: se trata de revisores independientes que trabajan de manera permanente dentro de la empresa, con escritorio y credenciales propios, acceso a la información que manejan los equipos internos y libertad para publicar lo que encuentren sin que la compañía pueda editar sus conclusiones. Él mismo cita el precedente: la supervisión bancaria. La industria más nueva del mundo toma prestada la gobernanza de la más regulada.

Quién paga el costo de acelerar o frenar la inteligencia artificial

No es una ironía sino un dato: cuando un sector descubre que su producto puede fallar de maneras que ni sus creadores anticipan, converge hacia las instituciones que otros construyeron después de fallar. ¿Qué significa esto para el que paga la cuenta? Si el ritmo de avance se reduce, los plazos de repago de las inversiones en infraestructura se alargan, y esa inversión ya comprometida deberá sostenerse con una tecnología que madura más despacio de lo prometido.

Si no se desacelera, la carrera continúa y la contingencia que Amodei describe se vuelve mucho más probable; y un incidente grave dejaría de ser un problema técnico de una empresa para convertirse en un riesgo de otra magnitud, que ningún balance alcanza a contener.

En ningún escenario la velocidad es gratis. Como siempre, esto es una hipótesis y no un pronóstico: la industria cambia de opinión cada trimestre, y quien escriba sobre ella debe estar dispuesto a hacer lo mismo.

(*) Profesor de la Escuela de Negocios de la Universidad de San Andrés.