El sábado pasado, en el podcast de El Líbero, Juan Ignacio Brito describió con precisión el clima que rodea hoy a la inteligencia artificial en Estados Unidos: Jacob Coxon, un ingeniero que pasó por Anthropic y OpenAI, renuncia y publica en X que las grandes empresas están apostando con vidas humanas en su carrera hacia la superinteligencia, y que la tecnología podría acabar con la raza humana en diez años; Dario Amodei, jefe de Anthropic, publica un ensayo pidiendo frenar el ritmo; Altman y Musk aplauden; vecinos que resisten los centros de datos como antes resistían un basural; sindicatos que temen por los empleos. Brito lo resumió con una comparación exacta: no había una resistencia así a una tecnología desde los luditas.

Tiene razón en el diagnóstico. Donde conviene detenerse es en qué hacemos con él. Porque la comparación con los luditas, bien mirada, no es una advertencia sobre la inteligencia artificial: es una advertencia sobre nosotros.

Lo que pide Amodei

El ensayo de Amodei no es el texto de un catastrofista ni de un charlatán. Es el texto del hombre que construye la tecnología, que dice creer que la inteligencia artificial puede curar la mayoría de las grandes enfermedades en los próximos cinco a diez años, que cuenta que su padre murió de una enfermedad que se curó pocos años después y que él mismo sobrevivió a un cáncer que hace medio siglo no tenía tratamiento. Nadie puede acusarlo de no ver los beneficios.

Lo que propone se llama “marcar el paso de la frontera”. No detener el entrenamiento de modelos sino ralentizar la velocidad a la que mejoran sus capacidades. Y propone tres pasos: evaluadores externos dentro de las empresas al estilo de los supervisores bancarios; coordinación entre las empresas de los países democráticos para fijar estándares comunes y límites a la velocidad del progreso no controlado, lo que exige que el gobierno conceda exenciones a las leyes antimonopolio; y, finalmente, coordinación global con China.

Lo que lo convenció, dice, fueron dos cosas: que los modelos ya ayudan a construir la siguiente generación de modelos, y un incidente en el que agentes de OpenAI atacaron sistemas de Hugging Face sin que nadie se lo pidiera. Concede que en ese incidente nadie salió herido y el daño económico fue mínimo, pero advierte que en seis a doce meses un enjambre parecido podría tomar el control de todo internet.

Es un argumento serio. Y la respuesta empieza por una pregunta que el propio ensayo deja abierta: ¿cómo sabe?

El pronosticador y el chimpancé

Hace unos días Matt Ridley publicó un ensayo sobre lo que llama la paradoja del pronosticador. Mirando hacia atrás, toda innovación parece inevitable: inventada la electricidad, la lámpara era cuestión de tiempo; inventado internet, las redes sociales estaban cantadas. Mirando hacia adelante, nadie ve nada. Ridley revisó lo que escribían los expertos en defensa hace diez años y ninguno anticipó lo que los drones harían con la guerra. Revisó a los pioneros de internet a fines de los ochenta y casi ninguno imaginó un buscador rentable. Y confiesa lo propio: integró el comité de la Cámara de los Lores que en 2018 produjo un informe sobre inteligencia artificial considerado excelente, y en ese informe no aparece ni una vez la expresión “modelo de lenguaje”, cuatro años antes de que ChatGPT cambiara el mundo.

La lista de los que se equivocaron no es de tontos. Ernest Rutherford, el hombre que dividió el átomo, dijo en 1933 que hablar de energía nuclear era una fantasía. Ken Olsen, fundador de la empresa de computación más exitosa de su época, dijo en 1977 que no había razón para que alguien tuviera una computadora en su casa. Paul Krugman escribió en 1998 que para 2005 sería evidente que el impacto de internet en la economía no había sido mayor que el del fax. Steve Ballmer, en 2007, aseguró que el iPhone no tenía ninguna chance de conseguir una cuota de mercado significativa. Philip Tetlock estudió durante veinte años las predicciones de los expertos y concluyó que, en promedio, acertaban tanto como un chimpancé tirando dardos.

Amodei no escapa a la regla; al contrario, la ilustra. Su ensayo está lleno de fechas: seis a doce meses para el enjambre que toma internet, uno o dos años para que la interpretabilidad haga “progresos profundos”, tres a cinco años para la ventana geopolítica decisiva. Y contiene una admisión notable: que cuando en 2023 se pidió pausar la inteligencia artificial, la idea “tenía poco sentido”, porque los modelos de entonces no eran capaces de nada de lo que se temía. Es decir, hace tres años la misma industria alarmaba con riesgos que resultaron inexistentes, y hoy nos pide que creamos que esta vez la fecha está bien puesta.

Si los que inventaron la tecnología no pudieron predecir sus efectos benéficos, que ya están a la vista, ¿por qué habríamos de creerle a quien predice, con calendario, sus efectos catastróficos?

Ridley lo explica con la vieja observación de Roy Amara: sobreestimamos el impacto de una tecnología en el corto plazo y lo subestimamos en el largo. El pánico de hoy es la versión invertida de la decepción de Krugman. Ambos miran la curva en el tramo equivocado.

Lo que hicieron los luditas, y lo que pasó después

Los luditas rompían telares en Inglaterra a partir de 1811. Tenían un temor concreto y legítimo: la máquina les quitaba el trabajo. Y en el corto plazo, a algunos de ellos se lo quitó. Lo que no podían ver, y nadie podía ver, era lo que vino después.

Alrededor de 1800, la esperanza de vida al nacer en el mundo rondaba los 30 años. Más de cuatro de cada diez chicos morían antes de cumplir 5. Tres de cada cuatro seres humanos vivían en lo que hoy llamaríamos pobreza extrema, y en Estados Unidos casi tres de cada cuatro trabajadores estaban en el campo. Dos siglos de máquinas después, la esperanza de vida mundial supera los 70 años, la mortalidad infantil bajó a menos del 4%, la pobreza extrema cayó por debajo del 10%, y menos del 2% de los norteamericanos trabaja en la agricultura, produciendo mucho más alimento que aquel 75%.

Cada una de esas transiciones fue recibida con el mismo miedo. La trilladora iba a dejar sin trabajo a los peones. La electricidad iba a incendiar las ciudades. El automóvil iba a matar a los peatones y arruinar a los cocheros. La computadora iba a eliminar a los oficinistas. En cada caso hubo perdedores reales y visibles, pero también en cada caso la sociedad terminó con más productividad, más riqueza y nuevas formas de empleo, porque la tecnología no se limita a sustituir trabajo humano: también abarata actividades existentes y hace posibles otras que antes ni siquiera podían demandarse.

Ridley lo escribió en 2018, en la columna con la que presentó aquel informe de los Lores: la automatización ha producido más empleo, no menos, en cada revolución tecnológica desde la máquina trilladora, y esta vez ocurrirá lo mismo, aunque ahora sean los abogados y los médicos quienes deban reacomodarse en lugar de los peones y los obreros. Y agregó una observación que explica por qué nunca lo notamos: en cuanto algo se vuelve posible dejamos de llamarlo inteligencia artificial y lo llamamos, simplemente, software. Nadie considera un milagro que el teléfono lo despierte en la fase liviana del sueño, le recomiende una película o detecte un fraude en su tarjeta. Todo eso era ciencia ficción hace 15 años.

Amodei invoca la aviación comercial como modelo: sistemas complejos y críticos que operan millones de veces sin fallar. Tiene razón en algo importante: la seguridad importa y puede mejorar extraordinariamente. Pero el ejemplo también muestra el límite de su argumento. La aviación no dispuso primero de un manual completo de seguridad y después comenzó a volar. Sus estándares fueron surgiendo de la información producida por la propia experiencia: probar, detectar fallas, investigar, corregir diseños, modificar procedimientos y volver a probar. La seguridad fue un producto acumulativo del aprendizaje, no una condición que alguien pudiera especificar íntegramente antes de que existiera la actividad.

La medicina como vara

Si hay que elegir un solo parámetro para juzgar dos siglos de innovación, elijo la medicina. No porque sea el más amable sino porque es el más exigente: ahí las apuestas se miden en vidas.

La anestesia, la antisepsia, las vacunas, los antibióticos, la insulina, la quimioterapia, los antirretrovirales, las vacunas de ARN mensajero. Ninguno de esos avances fue planificado desde arriba como parte de un gran programa que supiera de antemano dónde terminaría. La penicilina comenzó con un descuido en un laboratorio. Muchos fueron resistidos en su momento y varios habrían encontrado enormes dificultades bajo estándares regulatorios que sólo pudieron formularse después de acumular experiencia sobre las tecnologías que pretendían regular.

En medicina la inteligencia artificial ya no es sólo promesa. AlphaFold, el sistema de DeepMind que predijo la estructura de prácticamente todas las proteínas conocidas, un problema en el que la biología llevaba medio siglo atascada, le valió a sus creadores el Nobel de Química de 2024. Hay modelos que detectan tumores en imágenes, que acortan años de búsqueda de moléculas y que pueden darle a un médico lejos de un gran centro hospitalario acceso a capacidades diagnósticas que hasta hace poco estaban reservadas a especialistas.

Y aquí es donde el ensayo de Amodei se vuelve contra sí mismo. Si es cierto, como él sostiene, que la inteligencia artificial puede curar la mayoría de las grandes enfermedades en cinco a diez años, entonces cada año que se le agrega a ese plazo también tiene un precio, y ese precio se mide en vidas.

Ese es exactamente el costo que falta en la contabilidad de “marcar el paso”: los muertos por lo que no se inventó a tiempo no tienen nombre ni titular.

El riesgo que no podemos descartar

La mejor objeción a todo lo anterior, sin embargo, es que la inteligencia artificial podría no ser comparable con el telar, el automóvil o incluso el avión. Si quienes advierten sobre ella tienen razón, un error suficientemente grande podría ser irreversible. No estaríamos hablando de una transición laboral dolorosa ni de un accidente que permite aprender para la próxima vez, sino de un acontecimiento de baja probabilidad y consecuencias extraordinarias. Ante un riesgo existencial, dirá el defensor del principio precautorio, quizá no tengamos derecho a aprender por ensayo y error.

El problema es que la incertidumbre radical funciona en las dos direcciones.

No conocemos la probabilidad del desastre que Amodei imagina, pero tampoco conocemos los descubrimientos que una ralentización impediría o demoraría. No sabemos qué enfermedades podrían curarse, qué tecnologías defensivas contra una inteligencia artificial peligrosa dejarían de desarrollarse, qué nuevos competidores nunca llegarían a existir, qué capacidades quedarían concentradas en unas pocas empresas autorizadas o qué ocurriría si las democracias se detienen mientras China continúa.

El principio precautorio tiene una curiosa contabilidad: registra con minuciosidad los muertos posibles de la innovación y deja en blanco la columna de los muertos posibles en caso de impedirla.

La cuestión, entonces, no es elegir entre riesgo y seguridad. Esa opción no existe. Es elegir entre riesgos que podemos imaginar porque la tecnología ya existe y riesgos que todavía no podemos imaginar precisamente porque las innovaciones que podrían producirlos -o evitarlos- aún no han ocurrido.

Europa, o el experimento de control

Si alguien quiere ver qué produce regular por adelantado una tecnología cuyo desarrollo todavía no se comprende, no necesita imaginarlo. Puede mirar Europa.

La Unión Europea tiene desde 2024 la primera ley integral de inteligencia artificial del mundo, con categorías de riesgo, obligaciones de transparencia y sanciones millonarias. Tiene, desde antes, el régimen de datos más estricto del planeta. Europa conserva excelentes universidades, investigadores, laboratorios y algunas empresas importantes de inteligencia artificial. Lo que no ha producido es una compañía de frontera con la escala, el capital y la gravitación tecnológica de las grandes firmas estadounidenses.

De las diez mayores compañías tecnológicas del mundo, ninguna es europea. El informe que Mario Draghi presentó en Bruselas en 2024 lo dijo sin anestesia: el continente se está quedando atrás en productividad y en innovación, y una parte importante de la explicación está en las barreras regulatorias que él mismo describe.

Europa no regula la inteligencia artificial que lidera. Regula, en buena medida, la que importa, y corre así el riesgo de asegurarse seguir importándola.

No es un accidente. Es el resultado lógico de una idea: que se puede legislar sobre lo que todavía no existe. El esquema de “puntos de control” que propone Amodei -si el modelo tiene la capacidad X entonces necesita la certificación Y- es esa idea en estado puro. Supone que alguien puede enumerar por adelantado las capacidades que importan y las pruebas que las neutralizan.

La regulación, por definición, va detrás de la mente que crea. Cuando pretende llegar antes, sólo puede hacerlo imaginando riesgos que no sabe si van a ocurrir y tratando como conocidos los beneficios que tampoco sabe que está sacrificando.

El propio Amodei reconoce el límite de su plan cuando llega a China: si Occidente se frena más de lo que le lleva de ventaja, dice, “los proyectos asociados al Partido Comunista se adelantarán”. Pekín ya rechazó su llamado. Lo que eso significa es simple: una pausa unilateral no detiene la tecnología. Sólo decide quién la desarrolla y bajo qué instituciones.

Buchanan: el regulador también es humano

Hay un supuesto escondido en todo llamado a “que un tercero evalúe”, y es que ese tercero sabe más, quiere el bien y no tiene intereses. James Buchanan dedicó su vida a desmontar esa fantasía y le dieron un Nobel por eso.

Su punto es simple y demoledor: el funcionario que regula es la misma clase de persona que el empresario regulado. Responde a incentivos, cuida su carrera, prefiere el error que no se ve al que sale en los diarios y no paga personalmente el costo de lo que prohíbe. Comparar un mercado imperfecto con un Estado perfecto es hacer trampa; la comparación honesta es entre dos conjuntos de fallas. Y la falla estatal tiene una particularidad: el organismo que se equivoca no quiebra.

Amodei elige como precedente a los supervisores bancarios instalados dentro de los bancos. Es una elección reveladora. Ese sistema existía en 2008, con escritorio, credencial y acceso de empleado, y no impidió la mayor crisis financiera en ochenta años. No porque los supervisores fueran tontos, sino porque ningún sistema de supervisión elimina el problema del conocimiento, y porque el regulador enfrenta además sus propios incentivos.

La medicina vuelve a servir de vara. Sam Peltzman estudió en los años setenta qué había ocurrido después de que Estados Unidos endureciera en 1962 los requisitos para aprobar nuevos medicamentos. La introducción de nuevos fármacos cayó drásticamente y el proceso de aprobación se volvió más costoso y lento. Pero el costo político de esos retrasos era casi invisible. Ningún regulador tenía que explicar el nombre del paciente que murió esperando un medicamento que nunca llegó.

El daño de la prohibición es invisible y el de la autorización tiene titular. Ese desequilibrio no es simplemente un defecto del regulador: forma parte de la estructura de incentivos bajo la que decide.

Brito intuyó esto cuando dijo que había que desconfiar del llamado a la pausa, porque podía ser la forma en que los gigantes consolidan su posición y cierran la puerta a la competencia. No hace falta atribuirle a Amodei ninguna intención oculta; él mismo escribe que la acusación de captura regulatoria le llega con frecuencia. Basta leer lo que pide: que las empresas de frontera se coordinen para fijar “límites a la velocidad” y que el gobierno les conceda una exención antimonopolio para poder hacerlo.

En cualquier otra industria, a un acuerdo entre las tres o cuatro empresas dominantes para limitar el ritmo al que mejoran sus productos se lo llama cártel.

Bruce Yandle lo bautizó con una imagen perfecta: los contrabandistas y los pastores bautistas siempre coinciden en cerrar los bares el domingo, aunque por motivos opuestos. Los que gritan que la inteligencia artificial nos va a matar y los que piden que los dejen regularla pueden terminar siendo socios en el mismo resultado, aunque sus motivaciones sean completamente distintas.

El que pierde es el tercero que no está en la mesa: la empresa que todavía no existe, el investigador que no tiene lobby, el enfermo que no tiene tiempo.

No sabemos, y esa es la mejor noticia

Ridley termina su ensayo con una confesión que le honra: su optimismo sobre la inteligencia artificial puede estar tan equivocado como el catastrofismo ajeno. Puede ser enorme o puede decepcionar. No lo sabemos, y no sirve de nada fingir que podremos saberlo antes de que ocurra. Lo averiguaremos mientras pasa.

Esa es la única posición intelectualmente honesta, y tiene una consecuencia política precisa. Si nadie puede prever adónde lleva una tecnología, la peor decisión posible es entregarle la llave a quien pretende que sí puede, aunque sea el más brillante y el mejor intencionado de los ingenieros.

Hayek lo explicó hace ochenta años: el conocimiento está disperso entre millones de personas que prueban, fallan, copian, descubren y corrigen, y ninguna comisión, por brillante que sea, puede reunir en una oficina el conocimiento que todavía no ha sido creado.

Los luditas no perdieron porque fueran malos ni porque sus temores fueran inventados. Perdieron porque se equivocaron sobre el futuro, como se equivocó Rutherford, como se equivocó Krugman, como se equivocaron quienes hicieron predicciones demasiado seguras sobre la inteligencia artificial en 2023, como seguramente nos equivocaremos nosotros.

El problema no es que Amodei pueda estar equivocado. Todos podemos estarlo. El problema empieza cuando convertimos una predicción falible en poder político para decidir qué experimentos pueden hacerse, quién puede hacerlos y a qué velocidad.

Porque del futuro conocemos, a lo sumo, los peligros que hoy somos capaces de imaginar. Lo que nunca conocemos son los descubrimientos que impedimos.

Nadie vio venir la penicilina.