Moralmente vinculante

Le preguntaron si el acuerdo obligaba y respondió que sí: moralmente. La escena ocurrió el martes 29 de septiembre a las puertas de la Casa Blanca, después de que seis de los hombres que dirigen las mayores empresas de inteligencia artificial del mundo firmaran, junto al Presidente Trump, un documento de dos páginas que él mismo comparó con una Constitución. El adverbio fue recibido como se recibe una evasiva, y no sin motivo: en el idioma de nuestro tiempo, «moral» designa lo que obliga sin obligar, el compromiso que puede romperse sin que nadie tenga a quién reclamar.

La tradición clásica entiende la palabra exactamente al revés. Para ella la obligación moral no es la versión débil de la jurídica, sino su raíz: la ley justa obliga en conciencia, y hay deberes que obligan, aunque ninguna ley los haya escrito todavía. Quien promete queda atado, aunque ningún tribunal lo persiga. En este sentido, el presidente dijo más verdad de la que quiso. El acuerdo es, en efecto, moralmente vinculante. El problema es a quién vincula.

Porque la obligación de conciencia tiene una propiedad curiosa: pesa por entero sobre quien menos la necesita. El hombre justo no requiere amenazas para abstenerse de dañar al prójimo; hace por amor lo que la ley manda por miedo, y por eso se ha dicho siempre que la ley no fue puesta para él. No es que le sobre toda regla: aun los buenos necesitan saber hacia dónde caminar juntos, y a ellos un acuerdo así puede servirles de guía. Pero no para lo esencial: ningún santo necesita estampar su firma para no poner en riesgo a la humanidad. Al injusto, en cambio, la guía no le sirve de nada, porque quien desoye a su conciencia no va a obedecer a un papel cuya única fuerza es apelar a ella; lo único que lo contiene es el castigo, y es justamente lo que el acuerdo no tiene. Se ha fabricado, pues, un instrumento de rara perfección: es fuerte donde menos se necesita y débil donde más se necesita.

Aquí asoma algo que el debate suele pasar por alto. La ley con sanción no insulta a nadie. No presume que tal o cual empresario sea un malhechor: se dicta para la multitud, sabiendo que en toda multitud hay quienes solo se contienen por temor, y que ese temor, con los años, a veces se vuelve costumbre, y la costumbre, virtud. El justo ni siquiera siente la cadena, porque camina en la misma dirección que ella. De ahí una paradoja digna de meditarse: solo el hombre recto podría firmar sin miedo una ley con dientes, y es el único que no la necesita. La resistencia a la ley no prueba la maldad de nadie; pero tampoco puede invocar la virtud en su defensa. Ningún código de honor le ha quitado jamás el sueño a un ladrón. Lo que se lo quita es la patrulla.

El Presidente habló de Constitución. Pero una Constitución supone una potestad capaz de ordenar a todos aquellos a quienes se dirige; esta tiene redactores, firmantes y fotógrafos, y ninguna autoridad sobre nadie. Los empresarios, por encumbrados que sean, no hacen leyes: a lo sumo se aconsejan, y en este caso a sí mismos, que es el consejo menos escuchado del mundo. Promover la ley corresponde a quienes tienen a su cargo el bien de todos, y estaban en la foto: el Presidente de los Estados Unidos, que firmó como uno más, y el de la Cámara de Representantes, que se apresuró a aclarar que todo era voluntario. El texto confirma el diagnóstico con su propia gramática: los signatarios «creen» que cada empresa «debería» adoptar ciertos controles, y admiten que con el tiempo «podría tener sentido» convertirlos en ley. No hay sanción, ni juez, ni autoridad que apruebe nada. La obligación moral ni siquiera alcanza a todos los comensales: dos de las grandes compañías presentes en el almuerzo no firmaron. Nada de esto significa que el contenido sea malo. Auditores externos, equipos internos de verificación, vigilancia desde los directorios: el acuerdo recoge buena parte de lo que León XIV pedía en mayo, en Magnifica humanitas. Lo que el Papa añadía, y el acuerdo omite, era la otra mitad: que no basta invocar genéricamente la ética, que se necesitan marcos jurídicos adecuados y una política que no renuncie a su tarea.

Se responde que las empresas tienen incentivos para portarse bien, porque se juegan su propio negocio. El argumento prueba demasiado: con él habría que derogar el Código Penal, pues tampoco al que adultera alimentos le interesa quedarse sin clientes. Se responde también que las leyes vigentes y la policía federal bastan. La sanción posterior sirve para los daños que admiten reparación; es inútil ante aquellos que no dejan a nadie en pie para demandar.

Hay, además, una dificultad que el propio acuerdo lleva adentro. La promesa obliga en conciencia, pero lo prometido aquí son medidas de prudencia, y la prudencia se ajusta a las circunstancias. Las circunstancias las anunció el Presidente de EE.UU. ese mismo día: la carrera con China tendrá un ganador y un perdedor, y no habrá segundo lugar. Una semana antes, en Naciones Unidas, había dicho que venía a impulsar esta tecnología, no a frenarla. Una promesa hecha sobre el tablero de una carrera trae incorporada su cláusula de salida: bastará que el rival mueva una pieza para que la conciencia se sienta, de buena fe, liberada de lo prometido. No de lo debido. «Si no lo hacemos nosotros, lo hará China» es la frase que disuelve cualquier compromiso moral, precisamente porque se presenta como un argumento moral. Lo que ninguna jugada del rival puede levantar es el deber que está debajo, que no es de hacer sino de abstenerse: no someter a inocentes a un peligro grave e injusto obliga siempre, con promesa o sin ella. El acuerdo tradujo esa prohibición, que no cede nunca, al idioma de las buenas prácticas, que ceden cada vez que el tablero lo pide. Por eso León XIV habla de desarmar esta tecnología: sustraerla a una competencia que ya no es solo militar, sino económica y cognitiva, y romper la ecuación entre poder técnico y derecho a gobernar. Hay aquí, por último, una contradicción que no se resuelve con adjetivos. En Naciones Unidas, el Presidente Trump rechazó todo «esquema globalista» de control. Tenía derecho a desconfiar de las burocracias sin rostro. Pero el resultado no ha sido la ausencia de un control global, sino su privatización: el destino de la humanidad, si hemos de creer a quienes lo invocan, queda encomendado a seis directorios y a sus auditorías.

Lo más desconcertante es que los atados pedían la cuerda. Días antes, ante el Consejo de Seguridad, los jefes de dos de las empresas firmantes advirtieron que esta tecnología, mal gestionada, podía ser un riesgo para la humanidad entera, y uno de ellos prometió frenar cuanto fuera necesario. Es Ulises pidiendo que lo amarren al mástil porque sabe que no resistirá el canto de las sirenas. No hay debilidad en ese gesto, sino la forma más alta de lucidez: la de quien conoce la medida de su propia voluntad. El acuerdo de la Casa Blanca hace lo contrario: desata a Ulises, le estrecha la mano y le pide su palabra de honor. Y Ulises, cortésmente, firmó. La falla no está tanto en quien pedía la cuerda como en quien tiene el oficio de anudarla y prefiere fiarse del marinero. Gobernar no es aplaudir la buena voluntad ajena; es suplir con la ley lo que la buena voluntad no alcanza.

Chile no fabrica superinteligencias, pero discute su propia ley. El proyecto que regula los sistemas de inteligencia artificial sigue en el Senado, y en su comisión se ha anunciado un giro: cambiar la revisión previa por la revisión posterior, mirando modelos distintos del europeo, como los de Japón, Singapur y Corea. Para la mayoría de los usos, el cambio puede ser sensato; nadie necesita permiso del Estado para que un programa le recomiende una película. Pero la lección de estos días vale también aquí. La ley no está hecha para reprimir todos los males, sino aquellos sin cuya represión la convivencia no se sostiene; y hay daños que solo pueden evitarse antes. Bastaría que el legislador distinguiera entre lo que se corrige después y lo que después ya no tiene arreglo.

El Presidente Trump tenía razón: el acuerdo obliga moralmente. Ata en conciencia a todos, pero no le ata las manos a nadie. Una sociedad que confía su supervivencia a la palabra de honor de los competidores no ha elevado la moral a la altura de la ley; ha rebajado la ley a la altura de una promesa de hacer el bien. Y esas promesas, como sabe cualquiera que haya jugado al ajedrez, se sacrifican igual que los peones: siempre por una buena razón.