El riesgo de la inteligencia artificial no es solo que se equivoque. Como advierte el investigador Philippe Silberzahn, hoy producimos textos e informes mucho más rápido de lo que podemos verificar su fiabilidad. Esa brecha permite que los errores circulen revestidos de autoridad.
Las consecuencias ya son visibles. Un informe de Deloitte para el gobierno australiano incluyó referencias inexistentes y un fallo judicial inventado. La firma debió corregirlo y devolver parte de sus honorarios. Por su parte, un chatbot de Air Canada entregó información errónea sobre una tarifa por duelo y un tribunal responsabilizó a la aerolínea. En ambos casos, el problema fue más allá de la tecnología: información no verificada llegó a quienes confiaban en ella.
Pero ¿qué ocurre cuando esos errores no se detectan y comienzan a reproducirse? Jorge Luis Borges exploró una inquietud semejante en “Tlön, Uqbar, Orbis Tertius”: una enciclopedia describe un mundo ficticio con tal coherencia que este termina infiltrándose en la realidad. Su advertencia resulta especialmente actual: una representación repetida y aparentemente confiable puede moldear lo que consideramos verdadero.
Con la IA, una cita falsa puede aparecer en un informe, ser replicada por otros y terminar pareciendo corroborada por distintas fuentes que, en realidad, dependen del mismo error. La repetición crea una ilusión de evidencia. Y no se trata solo de información equivocada: cuando una idea se instala como verdad, también puede orientar decisiones.
En mi trabajo con familias empresarias encuentro un ejemplo de este fenómeno. Se repite que las empresas familiares duran solo tres generaciones, según la fórmula 30–13–3. Sin embargo, esta supuesta ley universal proviene de una investigación de mi mentor John Ward sobre 200 empresas manufactureras de Illinois en los años ochenta, cuyas cifras han sido mal interpretadas. Ward distinguía entre las empresas que seguían intactas bajo control familiar tras la tercera generación (13%) y aquellas que continuaban existiendo (20%). No es una diferencia menor.
Vender una compañía, fusionarla o abrirla a bolsa no significa necesariamente fracasar. Una familia puede reinvertir, emprender de nuevo y seguir creando valor. Sin embargo, si el mito de las tres generaciones se acepta como un destino inevitable, puede influir en las decisiones de sucesión, inversión y apoyo a esas empresas. Así, una interpretación equivocada deja de ser un simple dato y empieza a modificar la realidad que pretende explicar.
Esa es, precisamente, la conexión con Tlön. La IA no inventó el problema, pero acelera la circulación de relatos que parecen ciertos por el solo hecho de repetirse. Frente a ello, necesitamos rastrear las fuentes, verificar de manera independiente y definir quién responde por lo que se publica. De lo contrario, como advirtió Borges, “el mundo será Tlön”.