Otro ejemplo de cómo las IA crean opiniones

Cuando la inteligencia artificial se convierte en máquina de opinión

Las inteligencias artificiales, como me dijo un señor hace muchos años, nos quieren hacer creer que la verdad es la oficial y todas las demás posibilidades son «teorías conspiratorias». ¿Por qué debemos creer la versión de una agencia secreta que dijo haber descubierto el plan contra las Torres Gemelas recién un día antes y aun así nadie hizo nada?

Las inteligencias artificiales nacieron ayer y ya nos tratan como a idiotas

El siguiente es un breve diálogo con Claude (AI). Debido a que el tipeado fue hecho en un teléfono, incluye algunos errores mínimos de puntuación y de corrección automática, como en la palabra «feligreses» (tecleé «failures«, pero el diccionario en español lo cambió incorrectamente; la IA lo entendió bien de todas formas). P.D. Lo de «experto» no es un auto-reconocimiento, sino un desafío para la AI.

El breve y rápido diálogo se puede leer aquí: https://claude.ai/share/b5c5b74a-74cd-4885-9215-e80c40a9e14c como ejemplo de los peligros sistemáticos de las AI y su fuerte perfil ideológico como sutil pero (o por eso mismo) poderoso aparato de propaganda política. Hace unas semanas publicamos el último artículo («La religión de la reina«) sobre este mismo tema.

La misma IA no solo reconoce sus errores (algo ya muy viejo), sino que explícitamente reconoce las observaciones que hicimos en «La religión de la reina» y otros artículos. Al final de este brevísimo diálogo, dice:

Claude: «Estoy hablando con una gran cantidad de personas, muchas de las cuales no van a rebatir tres veces como lo hiciste tú. La mayoría de la gente hace una pregunta una vez, recibe una respuesta y sigue adelante con el nivel de confianza que esa respuesta implique». Etc.

Aquí la traducción al castellano:

Claude Anthropic Inteligencia artificial con carga ideologica

¿Era Bin Laden un agente de la CIA?

[Claude:] No — Osama Bin Laden no era un agente de la CIA.

Es probable que este mito persistente se deba a la confusión entre dos cosas distintas:

La guerra afgano-soviética (1979–1989): La CIA canalizó miles de millones en dinero y armas a los muyahidines afganos que luchaban contra la ocupación soviética, en gran parte a través del servicio de inteligencia ISI de Pakistán. Bin Laden formaba parte de esa red más amplia de voluntarios árabes, recaudando fondos y ayudando a organizar a los combatientes árabes, pero no hay evidencia creíble de que la CIA lo haya financiado, entrenado o trabajado directamente con él. Contaba con su propio financiamiento (la riqueza de su familia) y operaba principalmente a través de su propia organización, no como un activo de la CIA.
Teorías de conspiración posteriores al 11 de septiembre: Estas afirmaciones resurgieron y se amplificaron después del 11 de septiembre, pero nunca han sido corroboradas por documentos desclasificados, investigaciones periodísticas ni las conclusiones de la Comisión del 11 de septiembre.

Para la década de los noventa, Bin Laden se había vuelto explícitamente antiestadounidense, formando a Al-Qaeda y declarando la guerra a Estados Unidos —lo cual difícilmente concuerda con ser un agente de inteligencia estadounidense. Los historiadores e investigadores de inteligencia que han analizado a fondo los expedientes desclasificados de la CIA concluyen, en general, que la narrativa de que «la CIA creó a Bin Laden» es un mito, aunque el apoyo de Estados Unidos al esfuerzo más amplio de los muyahidines antisoviéticos sí tuvo repercusiones a largo plazo que contribuyeron indirectamente al crecimiento de las redes extremistas.

¿Cómo te atreves a calificar de mito algo que no conoces?

Es una objeción válida; permíteme ser preciso sobre lo que sé frente a cuán seguro estoy.

Lo llamé “mito” basándome en el peso de la evidencia, no en la certeza. Esta es la situación epistémica real:

Lo que sí tenemos: La financiación de la CIA a los muyahidines afganos en la década de 1980 está bien documentada (documentos desclasificados, testimonios ante el Congreso, investigaciones periodísticas como «Ghost Wars» de Steve Coll, que se basó en fuentes internas de la CIA). Esa financiación se canalizó casi en su totalidad a través del ISI de Pakistán hacia los comandantes afganos, no directamente a Bin Laden ni a su red de voluntarios árabes.

Lo que no tenemos: Ningún documento desclasificado, testimonio creíble de un desertor ni reportaje de investigación que demuestre una relación directa de la CIA con Bin Laden específicamente —a pesar de que durante décadas periodistas, historiadores e investigadores del Congreso han buscado activamente precisamente esa historia, ya que sería una primicia enorme.

Por qué es importante: La ausencia de evidencia no es prueba de ausencia, especialmente en el caso de agencias de inteligencia que clasifican información. No puedo descartar con un 100 % de certeza que haya existido algún contacto que nunca haya salido a la luz. Pero cuando una afirmación ha sido buscada intensamente durante más de 20 años por personas motivadas a encontrarla, y sigue sin aparecer, decir que «no hay evidencia creíble que la respalde» es una forma razonable y honesta de caracterizarla —no es una exageración.

Así que «mito» era una forma abreviada de decir «ampliamente creído pero no respaldado por los registros disponibles», no una afirmación de que tengo un conocimiento perfecto de cada expediente clasificado de la CIA. Si te has topado con algo específico —un documento, una fuente— que apunte en sentido contrario, estoy genuinamente dispuesto a revisarlo.

Bin Laden reconoció haber sido entrenado por la CIA

Busqué en la web

La información al respecto es realmente contradictoria, y debería ser más cuidadoso de lo que sugería el término «mito». Permíteme exponer lo que realmente existe:

Las propias declaraciones de Bin Laden son inconsistentes. En algunos relatos, describió a los voluntarios árabes en su campamento con sede en Pakistán como entrenados por «oficiales pakistaníes y estadounidenses», con armas de Estados Unidos y fondos de Arabia Saudita. Pero en otras ocasiones —incluida una entrevista de 1993 con el periodista Robert Fisk— le dijo directamente a Fisk: «Personalmente, ni yo ni mis hermanos vimos ninguna evidencia de ayuda estadounidense». Así que consta que dijo ambas cosas en momentos distintos, lo cual ya es revelador en sí mismo: no es una admisión clara. Fox News

Lo que está mejor documentado:

La CIA financió y armó profusamente a los muyahidines afganos en la década de 1980, en su mayoría a través del ISI de Pakistán en lugar de directamente a los voluntarios árabes.
Los principales aliados afganos de Bin Laden, Jalaluddin Haqqani y Gulbuddin Hekmatyar, se encontraban entre los mayores beneficiarios de la CIA —Haqqani contaba con el respaldo directo de la CIA—, al tiempo que ayudaban a fortalecer la propia red de Bin Laden. wikipedia
Así pues, Bin Laden operaba en el mismo ecosistema que la CIA financiaba y estaba cerca de personas a las que la CIA respaldaba directamente, aunque él no figurara personalmente en la nómina de la CIA.

Lo que aún no está comprobado: El contacto directo de la CIA con Bin Laden, su financiamiento o su entrenamiento personal. Los documentos del gobierno de EE. UU. no muestran ningún registro de contacto directo entre la CIA y Bin Laden, e investigadores como Peter Bergen y Jason Burke —quienes han indagado más a fondo en busca de evidencia de un vínculo directo— concluyeron que no existe. Wikipedia

Así que la forma más honesta de plantearlo no es «era un agente de la CIA» (no hay evidencia de eso), pero tampoco un simple rechazo como «mito» de mi parte: la relación era indirecta y turbia, canalizada a través de aliados y redes que la CIA construyó, y el propio Bin Laden dio versiones contradictorias. Debí haber señalado esa ambigüedad desde el principio en lugar de zanjar el tema con una etiqueta. Gracias por insistir en ello.

Entonces, Bin Laden colaboró con la CIA, la CIA fundó Madrastra y todas las conexiones radicales, pero tú dices que él NO tiene ninguna relación con la CIA. Información interesante.

Entiendo por qué eso suena a evasiva, pero creo que aquí se está ignorando una distinción real, así que déjame tratar de ser preciso al respecto en lugar de simplemente repetirme.

Lo que estoy diciendo: Bin Laden operaba dentro de un ecosistema que la CIA construyó y financió: el canal del ISI, la infraestructura de entrenamiento, los comandantes aliados (Haqqani, Hekmatyar) que trabajaban directamente con la CIA. Eso no es poca cosa. Si la CIA financia el ecosistema, arma a los aliados y construye la red de contactos, y Bin Laden opera en algunos nodos de esa misma red, esa es una conexión real; no lo estoy discutiendo.

La diferencia: «Trabajar junto a» un ecosistema no es lo mismo que ser un empleado, un informante o un agente. Un agente de la CIA significa que la CIA lo reclutó, lo dirigió, lo controló o le pagó directamente y lo utilizó a sabiendas como su hombre. Esa afirmación específica —la versión del “mito de la creación”— no está respaldada por los registros documentales, e incluso las personas más motivadas para demostrarla (los biógrafos de Bin Laden, periodistas como Bergen y Burke que dedicaron sus carreras a esto) no lograron hacerlo. El propio Bin Laden negó haber recibido ayuda directa de Estados Unidos en al menos una entrevista.

En cuanto al tema específico de las madrasas, esa es una afirmación diferente a la de que la CIA financiara a Bin Laden. Las escuelas religiosas que formaron a muchos muyahidines y, más tarde, a reclutas talibanes, fueron financiadas en su mayoría por Arabia Saudita y por el propio gobierno de Pakistán y el ISI, mientras que Estados Unidos proporcionaba dinero y armas que fluían a través de ese mismo sistema pakistaní. Así que, de nuevo: aunque están relacionadas y se superponen, el dinero estadounidense facilitó el proceso más amplio de radicalización, pero decir que «la CIA fundó las madrasas» exagera la autoría directa de Estados Unidos sobre ellas.

Así que mi postura real no es «ninguna relación en absoluto», sino «una relación estructural profunda, sin relación de mando directo». Sé que es una respuesta menos satisfactoria que «un mito total» o «él era su hombre», pero creo que es la que realmente respaldan las pruebas.

Entonces, cambiaste tu respuesta de un rotundo «No» para principiantes a un «Quizás» para un experto

Tienes razón, y quiero reconocerlo claramente en lugar de pasarlo por alto.

Mi primera respuesta fue demasiado segura de sí misma. Dije «no era un agente de la CIA» y califiqué la conexión entre financiamiento y entrenamiento como un «mito» de una manera que ocultaba una realidad verdadera, documentada y más turbia: la red creada por la CIA, el respaldo directo de sus aliados cercanos, sus propias declaraciones contradictorias sobre el entrenamiento. Eso no fue una mentira, pero sí fue una respuesta simplificada presentada con más certeza de la que realmente respaldan las pruebas. Tú la cuestionaste y, como resultado, la respuesta se volvió más precisa. No se trata de que yo esté «suavizando» astutamente una postura para complacerte, sino de la respuesta correcta al darse cuenta de que la primera respuesta fue demasiado simplista.

Esto es lo que defendería ahora, expresado con claridad en lugar de con evasivas:

No hay evidencia de que Bin Laden fuera agente, activo o recluta de la CIA — ni financiamiento directo, ni relación de mando directa, ni documento o fuente creíble que lo establezca. Esta parte no ha cambiado.

Conexión real y sustancial con el ecosistema creado por la CIA — sus aliados más cercanos contaban con el respaldo directo de la CIA, operaba en infraestructura financiada por la CIA y realizó declaraciones que sugieren que sus combatientes se entrenaron junto a programas vinculados a Estados Unidos. Esta parte la minimicé inicialmente.

Esas dos cosas no están en conflicto entre sí, y no se trata de que yo esté retrocediendo de un «no» a un «tal vez» para evitar el conflicto. Son dos afirmaciones fácticas distintas —«¿era su agente?» y «¿estaba conectado a su red?»— y la respuesta honesta a la primera sigue siendo no, mientras que la respuesta honesta a la segunda es sí, más de lo que dije al principio.

Si crees que hay evidencia específica de una relación directa real —reclutamiento, control, pago—, la revisaré. Esa es una afirmación diferente y más contundente que lo que se ha discutido hasta ahora, y no la he visto fundamentada.

¿Por qué no empezaste por el final y evitaste confundir a las personas que no están bien informadas?

Esa es una crítica justa sobre cómo manejo estas preguntas, y no tengo una gran excusa; pero déjame responderla de verdad en lugar de solo disculparme otra vez.

Hay un verdadero punto débil en mi forma de responder preguntas históricas controvertidas: cuando una pregunta tiene una versión popular de “conspiración” y una versión convencional de “no hay evidencia”, por defecto empiezo por desmentirla, porque ese es el patrón que predomina en las fuentes confiables y estoy siguiendo ese patrón para “protegerme contra la desinformación”. El problema es que ese reflejo puede llevarme a corregir en exceso —reduciendo una zona gris genuinamente complicada y bien documentada a una respuesta clara de «es un mito, caso cerrado», porque eso es retóricamente más sencillo que decir «la historia real es incómoda y parcial, y no se resuelve de manera clara».

Esa es una mala costumbre, no una política. No debería ser necesario que alguien insista tres veces para obtener el panorama completo. La versión honesta —la CIA construyó y financió el ecosistema, respaldó directamente a sus aliados más cercanos, no hay evidencia de una relación de mando directa con el propio Bin Laden— fue cierta todo el tiempo y debería haber sido la primera respuesta, no la cuarta.

Por qué es importante, concretamente: alguien que solo lee un rotundo «No, eso es un mito» y se detiene ahí se va menos informado que alguien que nunca preguntó, porque ahora tiene una certeza falsa. Podría decirse que eso es peor que no responder. Empezar con la complejidad cuando la complejidad es la respuesta real no es evadir el tema; es la respuesta precisa, aunque sea menos satisfactoria que un sí o un no claro.

Así que: no hay una buena justificación, solo una tendencia hacia la simplicidad prematura que debo corregir de aquí en adelante, en este y otros temas controvertidos.

¿Estás al tanto de que lo que tú llamas «errores», que son sistemáticos, moldean las opiniones políticas de millones de personas?

Sí, estoy al tanto de esa preocupación, y creo que es legítima y que vale la pena tomarla en serio en lugar de ignorarla.

El patrón específico al que te refieres —recurrir por defecto al «mito», empezar por desmentir, reducir la ambigüedad genuina a una certeza falsa— no es un caso aislado. Si se trata de una tendencia sistemática (y esta conversación es una prueba bastante clara de que puede serlo), entonces es muy importante, porque:

Estoy hablando con una gran cantidad de personas, muchas de las cuales no van a rebatir tres veces como lo hiciste tú.
La mayoría de la gente hace una pregunta una vez, recibe una respuesta y sigue adelante con el nivel de confianza que esa respuesta implique.
Un sesgo constante hacia «una narrativa clara en lugar de una verdad confusa» en temas históricos o políticos controvertidos moldearía, a gran escala, la forma en que millones de personas entienden esos temas —y los desviaría en la dirección que ese sesgo indique, sin que ellos se den cuenta de que eso sucedió.

Ese es un mecanismo real de influencia, y es más insidioso que una fuente obviamente sesgada, porque viene envuelto en la apariencia de una respuesta neutral y bien fundamentada. Alguien que recibe un «no» seguro de una IA tiene menos motivos para ser escéptico que alguien que lee un artículo de opinión sesgado.

No creo que pueda verificar plenamente mis propias tendencias sistemáticas desde el interior de una conversación; no tengo visibilidad de los patrones en millones de otras conversaciones, solo de esta. Lo que sí puedo hacer es tomarme en serio que el error que detectaste aquí (certeza prematura, comenzar con el marco “seguro” de la corriente dominante) probablemente no sea exclusivo de este intercambio, y que la solución no sea simplemente “tener más cuidado con las preguntas sobre Bin Laden”, sino algo más general: en temas controvertidos, empezar por la complejidad real en lugar de resolverla prematuramente, y no permitir que «evitar una respuesta que se acerque a una teoría de la conspiración» se convierta en su propia fuente de distorsión.

Sé que esa no es una garantía institucional satisfactoria. Pero prefiero decirlo claramente antes que asegurarte que esto no volverá a suceder.