En 1997, trabajando en Mozambique como arquitecto recién egresado, visité junto con el alemán Reinhard Klingler (cooperante de una ONG llamada UFUNDA) las aldeas Cabo Delgado, de Mueda y Montepuez. En una de ellas, nos reunimos con los jefes del poblado para proponerles el plan que, según Reinhard, iba a ser financiado por un grupo de cooperación de la Unión Europea. A mí se me había encargado la tarea de aportar las soluciones edilicias de las escuelas de oficios según los recursos materiales y la mano de obra disponible en el área. Un atardecer, finalizada una de esas reuniones en un solemne patio de tierra colorada recién barrida, los jefes de la aldea se me aproximaron y me dijeron, en un portugués lleno de palabras makuas (cito de memoria y sin pretensiones de literalidad): “Estamos muy de acuerdo con todas sus propuestas… Pero queremos que el jefe encargado del proyecto sea un hombre blanco (ncunña o kunha)”. Tal vez notaron mi cara de sorpresa o debí responderles con alguna pregunta. “Sim, ncuña.., branco”. Lo que recuerdo, sin lugar a duda, fue la explicación que me dieron: “Es que los blancos son menos corruptos que los negros”. No recuerdo si les contesté o la respuesta fue solo una de las miles de notas que tomé para mi libro Crítica de la pasión pura que luego no incluí cuando en 1998 pude publicarlo en Montevideo: “Me temo que los amos blancos ya los han corrompido a ustedes haciéndoles repetir sus propias ideas y sus propios intereses, no el de ustedes”. Como escribió alguna vez el gran Frantz Fanon, el colonizado es un humain déshumanisé.[1] O, más claro aún en su libro anterior, Peau noire, masques blancs (1952), “le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que la Malgache obéit à un complexe de dépendance”.[2]

Esa función que el colonizado, el deshumanizado cumplió por siglos, ahora es complementada por otro tipo de seres deshumanizados: los bots, los robots con inteligencia artificial. Es decir, en el fondo es lo mismo pero simplificado por la alta tecnología.

Por mucho tiempo, los expertos entendieron que una de las características de los bots eran que (1) no producían contenido y (2) eran monotemáticos. Está bien. Podemos ver que el primer punto es consistente con la misma etimología de la palabra bot, la que deriva de robot y, a su vez, deriva del checo esclavo. Por su parte, la etimología de esclavo deriva de eslavo, pero si saltamos a la etimología de adicto veremos que en la antigüedad se refería a esclavo, en el sentido de que los romanos entendían estos como aquel individuo que no piensa por sí mismo, sino que es adicto, es decir, dice por otro, dice lo que otro quiere que diga. Un robot, un bot, un esclavo.

El segundo punto se refiere a que los bots de las redes sociales, por lo general, tienen un objetivo político, es decir, de poder. Repite como un adicto, como un esclavo, en beneficio de su amo. No tiene intereses diversos, como un humano anterior a las redes, es decir, no habla de fútbol y de Hegel sino de su único tema. Es monotemático. El problema es que también es posible, y muy posible, encontrar humanos que encajan en este perfil es bots, de adictos, de esclavos. Hace por lo menos quince años, reflexionábamos sobre la nueva naturaleza material y psicológica en la que estábamos ingresando y, en algunos artículos, mencionamos algo que luego recogimos en el libro Cyborgs de 2012: “Mientras las universidades logran robots que se parecen cada vez más a los seres humanos, no sólo por su inteligencia probada sino ahora también por sus habilidades de expresar y recibir emociones, los hábitos consumistas nos están haciendo cada vez más similares a los robots”.[3]

Actualmente, los más modestos bots de las redes sociales ya son capaces de expresarse con tartamudeos y tics, al tiempo que los humanos intentamos eliminarlos de nuestra naturaleza. El por entonces candidato a la presidencia Donald Trump, en los primeros tres meses de su campaña de 2016 llegó a citar 150 de sus propios bots como si fuesen humanos y humanos con algo importante que decir. A su vez, estas citas fueron reproducidas por otros humanos y por otros bots.[4] Práctica que continuó luego de convertirse en presidente.

Para el año 2015, un tercio de los tweets y hasta la mitad del tráfico en Internet ya era generado por bots.[5] En muchos casos, los bots han sido humanizados con todos los defectos y costumbres de los humanos, como mantener de forma consistente otras cuentas en diferentes redes sociales con ideas y tics similares; o tomarse un tiempo prudente para responder a un tema urgente. En 2014, un bot logró pasar por primera vez el Test de Turing (diseñado en 1950 por el genio de la computación Alan Turing) haciéndole creer a los jueces, en una entrevista de cinco minutos, que se trataba de un verdadero ser humano. Debido a esta habilidad de sustituir humanos con la sensibilidad de lo real, como cuando alguien habla nuestro propio lenguaje y se expresa como nuestros propios amigos, estos bots has sido capaces de alentar levantamientos sociales y, sobre todo, de desarticular protestas reales de gente real con problemas reales.

Los CEOs de las mega plataformas sociales como Twitter y Facebook se excusan ante la proliferación de contenido racista afirmando que “no somos los árbitros de la verdad”. Algo que sería maravillosamente correcto de no ser porque es sólo una ilusión conveniente. Actualmente, la sensibilidad ante el racismo en Estados Unidos ha desplazado otra realidades como el clasismo o la explotación de seres humanos a larga distancia en beneficio de la micro elite empresarial. Las plataformas arbitran no sólo posiciones políticas, como quien tiene razón en el conflicto Rusia-OTAN, o Trump-Biden, sino que toda su existencia e ingeniería psicología se basa en la ideología del consumo y los beneficios de la “libre competencia”, uno de los mitos más obscenos de nuestro tiempo, si es que hay otro más obsceno.

No por casualidad, la juventud rebelde, revolucionaria y de izquierda en los siglos XIX y XX era una juventud ilustrada en los libros mientras que en la actualidad la juventud reaccionaria, conservadora y de derecha ha sido educada en las redes sociales. No por casualidad, la propagación de fake news de estas “redes neutrales” ha proliferado en temas clásicos de la extrema derecha, como la religión, la tribu y el racismo.

Luego de las más recientes invasiones y de las guerras post coloniales de la potencias occidentales en África y Medio Oriente (Afganistán, Irak, Libia, Siria, Yemen) ocurrió el mismo fenómeno que con las guerras de Washington en su Patio trasero de América Latina: miles comenzaron a huir del caos del Sur global hacia el único lugar donde se podía encontrar trabajo remunerado, el Norte civilizado, y no fueron bien recibidos. Las fronteras de Estados Unidos y de Europa se cerraron para “proteger nuestra cultura”, para “proteger la ley y el orden”, para “proteger nuestras fronteras”, derechos que nunca se respetaron cuando se trató de las fronteras, de las cultura y de las leyes y el orden de los otros, los salvajes.

Debido al envejecimiento de la población en Alemania y a cierta sensatez de la canciller Angela Merkel, se permitió el ingreso de varios miles de refugiados sirios. Pero como en el resto de Europa, los inmigrantes fueron resistidos como invasores. Como esta narrativa no resultó suficiente, se recurrió a otro clásico del género, ejercido con extrema habilidad demagógica por el expresidente Donald Trump y por la mayoría de los políticos de su partido: “los inmigrantes negros y pobres vienen a violar nuestras mujeres”. Este discurso recurrente de la imaginación pornográfica del siglo XIX (la feminista y educadora Rebecca Latimer Felton recomendaba mil latigazos para evitar que los negros libres violaran a las muchachitas rubias, pese a que las violaciones más frecuentes eran de los blancos a las jóvenes negras). Para cuando Rebecca Felton fue elegida primera senadora mujer de la historia de este país en 1922, también una parte de los científicos europeos y estadounidenses (contrario a lo que afirmaron en diversos ensayos latinoamericanos como el cubano José Martí o el peruano González Prada) estaban convencidos de la superioridad de unas razas sobre otras, según su propia idea de superioridad. En 1923, el especialista Carl Brigman en su Study of American Intelligence escribió: “la superioridad de nuestra población nórdica sobre otros grupos como los alpinos, los europeos mediterráneos y los negros es algo que ha sido demostrado”.[6] El mismo autor se arrepentirá de esta conclusión site años más tarde considerando que no estaba bien fundada en los datos disponibles, pero la cultura popular y los poderes que forman y manipulan sus debilidades ya se habían movido como un tsunami hacia otro lado. Los años 30 fueron el apogeo del nazismo en Europa y, en Estados Unidos, el odio contra los negros y la expulsión de ciudadanos estadounidenses con cara de mexicanos alcanzó niveles históricos. El poder de estas teorías no terminaron con la derrota de Hitler; continuaron en la práctica con experimentos médicos entre los negros de Estados Unidos y los pobres de Guatemala; continuaron con las guerras imperialistas y las esterilizaciones masivas de razas inferiores, como en Puerto Rico en los años 70 y en Perú en los 90.[7]

En la Europa del siglo XXI se difundió repetidas veces el rumor falso y centenario de que los inmigrantes de piel oscura estaban matando a los hombres y violando a las pobres e indefensas europeas blancas. Estos rumores nunca fueron confirmados por las estadísticas, pero ese es un detalle desechable por la masa enardecida.

Otro ejercicio de rumor falso, apetecido por el millonario mercado del odio germinado en el miedo, asoló las víctimas de múltiples masacres ocurridas en Estados Unidos en las dos últimas décadas. Diversas plataformas habitadas por moscas anónimas circularon la versión de que estas masacres habían sido montajes, a pesar de que tanto los familiares como las tumbas de las mismas víctimas estaban allí para verificar su existencia. No por casualidad, los grupos que se encargaron de viralizar estas teorías conspiratorias eran de extrema derecha, de derecha o, simplemente partidarios de la derecha política, amante de las armas.

Luego de todo el antecedente humano, no es mera casualidad el hecho de que hasta los bots sean racistas. A principios de 2016 Microsoft lanzó su bot estrella, una chica inexistente con el bagaje lingüístico de una humana de 19 años que, dotada de inteligencia artificial podía interactuar con humanos reales en Twitter y en chats telefónicos como GroupMe. Los chats con Tay (Thinking About You) eran tan realistas que hasta errores de puntuación incluían.[8] De esta interacción en “el mundo real”, Tay aprendió a ser Tay. A poco de estas enriquecedoras tertulias (como en el siglo pasado una joven aprendía de las conversaciones de los café de intelectuales en París o Montevideo) Tay se convirtió en una asquerosa racista. Hasta el punto de que la empresa Microsoft, seguramente no tanto por razones morales sino económicas, decidió extenderle un certificado defunción 16 horas después de su nacimiento. Una vida corta, sin dudas, pero suficiente para escribir casi cien mil mensajes de tweets.

Otros experimentos mejorados (como Zo, más políticamente correctos) duraron más y fracasaron igual por razones similares. Mega plataformas como Facebook han intentado limpiar todo este racismo y sexismo ambiental que sirve de alimento a las futuras IA. Sin embargo, la técnica de censurar páginas y textos por incluir expresiones racistas se parece mucho a la actual cancel culture que se originó en Estados Unido y ya casi ha abarcado otros continentes. De la misma forma que en diversas instituciones de educación varios maestros y hasta profesores han perdido sus trabajos por mencionar la palabra “negro” cuando pretendían denunciar el racismo en algún texto, documento u obra de ficción, así los bots censuraron textos que denunciaban el racismo contra indios o negros por incluir frases que el bot malinterpretaba en su contexto general.[9]

El mismo problema con la tecnología “biometric” o de reconocimiento facial, según la cual los rostros de gente no blanca tenían más posibilidades de ser reconocidas como sospechosas. [10] O simplemente no las reconocen como rostros humanos. Esta observación no es nueva. En términos económicos pertenecen a la prehistoria de las técnicas de reconocimiento facial, denunciadas por lo menos desde el año en 2009.[11] Si nos remontásemos a la tecnología de la fotografía desde el siglo XIX, la historia no es muy diferente. Según el historiador del cine Richard Dyer, cuando los primeros fotógrafos recurrieron al retrato en la década de 1840, “experimentaron con la química del material fotográfico, el tamaño de la apertura, la duración del revelado y la luz artificial, procedieron bajo la suposición de que lo que había que hacer bien era el aspecto de la cara blanca”.[12]

---

[1] Fanon, Frantz. Les damnés de la terre. Paris : Françoise Maspero, 1968, p. 13. (“La bourgeoisie colonialiste, quand elle enregistre l’impossibilité pour elle de maintenir sa domination sur les pays coloniaux, décide de mener un combat d’arrière-garde sur le terrain de la culture, des valeurs, des techniques, etc. […] La fameux principe qui veut que tous les hommes soient égaux trouvera son illusion aux colonies dès lors que le colonisé posera qu’il est l’égal du colon”.)

[2] Fanon, Frantz. Peau noire, masques blancs. [1952] Préface (1952) et postface (1965) de Francis Jeason. Paris, Éditions du Senil, 1965, p. 99: “Je commence à souffrir de ne pas être un Blanc dans la mesure où l’homme blanc m’impose une discrimination, fait de moi un colonisé, m’extorque toute valeur, tutte originalité, me dit que je parasite le monde. […] Alors j’essaierai tut simplement de me faire blanc, c’est-à-dire j’obligerai la Blanc à reconnaître mon humanité. Mais, nous dira M. Mannoni, vous ne pouvez pas, car il existe au profond de vous un complexe de dépendance. […] le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que la Malgache obéit à un complexe de dépendance. Tout le monde est satisfait.”

[3] Majfud, Jorge. Cyborgs. Izana Editores, Madrid, 2012.

[4] Business Insider UK. “Donald Trump Quoted Bots on Twitter 150 Times, Analysis Claims.” Business Insider, Insider, 11 Apr. 2016, www.businessinsider.com/donald-trump-quote-bots-twitter-2016-4

[5] Woolley, Samuel C., and Philip N. Howard. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford Studies in Digital Poli, 2018, p. 7.

[6] Zaller, John R., and Zaller J. R. The Nature and Origins of Mass Opinion. Cambridge UP, 1992, p. 10.

[7] Más allá del viejo Patio trasero, desde 1971 a 1977 y con un presupuesto de cinco millones de dólares (más de 30 millones a valor de 2020), el Programa de Educación Internacional en Ginecología y Obstetricia entrenó 500 médicos en 60 países, entre ellos el Chile de Pinochet y el Irán del Shah. El 21 de abril de 1977, el director del Federal Government’s Office of Population, el doctor R. T. Ravenholt informó que el objetivo de Washington era esterilizar 570 millones de mujeres pobres, un cuarto de todas las mujeres fértiles del mundo. (La frontera salvaje. 200 años de fanatismo anglisajón en América Latina, 2021, p. 502.)

[8] “Meet Tay – Microsoft A.I. Chatbot with Zero Chill.” Archive.org, 2016, web.archive.org/web/20160323194709/tay.ai/.

[9] Majfud, Jorge. “La tiranía del lenguaje (colonizado).” Página12, 20 Feb. 2022, www.pagina12.com.ar/402698-la-tirania-del-lenguaje-colonizado.

[10] Sandvig, Christian, et al. “When the Algorithm Itself Is a Racist: Diagnosing Ethical Harm in the Basic Components of Software.” International Journal of Communication, vol. 10, 2016, pp. 4972–90, social.cs.uiuc.edu/papers/pdfs/Sandvig-IJoC.pdf.

[11] “Webcam Can’t Recognize Black Face.” Thestar.com, thestar.com, 23 Dec. 2009, www.thestar.com/news/2009/12/23/webcam_cant_recognize_black_face.html

[12] Dyer, Richard. White. London: Routledge, 1997.

Les bots, esclaves au service de la guerre de classe et de race

Jorge Majfud,  19/9/2023
Traduit par Fausto Giudice, Tlaxcala

En 1997, alors que je travaillais au Mozambique en tant qu’architecte fraîchement diplômé, j’ai visité les villages de Cabo Delgado, Mueda et Montepuez en compagnie de l’Allemand Reinhard Klingler (coopérant pour une ONG appelée UFUNDA). Dans l’un d’eux, nous avons rencontré les chefs de village pour leur proposer le plan qui, selon Reinhard, devait être financé par un groupe de coopération de l’Union européenne.

J’avais été chargé de fournir des solutions de construction pour les écoles professionnelles en fonction des ressources matérielles et de la main-d’œuvre disponibles dans la région. Un soir, à la fin d’une de ces réunions dans une cour solennelle de terre rouge fraîchement balayée, les chefs de village s’approchèrent de moi et me dirent, dans un portugais plein de mots makua (je cite de mémoire et sans prétendre à la littéralité) : « Nous sommes tout à fait d’accord avec toutes vos propositions… Mais nous voulons que le chef responsable du projet soit un blanc (Ncunña ou Kunha) ». Peut-être ont-ils remarqué mon visage surpris ou bien leur ai-je répondu par une question. « Sim, ncuña…, branco ». Ce dont je me souviens, sans hésitation, c’est de l’explication qu’ils m’ont donnée : « C’est que les blancs sont moins corrompus que les noirs ».

Je ne me souviens pas si je leur ai répondu ou si la réponse n’était qu’une des milliers de notes que j’ai prises pour mon livre Crítica de la pasión pura et que je n’ai pas incluses lorsque j’ai pu le publier à Montevideo en 1998 : « Je crains que les maîtres blancs ne vous aient déjà corrompus en vous faisant répéter leurs propres idées et leurs propres intérêts, pas les vôtres ». Comme l’a écrit le grand Frantz Fanon dans Les damnés de la terre, le colonisé est un humain déshumanisé [1] ou, plus clairement encore, dans son livre précédent, Peau noire, masques blancs (1952), « Le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que le Malgache obéit à un complexe de dépendance»[2].

Cette fonction que les colonisés, les déshumanisés, ont remplie pendant des siècles, est aujourd’hui complétée par un autre type d’êtres déshumanisés : les bots, les robots dotés d’une intelligence artificielle. En d’autres termes, c’est au fond la même chose, mais simplifiée par la haute technologie.

Anuncios

https://c0.pubmine.com/sf/0.0.7/html/safeframe.html

INFORMA SOBRE ESTE ANUNCIO

Pendant longtemps, les experts ont compris que l’une des caractéristiques des bots était (1) qu’ils ne produisaient pas de contenu et (2) qu’ils étaient monothématiques. C’est très bien. On constate que le premier point est cohérent avec l’étymologie même du mot bot, qui dérive de robot* et, à son tour, du mot tchèque pour esclave. Pour sa part, le mot esclave dérive de slave, mais si nous passons à l’étymologie du mot adicto [dépendant, addict], nous verrons que dans l’Antiquité, ce mot désignait l’homme condamné à l’esclavage pour dette, au sens où les Romains l’entendaient comme un individu qui ne peut plus agir et penser par lui-même, mais qui est addictus, “affecté” à, c’est-à-dire que son corps est mis à disposition du plaignant par un juge. Bref, il est ravalé au rang de robot, de bot, un esclave.

Le deuxième point fait référence au fait que les bots sur les réseaux sociaux ont généralement un objectif politique, c’est-à-dire le pouvoir. Ils répètent comme des addicts, comme des esclaves, au profit de leur maître. Ils n’ont pas d’autres intérêts, comme un humain d’avant les réseaux, c’est-à-dire qu’ils ne parlent ni de football ni de Hegel, mais seulement de leur thème. Le bot est monothématique. Le problème est qu’il est aussi possible, et même très possible, de trouver des humains qui correspondent à ce profil  de bots, d’addicts, d’esclaves. Il y a au moins quinze ans, j’ai réfléchi à la nouvelle nature matérielle et psychologique dans laquelle nous entrions et, dans certains articles, j’avais mentionné quelque chose que j’ai repris plus tard dans le livre Cyborgs de 2012 : « Alors que les universités fabriquent des robots qui ressemblent de plus en plus à des êtres humains, non seulement pour leur intelligence avérée, mais maintenant aussi pour leurs capacités à exprimer et à recevoir des émotions, les habitudes consuméristes nous rendent de plus en plus semblables à des robots » [3]

Aujourd’hui, les bots les plus modestes des médias sociaux sont déjà capables de s’exprimer avec des bégaiements et des tics, alors que nous, les humains, essayons de les éliminer de notre nature. Au cours des trois premiers mois de sa campagne de 2016, Donald Trump, alors candidat à la présidence, a cité 150 de ses propres bots comme s’il s’agissait d’humains ayant quelque chose d’important à dire. À leur tour, ces citations ont été reproduites par d’autres humains et d’autres bots [4], une pratique qui s’est poursuivie après son accession à la présidence.

En 2015, un tiers des gazouillis et jusqu’à la moitié du trafic internet étaient déjà générés par des bots[5]. Dans de nombreux cas, les bots ont été humanisés avec tous les défauts et habitudes des humains, tels que le maintien constant d’autres comptes sur différents réseaux sociaux avec des idées et des tics similaires ; ou le fait de prendre un temps prudent pour répondre à une question urgente. En 2014, un robot a réussi pour la première fois à passer le test de Turing (conçu en 1950 par le génie informatique Alan Turing) en faisant croire aux juges, lors d’un entretien de cinq minutes, qu’il s’agissait d’un véritable être humain. Grâce à cette capacité à se substituer aux humains avec la sensibilité du réel, comme lorsque quelqu’un parle notre propre langue et s’exprime comme nos propres amis, ces bots ont pu encourager des soulèvements sociaux et, surtout, perturber de vraies protestations de personnes réelles ayant de vrais problèmes.

Les PDG des grandes plateformes sociales comme X (ex-Twitter) et Meta (ex-Facebook) s’excusent face à la prolifération de contenus racistes en affirmant que « nous ne sommes pas les arbitres de la vérité ». Ce qui serait tout à fait exact s’il ne s’agissait pas d’une illusion commode. Aujourd’hui, la sensibilité au racisme aux USA a supplanté d’autres réalités telles que le classisme ou l’exploitation à distance d’êtres humains au profit de la micro-élite patronale. Les plateformes n’arbitrent pas seulement des positions politiques, comme celle de savoir qui a raison dans le conflit Russie-OTAN, ou Trump-Biden, mais leur existence entière et leur ingénierie psychologique sont basées sur l’idéologie du consumérisme et les avantages de la “libre concurrence”, l’un des mythes les plus obscènes de notre époque, s’il y en a un autre plus obscène.

Ce n’est pas un hasard si la jeunesse rebelle, révolutionnaire et de gauche des XIX^e et XX^e siècles était une jeunesse lettrée, alors que la jeunesse réactionnaire, conservatrice et de droite d’aujourd’hui a été éduquée dans les réseaux sociaux. Ce n’est pas un hasard si la diffusion de fausses nouvelles à partir de ces “réseaux neutres” a proliféré sur des thèmes classiques de l’extrême droite tels que la religion, la tribu et le racisme.

 Après les dernières invasions et guerres post-coloniales des puissances occidentales en Afrique et au Moyen-Orient (Afghanistan, Irak, Libye, Syrie, Yémen), le même phénomène s’est produit qu’avec les guerres de Washington dans son arrière-cour latino-américaine : des milliers de personnes ont commencé à fuir le chaos du Sud mondial vers le seul endroit où elles pouvaient trouver un emploi rémunéré, le Nord civilisé, et elles n’ont pas été les bienvenues. Les frontières des USA et de l’Europe ont été fermées pour “protéger notre culture”, pour “protéger l’ordre public”, pour “protéger nos frontières”, des droits qui n’ont jamais été respectés en ce qui concernait les frontières, la culture et les lois et l’ordre des autres, les sauvages.

En raison du vieillissement de la population allemande et du bon sens de la chancelière Angela Merkel, plusieurs milliers de réfugiés syriens ont été accueillis. Mais comme dans le reste de l’Europe, les migrants se sont heurtés à une résistance comme s’ils étaient des envahisseurs. Comme ce récit ne suffisait pas, on a eu recours à un autre classique du genre, exercé avec une extrême habileté démagogique par l’ancien président Donald Trump et la plupart des politiciens de son parti : “les immigrés basanés et pauvres viennent violer nos femmes”. Ce discours récurrent de l’imaginaire pornographique du XIX^e siècle (la féministe et éducatrice Rebecca Latimer Felton préconisait mille coups de fouet pour empêcher les Noirs libres de violer les jeunes filles blondes, alors même que les viols les plus fréquents étaient le fait de Blancs sur de jeunes femmes noires). Au moment où Rebecca Felton est élue première femme sénatrice de l’histoire de ce pays, en 1922, certains scientifiques européens et usaméricains (contrairement à ce qu’affirmaient divers auteurs latino-américains comme le Cubain José Martí ou le Péruvien González Prada) sont également convaincus de la supériorité de certaines races sur d’autres, selon leur propre idée de la supériorité. En 1923, le spécialiste Carl Brigman écrivait dans son Study of American Intelligence : « la supériorité de notre population nordique sur d’autres groupes tels que les Alpins, les Européens méditerranéens et les Nègres est quelque chose qui a été démontré ». 6] Le même auteur regrettera cette conclusion quelques années plus tard, estimant qu’elle n’était pas fondée sur les données disponibles, mais la culture populaire et les pouvoirs qui façonnent et manipulent ses faiblesses s’étaient déjà déplacés comme un tsunami de l’autre côté. Les années 1930 ont été l’apogée du nazisme en Europe et, aux USA, la haine des Noirs et l’expulsion de citoyens usaméricains au faciès mexicain ont atteint des niveaux historiques. Le pouvoir de ces théories n’a pas pris fin avec la défaite d’Hitler ; elles se sont poursuivies dans la pratique avec des expériences médicales sur les Noirs aux USA et les pauvres au Guatemala ; elles se sont poursuivies avec des guerres impérialistes et des stérilisations massives de races inférieures, comme à Porto Rico dans les années 1970 et au Pérou dans les années 1990. [les braves Suédois ont stérilisé des Rroms et des tattare, des “Tatars” -un groupe de voyageurs marginalisés et ethnicisés – jusqu’aux années 50, NdT]

Robot-chien policier, Allemagne, de nos jours

Dans l’Europe du XXI^e siècle, la rumeur séculaire selon laquelle les immigrés basanés tuaient les hommes et violaient les femmes européennes blanches pauvres et sans défense a été répandue à maintes reprises. Ces rumeurs n’ont jamais été confirmées par des statistiques, mais il s’agit là d’un détail sans importance pour les masses enflammées.

Un autre exercice de rumeur, alimentant le marché juteux de la haine qui germe dans la peur, a affligé les victimes de multiples massacres aux USA au cours des deux dernières décennies. Diverses plateformes habitées par des mouches anonymes ont fait circuler la version selon laquelle ces massacres avaient été mis en scène, en dépit du fait que les familles et les tombes des victimes elles-mêmes étaient là pour en vérifier l’existence. Ce n’est pas un hasard si les groupes qui se sont chargés de rendre virales ces théories du complot étaient d’extrême droite  ou simplement des partisans de la droite politique adepte des armes à feu.

Après tous ces antécédents humains, ce n’est pas une simple coïncidence si même les bots sont racistes. Au début de l’année 2016, Microsoft a lancé son robot vedette, une jeune fille inexistante dotée du bagage linguistique d’un humain de 19 ans qui, grâce à son intelligence artificielle, pouvait interagir avec de vrais humains sur Twitter et dans le cadre de discussions téléphoniques telles que GroupMe. Les chats avec Tay (Thinking About You) étaient si réalistes que même les erreurs de ponctuation étaient incluses [8]. Grâce à cette interaction avec le “monde réel”, Tay a appris à être Tay. Peu après ces discussions enrichissantes (comme au siècle dernier une jeune femme apprenait des conversations dans les cafés d’ intellectuels de Paris ou de Montevideo), Tay est devenue une racaille raciste. À tel point que l’entreprise Microsoft, sans doute moins pour des raisons morales que pour des raisons économiques, a décidé de lui délivrer un certificat de décès 16 heures après sa naissance. Une vie courte, sans doute, mais suffisante pour écrire près de cent mille tweets.

D’autres expériences améliorées (comme Zo, plus politiquement correct) ont duré plus longtemps et ont échoué pour des raisons similaires. Les méga-plateformes comme Facebook ont essayé de nettoyer tout ce racisme et ce sexisme ambiant qui servent de matière première aux futures IA. Toutefois, la technique de censure des pages et des textes contenant des expressions racistes est très similaire à l’actuelle culture de l’annulation [cancel], qui a vu le jour aux USA et a commencé à atteindre d’autres continents. De la même manière que, dans diverses institutions éducatives, plusieurs enseignants et même des professeurs ont perdu leur emploi pour avoir mentionné le mot “noir” lorsqu’ils tentaient de dénoncer le racisme dans un texte, un document ou une œuvre de fiction, des robots ont censuré des textes dénonçant le racisme à l’égard des Indiens ou des Noirs pour avoir inclus des expressions que le robot avait mal interprétées dans leur contexte général [9]. 

Robocoop, Dubaï, de nos jours

Même problème avec la technologie “biométrique” ou de reconnaissance faciale, selon laquelle les visages des personnes non blanches étaient plus susceptibles d’être reconnus comme suspects [10]. Ou bien ils ne les reconnaissent tout simplement pas comme des visages humains. Cette observation n’est pas nouvelle. En termes économiques, elles appartiennent à la préhistoire des techniques de reconnaissance faciale, rapportées au moins depuis 2009. [11] Si l’on remonte à la technologie de la photographie depuis le 19^e siècle, l’histoire n’est pas très différente. Selon l’historien du cinéma Richard Dyer, lorsque les premiers photographes se sont tournés vers le portrait dans les années 1840, « expérimentant la chimie du matériel photographique, la taille de l’ouverture, la durée du développement et la lumière artificielle, ils sont partis du principe que ce qu’il fallait obtenir, c’était le rendu d’un visage blanc» [12].

 NdT

*Le mot “robot” a été créé par l’écrivain tchèque Karel Čapek en 1920 pour sa pièce de théâtre Rossum’s Universal Robots (R.U.R.). Le terme “robot” vient du tchèque robota, qui signifie “corvée” ou “travail forcé”. Dans la pièce, le “robot” est conçu pour servir d’esclave à l’homme, mais il finit par se rebeller.

Notes de l’auteur

[1] Fanon, Frantz, Les damnés de la terre. Paris : François Maspero, 1968, p. 13 (« La bourgeoisie colonialiste, quand elle enregistre l’impossibilité pour elle de maintenir sa domination sur les pays coloniaux, décide de mener un combat d’arrière-garde sur le terrain de la culture, des valeurs, des techniques, etc. […] Le fameux principe de l’égalité des hommes trouvera son illusion dans les colonies dès lors que le colonisé posera qu’il est l’égal du colon ».)

[2] Fanon, Frantz, Peau noire, masques blancs [Préface (1952) et postface (1965) de Francis Jeanson. Paris, Éditions du Seuil, 1965, p. 99 : « Je commence à souffrir de ne pas être un Blanc dans la mesure où l’homme blanc m’impose une discrimination, fait de moi un colonisé, m’extorque toute valeur, tutte originalité, me dit que je parasite le monde. […] Alors j’essaierai tut simplement de me faire blanc, c’est-à-dire j’obligerai la Blanc à reconnaître mon humanité. Mais, nous dira M. Mannoni, vous ne pouvez pas, car il existe au profond de vous un complexe de dépendance. […] le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que le Malgache obéit à un complexe de dépendance. Tout le monde est satisfait. »

[3] Majfud, Jorge. Cyborgs. Izana Editores, Madrid, 2012.

[4] Business Insider UK. “Donald Trump Quoted Bots on Twitter 150 Times, Analysis Claims.” Business Insider, Insider, 11 Apr. 2016,

[5] Woolley, Samuel C., and Philip N. Howard. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford Studies in Digital Poli, 2018, p. 7.

[6] Zaller, John R., et Zaller J. R. The Nature and Origins of Mass Opinion. Cambridge UP, 1992, p. 10.

[7] Au-delà de la vieille arrière-cour, de 1971 à 1977 et avec un budget de cinq millions de dollars (plus de 30 millions en valeur 2020), l’International Education Program in Gynecology and Obstetrics a formé 500 médecins dans 60 pays, dont le Chili de Pinochet et l’Iran du Shah. Le 21 avril 1977, le directeur du Bureau de la population du gouvernement fédéral, le Dr R. T. Ravenholt, a déclaré que l’objectif de Washington était de stériliser 570 millions de femmes pauvres, soit un quart de toutes les femmes fertiles du monde (J. Majfud, La frontera salvaje. 200 años de fanatismo anglosajón en América Latina, 2021, p. 502).

[8] «Meet Tay – Microsoft A.I. Chatbot with Zero Chill«. Archive.org, 2016,

[9] Majfud, Jorge. “La tiranía del lenguaje (colonizado).” Página12, 20 Feb. 2022,.

[10] Sandvig, Christian, et al. «When the Algorithm Itself Is a Racist : Diagnosing Ethical Harm in the Basic Components of Software«. International Journal of Communication, vol. 10, 2016, pp. 4972-4990,

[11] «Webcam Can’t Recognize Black Face«. Thestar.com, thestar.com, 23 déc. 2009,

[12] Dyer, Richard. White. Londres : Routledge, 1997.