A grande revolução do século XXI

Tradução de André Langer.

Semanas atrás, publicamos algumas breves reflexões sobre “A grande crise do século XXI”. Um problema de menor monta é que nos acusam de sermos dramáticos, grandiloquentes e apocalípticos. Tudo isso é irrelevante, esquecível. Correndo o risco de nos equivocar, como todos, como em tudo, nossa obrigação é proporcionar uma visão geral sobre os problemas mais importantes que podem afetar a humanidade no tempo presente e nos tempos vindouros, embora a essa altura já não estejamos mais caminhando sobre este belo planeta, nem estaremos mais desfrutando desse maravilhoso e tão desvalorizado milagre de estarmos vivos.
Para mim, não há dúvida. A grande crise planetária que a humanidade e o resto das espécies neste planeta enfrentarão continua focada no problema socioecológico. As duas bombas-relógio que indicávamos no artigo anterior (a perigosíssima e insustentável concentração de riqueza, mero sequestro do progresso humano por uma elite financeira, e a próxima aceleração das mudanças climáticas), ambas unidas por um sistema social e econômico baseado no consumo e no desperdício (“A pandemia do consumismo”, 2009), serão detonadas pela próxima grande revolução tecnológica, sem dúvida com um impacto maior do que aquele que a internet produziu.
Refiro-me à Inteligência Artificial.
Há 10 anos, observávamos que “enquanto as universidades conseguem fazer robôs que são cada vez mais parecidos com os seres humanos, não apenas por sua inteligência comprovada, mas agora também por suas habilidades de expressar e receber emoções, os hábitos de consumo estão nos tornando cada vez mais similares aos robôs”. A mesma ideia está no livro Cyborgs (2012), mas vem do meu segundo livro Crítica de la pasión pura (1998).
Obviamente, por “robôs” eu estava me referindo a um conceito que, até então, não tinha o desenvolvimento que tem agora: a inteligência artificial (IA). O tempo confirmou esse pessimismo e me corrigiu em alguns otimismos da mesma época sobre a democracia direta derivada de comunidades online (embora, quem sabe, talvez ainda seja possível).
Atualmente, os robôs estão comendo milhões de empregos e, no entanto, isso não parece ser nada em comparação com a revolução da inteligência artificial. Os robôs só serão perigosos para os trabalhadores se os benefícios de sua eficiência continuarem sendo concentrados nos “donos dos meios de produção” (perdão pela terminologia marxista) e não chegarem aos trabalhadores, que contribuíram com seu trabalho e seus impostos para que todo esse conhecimento pudesse se desenvolver nas universidades.
Os professores não recebem seu salário apenas das mensalidades e dos impostos (no caso das universidades públicas), mas enquanto se dedicam à pesquisa e à especulação, a invenções que deixarão nossos beneficiários sem trabalho, outros (os beneficiários) se curvam sob o sol nos campos, cultivando e colhendo alimentos ou erguendo e abaixando caixas de frutas que depois compramos quase sem esforço em aclimatados supermercados.
Mas nem mesmo os inventores nem os professores que participaram do processo se beneficiaram – nem se beneficiarão – economicamente desses feitos da alta tecnologia como fizeram – e continuarão a fazer – os sequestradores, os “gênios” dos negócios, que, mais do que inventar algo, simplesmente embolsaram os lucros. Como sempre, os donos do dinheiro ganharão mais dinheiro e serão reverenciados pelos avanços de nossas sociedades. Enfim, essas besteiras de que graças ao bom Bill Gates ou a algum outro bilionário, temos internet e computadores, etc.
Voltemos ao ponto central. As Inteligências Artificiais não são como os robôs, meros braços efetivos, mas cérebros implacáveis que já estão sendo usados em grandes companhias e corporações do mundo desenvolvido. Elas quase nunca estão em robôs, como o Terminator, mas em espaços virtuais, o que as torna ainda mais temerárias. Logo serão capazes de entender os seres humanos melhor do que qualquer psicanalista e, obviamente, não precisarão de 20 anos de terapia.
Atualmente, a inteligência artificial já está sendo usada para ler os currículos dos candidatos a emprego e é capaz de selecionar os melhores candidatos com base em previsões: Maria vai renunciar em dois anos; José vai pedir um aumento de salário antes do terceiro ano, etc. É claro que em breve nem Maria nem José serão necessários para cuidar de crianças ou de idosos porque a IA pode fazer isso muito melhor e cometendo menos erros.
O que em princípio pode ser celebrado pelos otimistas por seu inquestionável aumento da repetida, até o aborrecimento, efetividade, tem seu lado tenebroso. Os robôs inteligentes não precisam ser maus para organizar o Mal. Basta que sirvam aos poderosos, como qualquer outra inovação anterior, sejam eles governos despóticos ou megaempresas (despóticas e manipuladoras, como qualquer grande companhia, como mostra a história).
Poderíamos dar cem exemplos, mas, por razões de espaço, consideremos um simples aspecto. Durante milhares de anos, todos nós levamos a nossa privacidade para passear por todos os lugares públicos para onde vamos. Com a inteligência artificial, essa privacidade será automaticamente dissolvida. O reconhecimento facial pode não apenas detectar mentirosos ou a orientação sexual (isso não é especulação; já está acontecendo de forma inadvertida pelo público), mas muito rapidamente qualquer IA poderá determinar em poucos segundos que ideias políticas, sociais, religiosas e sociológicas temos, seja lendo um simples CV [Curriculum Vitae], um texto, um artigo, uma carta ou escaneando o nosso rosto. Não será algo muito difícil de perceber, considerando o que já está sendo feito.
Consequentemente, os dissidentes dessa ordem infinitamente opressiva não terão armas tradicionais, mas armas baseadas em IA ou similares. Elas serão os hackers do futuro e, como no passado, os guerrilheiros idealistas e os criminosos comuns, todos colocados no mesmo saco por aqueles que ostentarão o poder dos deuses (ou dos demônios).
Essa luta terminará em uma negociação pacífica? Bem, isso nunca aconteceu na história, salvo exceções, como o direito a oito horas de trabalho, etc. Em uma restauração violenta da liberdade e dos direitos individuais de todos, mais ou menos como na RevoluçãoFrancesa ou em outros assassinatos? Estarão os indivíduos suficientemente intoxicados pela educação funcional, dócil, acrítica e pela manipulação ideológica e psicológica, de modo que não haja luta pela liberdade ou consciência da opressão? Como em tantos outros períodos da história, serão os escravos os mais fervorosos defensores do sistema escravocrata? Podemos nós, os “velhos antiquados”, dizer algo útil a partir da perspectiva de 2018 para os “libertados” ou os “ultrapassados” de 2040 e 2070?, algo que sirva de advertência para aqueles que estarão imersos na tempestade de seu próprio presente?
Ou, pior, terminará a nossa orgulhosa e arrogante espécie humana em um colapso final?
Ninguém pode ter uma resposta definitiva para nenhuma dessas perguntas. Mas fazê-las e chamar a atenção para os grandes problemas atuais e das gerações futuras é, simplesmente, a nossa obrigação moral.

JM, 18 Abril 2018

 

Anuncios

La gran revolución del siglo XXI

Semanas atrás publicamos unas breves reflexiones sobre “La gran crisis del siglo XXI”. Un problema menor es que nos acusen de dramáticos, grandilocuentes y apocalípticos. Todo eso es irrelevante, olvidable. A riesgo de equivocarnos, como todos, como en todo, nuestra obligación es la de aportar alguna mirada general sobre los problemas más importantes que pueden afectar a la humanidad en el tiempo presente y en los tiempos por venir, aunque para entonces ya no estaremos caminando sobre este hermoso planeta ni estaremos disfrutando de ese maravilloso y tan desvalorado milagro de estar vivo.

Para mí no quedan dudas. La gran crisis planetaria que va a enfrentar la humanidad y el resto de las especies sobre este planeta sigue centrada en el problema socio-ecológico. Las dos bombas de tiempo que indicábamos en el artículo anterior (la peligrosísima e insostenible concentración de riqueza, mero secuestro del progreso humano por parte de una elite financiera, y la próxima aceleración del cambio climático), ambas unidas por un sistema social y económico basado en el consumo y el despilfarro (“La pandemia del consumismo”, 2009), se librarán a través de la próxima gran revolución tecnológica, sin duda con un mayor impacto que la que produjo Internet.

Me refiero a la Inteligencia Artificial.

Hace diez años observábamos que “mientras las universidades logran robots que se parecen cada vez más a los seres humanos, no sólo por su inteligencia probada sino ahora también por sus habilidades de expresar y recibir emociones, los hábitos consumistas nos están haciendo cada vez más similares a los robots”. La misma idea es recogida en el libro Cyborgs (2012) pero procede de mi segundo libro Crítica de la pasón pura (1998). Obviamente, por “robots” me estaba refiriendo a un concepto que, por entonces, no se había desarrollado como ahora: la Inteligencia Artificial. El tiempo ha confirmado este pesimismo y me ha corregido en algunos optimismos de la misma época sobre la Democracia Directa derivada de las Comunidades en línea (aunque ¿quién sabe? tal vez todavía sea posible).

Hoy los robots se están comiendo millones de puestos de trabajo y, con todo, eso no parece ser nada en comparación a la revolución de la IA. Los robots son peligrosos para los trabajadores sólo si los beneficios de su eficiencia se siguen concentrando en los “dueños de los medios de producción” (perdón por la terminología marxista) y no llegan a los trabajadores, que fueron quienes aportaron, con su trabajo y sus impuestos, para que todo ese conocimiento se desarrollara en las universidades. Los profesores no sólo recibimos nuestro salario de las matrículas y de los impuestos (en el caso de las universidades públicas), sino que mientras nos dedicamos a la investigación y la especulación, a inventos que dejarán a nuestros beneficiaros sin trabajo, otros (los beneficiarios) están doblados bajo el sol en los campos, cultivando y cosechando los alimentos o subiendo y bajando cajones de fruta que luego compramos casi sin esfuerzo en los aclimatados supermercados. Pero ni siquiera los inventores ni los profesores que participaron en el proceso se beneficiaron ni se beneficiarán económicamente de esas proezas de la alta tecnología como lo han hecho y lo seguirán haciendo los secuestradores, los “genios” de los negocios que más que inventar algo simplemente se embolsaron los beneficios. Como siempre, serán los dueños del dinero quienes hagan más dinero y sean venerados por los adelantos de nuestras sociedades. En fin, esas tonterías como que gracias al bueno del Bill Gates o de algún otro multimillonario tenemos internet y computadoras, etc.

Volvamos al punto central. Las IAs no son como los robots, meros brazos efectivos, sino cerebros implacables que ya se están usando en las grandes compañías y corporaciones del centro del mundo. Casi nunca están en los robots, como Terminator, sino en espacios virtuales, lo que las hace aún más temerarias. Pronto podrán entender a los seres humanos mejor que cualquier psicoanalista y, obviamente, no necesitarán veinte años de terapia. Actualmente, ya están siendo usadas para leer los currículums de los solicitantes de trabajo y son capaces de seleccionar a los mejores candidatos en base a predicciones: María renunciará en dos años; José pedirá aumento de sueldo antes del tercer año. Etcétera. Claro, pronto ni María ni José serán necesarios ni para cuidar niños ni ancianos porque las IA podrán hacerlo mucho mejor y cometiendo menos errores.

Esto, que en principio puede ser celebrado por los optimistas por su incuestionable aumento de la repetida, hasta el hastío, efectividad, tiene su lado tenebroso. Los robots inteligentes no necesitan ser malos para organizar el Mal. Basta con que sirvan a los poderosos, como cualquier otra innovación previa, ya sean gobiernos despóticos o mega compañías (despótica y manipuladora, como cualquier gran compañía, según lo demuestra la historia).

Podríamos poner cien ejemplos, pero por razones de espacio consideremos un simple aspecto. Desde hace miles de años, todos llevamos nuestra privacidad de paseo por todos los lugares públicos por donde vamos. Con las AI, esta privacidad se disolverá automáticamente. El reconocimiento facial no sólo puede detectar mentirosos, o la orientación sexual (esto no es especulación; ya está ocurriendo de forma inadvertida por el público), sino muy pronto cualquier IA podrá determinar en unos pocos segundos qué ideas políticas, sociales, religiosas y sociológicas tenemos, ya sea leyendo un simple CV, un texto, artículo, carta o escaneando nuestro rostro. No será algo muy difícil de concretar, considerando lo que ya se está haciendo.

Como consecuencia, los disidentes de ese orden infinitamente opresivo no tomarán armas tradicionales sino las mismas basadas en IA o similares. Serán los hackers del futuro y, como en el pasado, serán los guerrilleros idealistas y los criminales comunes, todos metidos en una misma bolsa por quienes ostentarán el poder de los dioses (o los demonios).

¿Terminará esta lucha en una negociación pacífica? Bueno, eso nunca ha ocurrido en la historia, salvo excepciones, como el derecho a las ocho horas de trabajo, etc. ¿En una restauración violenta de la libertad y de los derechos individuales de todos, más o menos como en la Revolución Francesa o en otros magnicidios? ¿Estarán los individuos suficientemente intoxicados por la educación funcional, dócil, acrítica, y la manipulación ideológica y psicología como para que no haya ninguna lucha por la libertad o la conciencia de la opresión? Como en tantos otros períodos de la historia ¿serán los esclavos los más fervientes defensores del sistema esclavista? ¿Podemos los “viejos anticuados” decirle algo útil desde la perspectiva del año 2018 a los “liberados” o “superados” del 2040 y del 2070?, algo que sirva de advertencia a aquellos que por entonces se encuentren inmersos en la tormenta de su propio presente?

O, peor, ¿terminará nuestra orgullosa y arrogante especie humana en un colapso final?

Nadie puede tener una respuesta concluyente a ninguna de estas preguntas. Pero plantearlas y advertir los grandes problemas actuales y de las generaciones futuras es, simplemente, nuestra obligación moral.

Jorge Majfud, abril 2018.