A Quarta Era: Robôs Inteligentes, Computadores Conscientes e o Futuro da Humanidade

George Anadiotis Blocked Unblock Seguir Seguindo 10 de janeiro

 A tecnologia é a resposta para a vida, o universo e tudo mais? 

Um breve relato da história humana. Tecnologia e economia 101. O cérebro humano, sistemas de crenças e metafísica. E muita IA. Isso é o que está incluído no livro de Byron Reese, The Fourth Age, apresentado no CES 2019 . Não há falta de ambição ou capacidade de negociar uma variedade de tópicos. Mas, embora o livro tenha sucesso nisso e mostre a abordagem metódica e a honestidade intelectual, sua lente otimista dificulta sua análise e limita o solucionismo .

“Na Quarta Era, Byron Reese oferece ao leitor algo muito mais valioso do que o que pensar em Inteligência Artificial e robótica – ele se concentra em COMO pensar sobre essas tecnologias, e as maneiras pelas quais elas mudarão o mundo para sempre”.

“Embora possamos concordar que o futuro exato da inteligência artificial tem muitas incógnitas e, portanto, perigos potenciais, isso não muda o fato de que podemos escolher ver as possibilidades através de uma lente otimista, como Reese faz aqui”.

Estas são apenas algumas das opiniões que as pessoas escreveram sobre a Quarta Era . O primeiro pertence a John Mackey, co-fundador e CEO da Whole Foods Market. Este último para um revisor anônimo. Ambos são válidos, à sua maneira. Isso pode parecer paradoxal no começo, então uma explicação é devida.

Suposições e uma breve história de tudo

Byron Reese é CEO e editor da empresa de pesquisa de tecnologia Gigaom e fundadora de várias empresas de alta tecnologia. Reese tem um grande interesse em IA e hospeda o podcast Voices in AI . Reese consegue interagir regularmente com algumas das principais mentes e empreendedores da IA e presumivelmente está inserido na cultura de tecnologia e empreendedorismo. Este é o maior patrimônio do livro e a responsabilidade mais formidável ao mesmo tempo.

Reese faz um bom trabalho ao apresentar uma breve história de tudo: o curso da humanidade desde a pré-história até os dias de hoje, e como a tecnologia evoluiu e afetou a humanidade através dos tempos. Isso define bem o cenário, e Reese também se aventura em empreendimentos mais ambiciosos, negociando tópicos como economia e trabalho, o cérebro humano, livre arbítrio e consciência.

Pode parecer excessivamente ambicioso, mas o fato é que, quando se lida com a inteligência artificial e o futuro, a inteligência humana e a história são um fundamento necessário. A coisa boa sobre como Reese aborda esses tópicos é que ele apresenta visões gerais concisas de teorias ou crenças alternativas, mostrando como cada suposição pode levar a diferentes conclusões.

O ponto bem-fundamentado é que, em última análise, algumas coisas são menos sobre a própria tecnologia e mais sobre nossas suposições fundamentais sobre o mundo. Se você acredita na natureza divina da alma humana, por exemplo, é difícil ver como você também pode acreditar na possibilidade de criar a IA com consciência. Reese afirma que ele não faz nenhum esforço para esconder suas próprias suposições, e isso é verdade.

Ideologia e viés cognitivo

Reese menciona a ideologia como um certo viés cognitivo, por exemplo, afirmando que Marx acreditava que as máquinas estavam em conflito com os trabalhadores. Marx certamente não era um ludita; sua obra demonstra admiração pelo progresso tecnológico, mas questiona o controle dos meios de produção e a distribuição dos frutos desse progresso. Mas a deturpação não é realmente a questão aqui – podemos atribuir isso ao que é provavelmente um conhecimento casual do trabalho de Marx.

A questão é que Reese exibe esse viés ideológico, embora de um ponto de vista diferente. Embora ele ofereça uma análise fundamentada de como a acumulação de capital interage com a tecnologia para ampliar a desigualdade de renda, por exemplo, as conclusões a que ele chega com base nessa análise só podem ser vistas através das lentes da ideologia e do otimismo excessivo.

Reese também discute a renda básica universal como um meio de explicar a ruptura tecnológica na desigualdade de renda e trabalho, citando estatísticas, citando Warren Buffet e até referindo-se aos bens comuns para construir um caso. Enquanto isso parece uma abordagem de mente aberta, quando Reese oferece sua própria versão de uma visão para o futuro, sua visão sobre o assunto é surpreendente.

A visão de Reese parece ser que, a longo prazo, a desigualdade de renda não importa, porque haverá abundância para todos. Este é o conhecido argumento da “maré que levanta todos os barcos”, levado ao seu extremo lógico. Os problemas com isso são igualmente extremos, infelizmente.

A tecnologia iguala crescimento infinito? Há algo faltando nessa foto. Foto de Simon Marsault em Unsplash

Crescimento Infinito e Mudança Climática

O que basicamente diz é que não há limite nos recursos naturais. Isso implica crescimento infinito em um planeta finito, ou viagens interplanetárias e avanços tecnológicos que oferecem recursos praticamente infinitos. Esse mundo pode ser um lugar muito interessante, como mostrado na série The Culture, de Iain M. Bank . Mas está longe de ser nosso mundo, e ver isso como o fim de tudo não é apenas equivocado, mas basicamente perigoso.

Nosso maior desafio como espécie neste momento não é a viagem interplanetária ou a IA consciente, é a sobrevivência. Nossa trajetória atual é em direção a mudanças climáticas irreversíveis, esgotamento de recursos, desgraça ambiental e tudo o que acontece com isso. Reese está no barco daqueles que pensam que o progresso tecnológico exponencial pode e vai resolver tudo. Mesmo que seja possível, e essa é uma maneira muito grande e conveniente de derrubar a lata, essa é uma visão míope.

Segundo a ONU, a humanidade tem 10 anos para agir antes dos danos na Terra e seu clima é irreversível . Seria de se esperar que isso possa ser uma preocupação para um livro sobre o futuro. Não estamos falando de alguma possibilidade vaga ou remota, afinal de contas, mas do desafio mais crucial que a humanidade precisa enfrentar para ter um futuro.

Reese menciona a mudança climática ao passar 1 vez em todo o livro, enquanto ele dedica capítulos a coisas como implantes. Isto parece ser uma omissão gritante para um livro que é sobre o futuro da humanidade – talvez não seja futurista o suficiente para ser popular. A julgar pela crença de que tudo é uma questão técnica, talvez Reese também acredite que algo como a geoengenharia pode resolver o problema em 10 anos.

Tomada de decisão e Deus ex Machina

O que nos leva a outro problema. Lidar com a mudança climática requer
tomada de decisão, coordenação e ação em escala global. Reese acredita que a classe baixa tem voz na tomada de decisões nas democracias. Outro equívoco no argumento da 'desigualdade não importa' é que o dinheiro não representa apenas poder de compra, mas também representa poder de decisão. O que acontece quando a desigualdade de renda é deixada sem controle é o que segue o poder de decisão.

Comprar uma TV maior não é o mesmo que decidir que o mundo precisa de mais TVs. Reese afirma que nós coletivamente optamos por um “melhor padrão de vida”. Talvez seja mais correto dizer que fomos doutrinados coletivamente para consumir.

Reese menciona que as pessoas têm o poder de intensificar, quando é dada uma chance. Por isso, é bastante interessante que a inovação que é elogiada quando aplicada à tecnologia seja tão cautelosa, se é que se aplica, à tomada de decisão e à educação. A democracia, muitas vezes referida como o meio de combater a desigualdade de tomada de decisão, não é tão diferente hoje da Grécia antiga: ela garante a igualdade entre um grupo fechado de privilegiados.

A visão de Reese também é otimista: os patrícios não arriscarão a agitação social e, portanto, concederão algo aos plebeus. Talvez sim. Mas se a história é alguma coisa, os patrícios podem precisar de um empurrãozinho. Enquanto isso, o tempo está se esgotando. Então, o que pode vir a ser o maior obstáculo para esse futuro brilhante da automação é o fato de que o progresso social não está acompanhando o progresso tecnológico. Pode bem ser, de fato, que a IA favoreça a tirania .

Somos coletivamente incapazes de acompanhar a tecnologia em termos da evolução de nossa estrutura social e vieses cognitivos. Mesmo que o progresso tecnológico e o sistema econômico que dita o crescimento infinito parassem agora, ainda precisaríamos de tempo para nivelar o campo de jogo.

Oferecer mais tecnologia como solução para tudo é como dar a um pistoleiro louco uma arma infinitamente mais poderosa, na esperança de que ele a use melhor do que a que tem agora. Colocar as nossas esperanças na IA que irá resolver tudo é como esperar por um Deus ex Machina.

Sim, a tecnologia oferece o potencial para uma sociedade melhor. Mas somente se usado de forma sábia e justa, e esta é a parte que estamos perdendo e precisamos focar.
Precisamos reformar o atirador louco, e nenhuma IA vai fazer isso por nós.

Divulgação : A Quarta Era foi fornecida a mim gratuitamente para revisão via Gigaom. Eu costumava ter uma relação comercial com a Gigaom antes de Byron Reese se tornar seu CEO. Depois que a Gigaom foi fechada por sua antiga gerência, eu e um número de pessoas que tinham faturas pendentes com a Gigaom perderam seu dinheiro. Pelo que sei, nenhuma dessas dívidas foi paga pela nova administração da Gigaom.