Por que devemos temer não rebelde, mas obediente AI

Como a ameaça de ditaduras digitais com tecnologia AI irá remodelar a ordem global

Sukhayl Niyazov Seg. Jul 19 · 6 min ler Fonte: Pexels

Um grande número de pessoas comuns, o debate sobre o advento da inteligência artificial (IA) e suas conseqüências foi dominado por dois medos – o nosso futuro sem emprego, a permanente Grande Depressão e a potencial revolta de robôs e IA contra seus senhores.

Infelizmente, a maioria ainda permanece ignorante sobre as verdadeiras consequências da eliminação de empregos pelas novas tecnologias; O mais importante, no entanto, é que o medo equivocado da singularidade – um evento no qual a IA ultrapassa a inteligência humana e escapa ao nosso controle – consome tempo e recursos para a discussão de repercussões muito mais perigosas do surgimento de novas tecnologias.

Muitos temem algoritmos de IA porque pensam que não permanecerão obedientes a nós. Mas o problema com os algoritmos é exatamente o oposto – eles sempre farão o que serão ordenados a fazer.

O GRANDE IRMÃO ESTÁ OBSERVANDO VOCÊ

Se algoritmos e robôs estiverem em mãos benignas, eles levarão a tremendos benefícios. No entanto, se os países do “Eixo do Mal” adotarem novas tecnologias, as pessoas podem acabar em um regime de vigilância completo, onde todas as ações e declarações são seguidas e controladas pelo futuro Big Brother.

As ditaduras digitais do século XXI, no entanto, serão capazes de fazer o que até G. Orwell não ousaria imaginar – passar por nossa pele e entender nossos sentimentos e emoções interiores.

A fusão de biotecnologias e IA vai aumentar ainda mais o poder das ditaduras digitais.

Imagine um estado autoritário, como a China, o Irã ou a Coréia do Norte, que exige que todos os cidadãos usem uma pulseira biométrica que monitore cada passo e respiração – além da pressão arterial, da atividade cerebral e de outros processos bioquímicos. Se você olhar para o retrato do Big Brother e os algoritmos determinarem sinais sutis de raiva – aumento da atividade na amígdala e pressão arterial alta – prepare-se para o pior, pois é provável que você seja jogado no Gulag de estilo soviético ou, se você prefere um acampamento de "reeducação" em estilo chinês no dia seguinte.

Na vanguarda da computação, graças à adoção de técnicas de análise preditiva, os governos autoritários puderam não apenas monitorar e entender, mas também prever potenciais dissidentes e reprimir a rebelião contra o Big Brother em seu berço.

Nós não destruímos o herege porque ele nos resiste: enquanto ele nos resiste, nunca o destruímos. Nós o convertemos, nós capturamos sua mente interior, nós o reformulamos. Nós queimamos todo o mal e toda a ilusão fora dele; nós o trazemos para o nosso lado, não na aparência, mas genuinamente de coração e alma. Nós fazemos dele um de nós mesmos antes de matá-lo. É intolerável para nós que um pensamento errôneo deva existir em qualquer lugar do mundo, por mais secreto e impotente que seja. – De "1984" por G. Orwell

A China como uma ditadura digital em formação. Fonte: tempo

Eventualmente, a população de ditaduras digitais, por causa da propaganda extensa e do medo constante de ser marcada como dissidente, obedecerá incondicionalmente ao Big Brother.

Tal abuso de algoritmos de IA – porque eles não podem se rebelar e executarão as ordens de seus donos – terá conseqüências desastrosas para valores democráticos fundamentais como direitos humanos, liberdade, livre-arbítrio, individualismo.

Ou imagine um líder autoritário que quer reprimir seu povo para amedrontar potenciais dissidentes e cimentar seu governo, semelhante ao que Saddam Hussein fez com os curdos nos anos 80 ou com Stalin, da URSS, durante seu reinado.

Robôs, porque eles não têm sentimentos e valores morais, como muitos humanos, irão inquestionavelmente matar pessoas, independentemente de ele ou ela ser uma criança ou uma mulher. Muitos soldados humanos provavelmente desobedeceriam a tais comandos imorais – mas os robôs não.

Ditadores, equipados com tecnologias de ponta e graças à redução dos custos financeiros e humanos de guerras, provavelmente usarão robôs não apenas para perseguir seus próprios cidadãos, mas também para invadir seus estados vizinhos em busca de recursos naturais ou para inflamar sentimentos nacionalistas. desviar a atenção da população dos desafios domésticos ("gastar pouca guerra").

A proliferação da guerra irrestrita, além do surgimento de ditaduras digitais, transformará nosso mundo de maneiras sem precedentes, com a ordem mundial menos estável, próspera e pacífica do que costumava ser.

A SEGUNDA GUERRA FRIA E O FUTURO DA DEMOCRACIA LIBERAL NA IDADE DA AI

O advento das ditaduras digitais oferecerá, pela primeira vez desde o fim da Guerra Fria a Estados não democráticos, uma alternativa plausível à democracia, provocando, assim, uma competição ideológica renovada.

Especialistas já apontam para a China como um exemplo de um regime autoritário digital em formação – seu chamado "sistema de crédito social" está sendo usado para reprimir os uigures (minoria muçulmana na província chinesa de Xinjiang) nos chamados campos de "reeducação". .

O uso da pontuação de crédito social mina esses pilares fundamentais da democracia como liberdade de escolha, individualismo, privacidade.

A presunção de inocência terá desaparecido – o policiamento preditivo levará à coerção, não por violações reais, mas à antecipação dos algoritmos de você infringir a lei no futuro.

Mas o autoritarismo digital não ficará confinado às fronteiras da China – o modelo está sendo exportado para o exterior.

O surgimento de formas alternativas de desenvolvimento pode, por mais contraintuitivo que possa parecer, sustentar a democracia – a ameaça de um concorrente ameaçador, como durante a Guerra Fria, estimulará democracias a colocar suas próprias casas em ordem e formar uma união mais perfeita contra a novo desafio.

A democracia é mais bem-sucedida do que as ditaduras autoritárias por causa da eficiência inerente do primeiro quando se trata de processamento de dados. Estados autoritários usam processamento centralizado de dados, enquanto democracias – distribuídas.

Nas últimas centenas de anos, o processamento distribuído funcionou melhor – se um dos múltiplos processadores (governo, corporações, ONGs) falhasse, outros seriam rápidos em retornar o sistema ao equilíbrio.

Nas ditaduras, por outro lado, existe um único processador (líder autoritário e seu círculo) – se administrado de maneira eficaz, é bem-sucedido, mas, se cometer um erro menor, as conseqüências do transbordamento são desastrosas.

Nas condições dos séculos passados, o processamento de dados dispersos (democracia) mostra-se mais resiliente. Mas o Império Romano, as dinastias chinesas e muitos outros estados existiram por centenas de anos sob sistemas centralizados.

Conseqüentemente, se as condições sociopolíticas e tecnológicas mudarem novamente no terceiro milênio, o pêndulo poderá girar em direção a sistemas centralizados.

O que costumava ser a principal desvantagem das ditaduras – controle centralizado – pode se transformar em uma vantagem decisiva na nova era – afinal, os algoritmos de aprendizado de máquina funcionam melhor com mais dados e sistemas centralizados, ao contrário dos distribuídos, terão acesso a enormes quantidades de dados. dados.

Se você concentrar todas as informações relativas a um bilhão de pessoas em um banco de dados, desconsiderando todas as preocupações com privacidade, poderá treinar algoritmos muito melhores do que se respeitar a privacidade individual e tiver em seu banco de dados informações parciais sobre um milhão de pessoas. Por exemplo, se um governo autoritário ordena que todos os seus cidadãos tenham seu DNA escaneado e compartilhem todos os seus dados médicos com alguma autoridade central, ele obteria uma imensa vantagem na genética e na pesquisa médica em sociedades nas quais os dados médicos são estritamente privados. De "21 lições para o século 21"

A principal desvantagem dos regimes autoritários no século XX – a tentativa de concentrar todas as informações em um único lugar – pode se tornar sua vantagem decisiva no século XXI. – Yuval Noah Harari

Como a AI promete proporcionar um melhor planejamento econômico e uma gestão mais eficaz da economia, o capitalismo, uma das características mais importantes da democracia, corre o risco de ser irrelevante na nova era.

A democracia liberal se reinventará novamente ou será pervertida e jogada no lixo da história?

Texto original em inglês.