Superando os riscos existenciais

O mundo precisa de super-heróis mais "reais" …

Matt Ward Blocked Desbloquear Seguir Seguindo 6 de julho

Quer você veja o copo meio cheio ou meio vazio, acho que podemos concordar, às vezes faz sentido encher a maldita xícara. E esse é o foco do artigo de hoje, parte dois da nossa série sobre Risco Existencial. Se você perdeu isso, verifique isso aqui antes de continuar.

Os riscos existenciais que me mantêm (e os convidados do podcast) acordados à noite
Até o momento, tive a oportunidade de entrevistar algumas das pessoas mais espertas e ponderadas do mundo focadas em… medium.com

E agora que você está suficientemente deprimido, vamos tomar esse desconforto e canalizá-lo para algo produtivo, soluções.

Uma rápida recapitulação, os sete cavaleiros apocalípticos mortais:

  1. Engenharia genética bem intencionada
  2. Bioterrorismo
  3. das Alterações Climáticas
  4. Guerra nuclear
  5. AI superinteligente
  6. Armas autônomas letais
  7. Catástrofe Relacionada ao Espaço

E agora a questão mais importante, como lidar com esses problemas aparentemente intransponíveis.

1. Engenharia genética bem intencionada

Se um bilionário ou uma empresa corajosa tentando curar o câncer pode acidentalmente acabar com a maioria – ou todos – da humanidade, como nos prepararemos para o eventual altruísmo que poderia matar a todos nós? Isso dependerá da proliferação e do custo da tecnologia, mas parece óbvio supor que a engenharia genética e a biotecnologia se tornarão cada vez mais democratizadas – mais baratas, mais fáceis, mais rápidas…

Isso tem certas vantagens: os indivíduos em todos os lugares têm a capacidade de neutralizar os erros e manter um olho no status quo. E, no entanto, como um assassino em massa em uma cidade do Texas repleta de .45s, o idiota com a arma sempre tira alguns tiros antes que alguém o derrube com um duplo tapinha bem colocado… Biotech se espalham muito mais rápido.

Uma moratória na engenharia genética parece igualmente improvável, as promessas são muito grandes. Então, o que fazemos? Essas tecnologias são mais seguras e escondidas em alguns laboratórios, ou são de código aberto para todos?

Então, novamente, olhe para o clamor público contra os OGM, principalmente devido à desinformação. O envolvimento do público em algo tão importante quanto a nossa defesa coletiva contra as conseqüências não intencionais da edição genética é realmente uma boa idéia? Questionável, na melhor das hipóteses.

Mas a maioria dos países e muitas empresas vão querer capitalizar a indústria mais transformadora do próximo século. Então, a estratégia anti-proliferação nuclear não vai funcionar. Este clube é muito fácil e muito importante para ser um membro.

Um quadro inicial:

Passo 1) Um think tank internacional: junte as mais inteligentes mentes biotecnológicas (e relacionadas) e incentive-as a debater as consequências não intencionais e possíveis bio riscos sintéticos, criando um índice de risco de todas as formas de pesquisa genética e biológica, a ser usado mais tarde monitoramento.

Passo 2) Um padrão internacional DEVE ser implementado – com ameaça de retaliação para qualquer um que violar os termos – onde certas áreas controversas – como armas químicas / biológicas / virais e drives genéticos – são banidas e ao contrário da mídia social gratuita para todos. , empresas e países são considerados MASSIVELY responsáveis pelas consequências de suas ações.

Etapa 3) Criação de uma organização de jornalismo investigativo específica para biotecnologia, dedicada a desvendar problemas com a indústria e trazer a escuridão à luz.

NOTA: Isso é tudo, menos um plano completo, mas, como o risco existencial mais assustador e provável, é difícil de resolver.

2. Bioterrorismo

Pelo menos o terrorismo é mais direto. Mas, também sofre de muitos dos mesmos problemas listados acima. Há algumas graças salvadoras, sendo as principais delas a redução de recursos e previsibilidade.

Mesmo que a Família Real Saudita – o maior financiador do terrorismo em todo o mundo – tenha dedicado todo o seu patrimônio estimado em US $ 1,4T à busca do bioterrorismo, isso representa apenas 0,65% da riqueza de US $ 215T do mundo. E há muito menos pessoas para se preocupar e maneiras de dar errado.

Infelizmente, até detectores de metal em escolas e estádios esportivos mostraram-se inadequados para impedir ataques. Os detectores de armas biológicas seriam mais eficazes?

Algumas ideias:

Fonte: CNN

Etapa 1) Os ISRS foram implicados em quase 86% dos tiroteios em escolas (conforme analisado pelo Dr. Bill Walsh), e dado o fato de que nenhum teste é feito antes da prescrição, isso parece um bom lugar para começar. E diminuiria o crime armado / tiroteios na escola … parece uma vitória óbvia.

44. Psiquiatria 2.0: A Base Bioquímica da Depressão, Autismo, Assassinos em Série Saddista e…
Dr. Bill Walsh é o presidente do Walsh Research Institute (@WalshResearch), uma organização sem fins lucrativos focada em melhorar… disruptors.fm

Etapa 2) A parte mais complicada do problema são verdadeiros psicopatas. Leva apenas um monstro para projetar um supervírus, e as vacinas podem levar meses para se desenvolver e produzir em massa. Se os custos caírem, é justo assumir que a parte da produção em massa é como as impressoras genéticas / farmacêuticas 3D seriam facilmente distribuídas, provavelmente em todas as farmácias. É possível que todos tenham um dia.

Mas isso é apenas metade da batalha. Precisamos também: ser capazes de desenvolver vacinas – ou curar – exponencialmente mais rápido, ou precisamos de imunidade suficiente – ou resiliência biológica – para sobreviver a doenças e armas ainda não criadas / imaginadas. É quase impossível prever todos os possíveis modos de falha, portanto, o desenvolvimento mais rápido de medicamentos / vacinas é provavelmente nossa única opção – possivelmente combinada com a proteção distribuída com máscara de gás.

Pelo meu dinheiro, eu gostaria que várias think tanks internacionais financiassem competitivamente (ou algo parecido com o XPRIZE ) com o objetivo de alcançar a marca de um ou dois dias para o diagnóstico e o desenvolvimento de vacinas após um desastre. Um superflu suficientemente cativante cobre a maior parte do mundo em cerca de uma semana. O tempo está passando.

Passo 3) Além dos think tanks acima mencionados – trabalhando em colaboração com os think tanks de ameaças do 1 º – incentivos robustos para soluções do mercado privado precisam ser abordados. A viabilidade do mercado é atualmente muito cedo, ninguém está disposto a pagar pela prevenção até que seja muito caro evitar fazê-lo. Isso é algo em que as empresas governamentais devem investir pesadamente, semeando as empresas que poderiam salvar a todos nós.

3. Mudança Climática

Os governos se mostraram ineficazes no controle dos efeitos das mudanças climáticas ou de nossas emissões insustentáveis de CO2. Esta é a tragédia dos comuns trabalhando sua terrível teoria dos jogos. Todo mundo age de acordo com seus próprios interesses imediatos porque todos os outros são, e as dores da inação são pequenas, pelo menos por enquanto.

Há duas escolas de pensamento aqui: a tecnologia nos salvará e a tecnologia é o inimigo. Ambos estão certos e errados.

Para construir um futuro sustentável, temos que adotar soluções tecnológicas para reduzir as emissões: agricultura mais eficiente, veículos elétricos, energia renovável; enquanto reduz o consumo geral.

Se já estamos na capacidade de carga – a quantidade total de extração de recursos que nosso planeta pode sustentar – permitindo que os países do terceiro mundo se igualem ao nosso nível de opulência desperdiçada, todos nós, mesmo que suas economias e infraestruturas sejam mais verdes e mais renováveis do que nosso.

O fato é que fazemos e consumimos muita merda. Mas há uma resposta e não precisa ser uma droga.

Abordagens top-down:

Passo 1) Cortesia de Douglas Rushkoff : Inverta os dividendos e as taxas de imposto sobre ganhos de capital. Hoje, os ganhos de capital são de aproximadamente 10% e os dividendos são tributados com percentual de imposto de renda muito mais alto.

Isso incentiva as empresas – e os investidores – a buscar o crescimento a todo custo, e os lucros serão prejudicados.

Apenas uma coisa cresce para sempre, câncer.

Uma economia baseada no crescimento consome cada vez mais, destruindo tudo ao seu redor. Ao inverter as taxas de impostos, as empresas – e, portanto, os investidores – poderiam estar mais focadas no crescimento / práticas de negócios sustentáveis. A Apple não precisa de um iPhone para se desgastar a cada dois anos, ou para desacelerar seu sistema operacional para fazer a atualização. Em vez de uma economia de um-e-feito, isso incentivaria uma existência mais minimalista, de longo prazo, onde todos ganham, lucros e menos merda acaba nos aterros da vida. Para mais, veja esta entrevista:

89. Evitar o Apocalipse Duplicando a Equipe Humana e Reinventando os Negócios do Século XXI…
Douglas Rushkoff (@rushkoff) é um autor, professor e documentarista que estuda a autonomia humana na era digital. Ele… disruptors.fm

Passo 2) Cortesia de Jarl Jensen : Eliminar os subsídios aos combustíveis fósseis, carros e indústrias de alta emissão e criar subsídios para o desenvolvimento / implantação de renováveis.

Este é bastante simples e universalmente aplicável. As energias renováveis já estão a um preço razoável com combustíveis fósseis e carvão na maioria das áreas do mundo. Um empurrãozinho extra faz as peças caírem mais rápido e nos leva a um futuro sustentável.

101. Projetar a economia de sua dívida alimentada pela espiral destrutiva e rumo a uma economia sustentável…
Jarl Jensen (@jarljensen) é um inventor, empresário e autor de best sellers. Ele serviu como presidente e CEO da… disruptors.fm

Se subsídios adicionais foram criados para outras empresas mais ecológicas: carne limpa (a agricultura animal é responsável por ~ 13-18% das emissões – dependendo de como você mede e de quem você obtém – mais até do que o transporte global), veículos elétricos, construção nula , etc …, estaríamos bem em nosso caminho para mitigar pior das mudanças climáticas.

Cartas Selvagens: Taxa de Carbono – ainda está para funcionar / ser implementada, mas pode de fato ser necessária.

Abordagens de baixo para cima:

Passo 1) Agricultura local / cooperativas: quanto mais longe sua comida viaja, maior é a pegada de carbono e a chance de deterioração / desperdício (que é aproximadamente 24% de todos os alimentos).

O futuro da agricultura – com a possível exceção de carne cultivada em laboratório, devido ao valor da escala – é local. Os governos municipais fariam bem em incentivar a agricultura local, criando empregos em casa, reduzindo a dependência de forças estrangeiras e reduzindo as emissões.

Etapa 2) Aumentos de impostos locais em indústrias / produtos de alta emissão podem congelar esse bolo. Muitas iniciativas são quase impossíveis em uma base global ou mesmo nacional, mas os municípios e estados têm a capacidade de aprovar leis severas e projetos de lei que legislaturas maiores não podem. Alguns estados já estão liderando o caminho e mais seguirão os consumidores demandando ação.

4. Guerra Nuclear

Apesar de todas as suas falhas, a destruição mutuamente garantida (MAD), tem sido uma estratégia relativamente bem sucedida, apesar de muitas catástrofes próximas. No geral, o mundo fez um bom trabalho de mitigação – ou pelo menos impediu – uma guerra total até o momento. Mas a disseminação da energia nuclear torna isso mais difícil diariamente; muito parecido com um país cheio de armas, mais não é mais alegre.

A progressão em direção às energias renováveis e longe da nuclear – considerando os acidentes em Fukushima – é um desenvolvimento positivo, pelo menos da perspectiva da guerra nuclear, mas devem ser feitos maiores esforços no desarmamento, especialmente entre países hostis: EUA / Rússia, Paquistão / Índia, etc …

Mas a energia raramente é abandonada, portanto, procedimentos de monitoramento mais rigorosos precisam ser implementados para evitar vazamentos acidentais de tecnologia / armas, etc … De minha parte, eu gostaria de ver revisões dos sistemas de comando de mísseis.

É um trigésimo segundo – ou por mais longo que seja o tempo de julgamento incrivelmente curto – adiam a contemplação realmente suficiente antes de acertar o grande botão vermelho?

Twitter parece sugerir o contrário.

5. IA superinteligente

O consenso entre os pesquisadores de IA é que não há consenso sobre se / quando alcançaremos IA sobre-humana. Assumindo que nós iremos – uma suposição necessária como não fazer isso seria como andar no Titanic sem botes salva-vidas ou um colete – isso levanta a questão: como diabos nós podemos conter e / ou controlar o todo-poderoso mistério que é a IA?

Felizmente, mais e mais pesquisadores de inteligência artificial estão trabalhando neste problema hoje em dia – muitos porque estão aterrorizados com as implicações. A melhor teoria que inventamos é o alinhamento robusto de valores, isto é, construir inteligências artificiais alinhadas com os valores e a moral humanos.

Isso é problemático na melhor das hipóteses. O que exatamente são valores humanos? Sharia Law? Os 10 mandamentos? O código de Hamurabi? A Constituição dos EUA? Se qualquer coisa, atribuir um conjunto de valores para uma IA seguir é um exercício de loucura. A HP não quebrou nenhuma lei quando eles fizeram os cartões perfurados do campo de extermínio de Hitler…

Bem, poderíamos tentar fazer com que as IA aprendam nossos valores através da observação, mas os dados são tendenciosos … e estamos ainda piores.

Ou poderíamos esperar que uma superinteligência nos ignorasse, mas, novamente, acidentalmente pisamos em formigas o tempo todo e matamos os que entram em nossas casas.

Então, o que nós formigas podemos fazer? As melhores abordagens que vi envolvem: limitar as capacidades dos sistemas de inteligência artificial – o que novamente parece impossível, dada a relação risco / recompensa e a tragédia do problema comum discutido anteriormente, quanto mais poder prever erros / falhas – ou contrariar AI defensiva, ou seja, esportes de fantasia para a sociedade. Tenho certeza que não posso cobrir LeBron James ou parar um ponteiro de Steph Curry de 3, mas com outros atletas de elite (ou AIs) jogando em meu nome, pelo menos há uma chance de lutar.

Etapa 1) Regulamentos internacionais sobre desenvolvimento / contenção adequados de sistemas de IA. A última coisa que precisamos é de outro vazamento no estilo NSA, em que o governo ou a corporação XYZ acidentalmente liberem o código-fonte do fim do tempo para qualquer pessoa que tenha uma conexão com a Internet. O software é muito fácil de reutilizar.

Etapa 2) Alocações orçamentárias de defesa consideráveis para um think tank / iniciativa não governamental focada na detecção / previsão de ameaças. A única maneira de evitar o desastre no mundo exuberante do avanço da IA é planejar o fracasso LONG antes que aconteça. Dois segundos é uma eternidade em uns e zeros.

6. Armas Autônomas Letais

Demorou uma dúzia de terroristas, US $ 500.000 e alguns meses de planejamento para a Al-Queda para transportar 747 para o World Trade Center. O mundo jamais será o mesmo. E ainda hoje, qualquer idiota pode comprar um drone e tentar tirar um jato ou explodir um prédio, tudo a partir do conforto de seu sofá.

Os drones são assustadores, mas o armamento de drones autônomos é absolutamente aterrorizante à medida que os custos caem e o acesso aumenta. Leva apenas um país para desenvolver a dita tecnologia antes que os outros se sintam forçados a se atualizar.

E como você para um exército autônomo? Pergunta de truque, você não faz.

É quase impossível derrubar – ou suicídio – um drone. E até hoje, soluções robustas anti-drone provaram ser ineficazes. O assassinato em massa democratizado é algo que a humanidade NÃO pode deixar acontecer, não há como colocar o gato de volta na sacola com impressoras 3D, cadeias globais de suprimentos e tecnologia de código aberto.

NECESSITAMOS dos esforços internacionais, agora, antes que seja tarde demais, com a retaliação de 1º ataque contra qualquer país ou empresa que viole os acordos. Eu e muitos outros com quem falei estão preocupados com algo que, em última análise, seria insuficiente.

7. Catástrofe Relacionada ao Espaço

Em teoria, dinheiro fácil para monitorar, pesquisa fundamental e projeto de tecnologias de alteração de caminho de asteróides. Realmente não importa quem faz isso, ou porque eles fazem. Estamos todos juntos nesta pequena nave azul.

NASA EDGE: Defesa Planetária, 2013

Infelizmente, todo país espera que outro faça o trabalho por eles. Nos EUA, reduzimos massivamente o orçamento da NASA e as pessoas questionam o valor da exploração espacial e espacial. Isso pode significar que acordos internacionais são necessários para assegurar financiamento e avanço suficientes no importantíssimo sistema de defesa antimísseis espaciais para todos nós. Isso seria ideal para um ultra-bilionário começar uma fundação em torno de… dica, sugestão Jeff e Elon.

Pensamentos Finais

Os riscos existenciais são difíceis de resolver. A lista e as sugestões acima não estão completas, um milhão de desafios estão na esquina de todas as ideias. Mas não precisamos de soluções perfeitas para começar, apenas estruturas básicas e pessoas inteligentes e comprometidas que trabalham em prol do bem perfeito. E em muitas áreas, já temos isso. E de muitas maneiras, são vocês.

Aqui é onde eu peço sua ajuda. Eu não tenho as respostas, nem mesmo perto. Eu só quero começar a conversa. Como poderíamos tornar esses planos mais robustos e à prova de idiotas, porque é isso que vai demorar?

No jogo da sobrevivência, vale a pena montar o baralho. Alguma grande ideia? Adoraria aprender com outras pessoas mais experientes, ou, se você tem alguma sugestão para os convidados do podcast , mencione-os abaixo. Qualquer um desses tópicos faria ótimos episódios.

Aprendeu alguma coisa? Clique no ? para dizer "obrigado!" E ajude outras pessoas a encontrar este artigo.

Segure o botão de palmas se você gostou do conteúdo! Isso me ajuda a ganhar exposição.

Bata palmas 50 vezes e siga-me no Twitter: @mattwardio