Robôs desordeiros: como manter nossas criações sob controle

Num futuro próximo, nossos primos robôs terão que se comportar se quisermos evitar uma guerra apocalíptica de robôs.

Tony Deller Blocked Desbloquear Seguir Seguindo 11 de janeiro Crédito: MIT

“Embora a singularidade tenha muitas faces, sua implicação mais importante é a seguinte: nossa tecnologia combinará e, em seguida, excederá muito o refinamento e a flexibilidade do que consideramos como o melhor dos traços humanos.”

– Ray Kurzweil, a singularidade está perto: quando os seres humanos transcendem a biologia

“Dentro de trinta anos, teremos os meios tecnológicos para criar inteligência sobre-humana. Pouco depois, a era humana acabará.

-Vernor Vinge, a vinda da singularidade tecnológica

Vinge e Kurzweil têm sido dois dos principais proponentes da ideia da singularidade tecnológica, que é o conceito de que a inteligência artificial e o avanço tecnológico em geral chegarão, num futuro próximo, a um ponto em que as máquinas são exponencialmente mais inteligentes do que a humanidade e as mudanças no mundo à nossa volta são tão rápidas que humanos normais e não modificados não conseguirão mais acompanhá-la.

Parece evidente que a maioria dos membros da comunidade científica concorda que é necessário haver um conjunto de regras que todos os responsáveis pela IA e pela tecnologia robótica devem obedecer. No entanto, quais são exatamente essas regras no ar. Muito disso se deve simplesmente ao fato de que essa tecnologia ainda está engatinhando e os bits que foram lançados ao público para consumo em massa até agora têm sido relativamente inócuos. Siri e Roomba dificilmente representam ameaças existenciais para a humanidade.

No entanto, nós humanos somos conhecidos por nosso medo de quantidades desconhecidas. E o que não entendemos verdadeiramente, tendemos a exterminar. Neste momento, estamos no controle da evolução da inteligência da máquina. Se / quando alcançamos a Singularidade, e nossas criações excedem a nós, talvez seja uma questão de apenas horas, minutos ou até mesmo segundos antes de nos terem superado tanto que já não os compreendemos.

Há uma razão para que uma grande porcentagem de nossa ficção científica gire em torno de robôs e IAs que se tornam autoconscientes e tentam dominar o mundo ou tornar a humanidade extinta. Nós reconhecemos que isso é uma possibilidade. A humanidade é excelente em criar novas maneiras de se colocar em perigo. Isso também percebemos.

Para tentar evitar esse cenário, temos duas opções:

Abandonar e / ou proibir todo o trabalho em AI. Assim como com qualquer tentativa de controle mundial de armas nucleares ou pesquisas médicas eticamente questionáveis, isso não é uma novidade. Alguns jogadores concordarão, mas muitos não. O desejo humano de saciar a curiosidade e ganhar vantagem sobre os outros é insuperável.

Exceto isso, tudo o que podemos fazer é tentar garantir que todos percebam os perigos potenciais e construa uma estrutura dentro da qual suas criações devem operar, fazendo o melhor possível para evitar que nossos próximos robôs controlados por IA nos prejudiquem.

Felizmente, temos pensado nisso enquanto estamos trabalhando em direção à Singularidade.

3 leis

Isaac Asimov, renomado autor de ficção científica, e futurista expôs sua marca registrada Three laws of Robotics em “Runaround”, um conto de 1942. Mais tarde, ele acrescentou uma lei “zero” que ele percebeu que precisava vir antes dos outros. Eles são:

Lei 0: Um robô não pode prejudicar a humanidade, ou, pela inação, permitir que a humanidade venha a prejudicar

Primeira lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.

Segunda Lei: Um robô deve obedecer às ordens dadas pelos seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.

Terceira Lei: Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Asimov aplicaria essas leis a quase todos os robôs que ele apresentava em seus seguintes trabalhos ficcionais, e eles são considerados pela maioria dos roboticistas e cientistas da computação de hoje ainda serem extremamente válidos.

Desde que a idéia de robôs reais, existindo ao lado dos humanos na sociedade, tornou-se uma possibilidade real, e não apenas um produto da ficção científica, a idéia da robótica tornou-se um verdadeiro sub-campo em tecnologia, incorporando todo o nosso conhecimento de IA e máquina. aprender com direito, sociologia e filosofia. À medida que a tecnologia e as possibilidades progrediram, muitas pessoas acrescentaram suas ideias ao discurso.

Como presidente do EPIC (Centro de Informações de Privacidade Eletrônica), Marc Rotenberg acredita que mais duas leis devem ser incluídas na lista de Asimov :

Quarta Lei: Os robôs devem sempre revelar sua identidade e natureza como um robô para os humanos quando solicitados.

Quinta Lei: Os robôs devem sempre revelar seu processo de tomada de decisão para os humanos quando solicitado.

CC BY-SA 3.0

6 regras

Satya Nadella, atual CEO da Microsoft, criou uma lista de seis regras que ele acredita que os cientistas e pesquisadores da IA devem seguir:

– AI deve existir para ajudar a humanidade.

O funcionamento interno da IA deve ser transparente para a humanidade.

– A IA deve melhorar as coisas sem prejudicar grupos separados de pessoas.

– AI deve ser projetado para manter as informações pessoais e de grupo privadas.

– AI deve ser acessível o suficiente para que os seres humanos possam prevenir danos não intencionais.

– AI não deve mostrar preconceito em relação a qualquer parte em particular.

Crédito: Boston Dynamics

5 problemas

Os cientistas da computação do Google, também, expuseram um grupo de cinco " problemas práticos de pesquisa " para os programadores de robótica considerarem:

– Os robôs não devem fazer nada para piorar as coisas.

– Os robôs não devem ser capazes de “jogar suas funções de recompensa” ou trapacear.

– Se faltam informações para tomar uma boa decisão, os robôs devem pedir ajuda aos humanos.

– Os robôs devem ser programados para serem curiosos, desde que permaneçam seguros e não prejudiquem os seres humanos no processo.

– Os robôs devem reconhecer e reagir apropriadamente pelo espaço e situações em que se encontram.

5 Princípios

Talvez o conjunto de diretrizes que mais protege o ser humano tenha sido apresentado por um esforço conjunto do Conselho de Pesquisas em Artes e Humanidades e do Conselho de Pesquisa em Ciências Físicas e Engenharia, ambos do Reino Unido, que declaram:

  1. Os robôs não devem ser projetados apenas ou principalmente para matar ou prejudicar seres humanos.
  2. Humanos, não robôs, são agentes responsáveis. Robôs são ferramentas projetadas para atingir objetivos humanos.
  3. Os robôs devem ser projetados de maneira a garantir sua segurança e proteção.
  4. Robôs são artefatos; eles não devem ser projetados para explorar usuários vulneráveis evocando uma resposta emocional ou dependência. Deve ser sempre possível dizer a um robô de um humano.
  5. Sempre deve ser possível descobrir quem é legalmente responsável por um robô.

É evidente que o principal impulso da maioria desses princípios é que devemos fazer nosso melhor para impedir que nossas criações de robôs nos matem. Se os considerarmos os “filhos” da humanidade, certamente temos nosso trabalho cortado para nós. Como um todo, a maioria dos pais faz um bom trabalho em criar filhos que acabam respeitando a vida humana. Mas uma porcentagem não desprezível da população acaba sendo ovos muito ruins. Às vezes a causa é pais maus, às vezes são genes ruins e outras vezes não há causa evidente.

Se nos encontrarmos vivendo na Singularidade, e nossos filhos excederem rapidamente qualquer uma de nossas habilidades para ficar de olho neles, talvez não possamos confiar em nenhuma regra que estabelecemos para eles. Sua evolução estará fora do nosso controle. Poderíamos nos encontrar rapidamente em uma posição similar a onde colocamos o gorila da planície ou o panda gigante.

Por isso, talvez seja melhor incutir neles a moral que esperamos que possamos seguir e esperar que nossos filhos possam se policiar.

Obrigado por ler e compartilhar!

Texto original em inglês.