As leis de robótica de Asimov serão aplicadas a carros autônomos?

Mike Gulett Blocked Unblock Seguir Seguindo 9 de janeiro

O carro autônomo é talvez a primeira aplicação prática e útil do robô pessoal inteligente que muitas pessoas terão, interagirão, usarão regularmente e não será um brinquedo. É também uma das primeiras aplicações úteis da inteligência artificial (IA). Eu me pergunto se vamos exigir que esses robôs sigam as Leis da Robótica de Isaac Asimov (também conhecidas como As Três Leis da Robótica).

Asimov era escritor, principalmente de ficção científica, e professor de bioquímica. Ele escreveu cerca de 500 livros; principalmente ficção científica, mas também fato científico, história e religião. Ele foi professor de bioquímica na Universidade de Boston e obteve seu Ph.D em bioquímica pela Universidade de Columbia em Nova York. Ele morreu em 1992.

Asimov é um dos meus autores favoritos de ficção científica e eu li muitos de seus livros de não-ficção, incluindo um que me ajudou na escola de engenharia. As leis da robótica de Asimov foram introduzidas pela primeira vez no conto de 1942, Runaround . Eu os li pela primeira vez em seu romance The Caves of Steel quando eu era adolescente.

As leis de robótica de Asimov devem ser programadas em todos os robôs para a segurança dos seres humanos e não podem ser ignoradas. Abaixo, escrito em ordem de prioridade para o robô, estão as Leis de Robótica de Asimov:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Se essas Leis da Robótica fossem usadas em carros autodirigidos, elas seriam programadas no carro autônomo e não poderiam ser alteradas pelo proprietário sem que o proprietário convertesse para o modo de direção manual.

Fonte: Americas Electric Light e empresas de energia

Eu tenho algumas perguntas sobre carros autônomos e Asimov's Laws of Robotics:

* A segurança dos humanos dentro do carro tem uma prioridade maior que os humanos fora do carro? As Leis da Robótica não abordam a definição de uma prioridade que os humanos não prejudiquem.

* Que decisão o carro autônomo tomaria se houvesse uma escolha inevitável entre se deparar com uma multidão de dez pessoas ou sair de um penhasco matando apenas um passageiro? As leis não têm uma escala para a quantidade de seres humanos para não prejudicar.

* Qual seria a programação se o carro não pertencesse ao passageiro, mas fosse um carro alugado ou um táxi? A empresa de aluguel de carros ou a empresa de táxi poderia especificar que a programação tomaria essas decisões de maneira a reduzir sua responsabilidade legal, independente das implicações morais? Pode-se imaginar um advogado ajudando a definir a maneira como as Leis da Robótica são implementadas na frota de carros autônomos de seus clientes para os negócios e benefícios legais do cliente.

* Excesso de velocidade ou quebra de uma lei de trânsito menor é aceitável para um carro autônomo? Esta questão é importante porque há momentos em que uma pessoa está em uma situação em que a melhor saída é violar uma lei de trânsito menor. A programação de um carro auto-dirigido permitiria que ele fizesse o mesmo, embora isso possa momentaneamente criar um risco menor para os passageiros?

As leis de robótica de Asimov influenciaram não apenas outros escritores de ficção científica, mas também cientistas e engenheiros que estão desenvolvendo robótica e inteligência artificial. Não é garantido que os robôs da IA seguirão as Leis da Robótica de Asimov, porque eles precisam ser programados de forma que as leis não possam ser removidas ou alteradas. Está tudo na programação.

O premiado escritor de ficção científica Robert J. Sawyer escreveu no início dos anos 90 em seu site ,

“Primeiro, lembre-se, as leis de Asimov dificilmente são leis no sentido de que leis físicas são leis; em vez disso, são sugestões fofas que deram origem a algumas histórias interessantes, orientadas por enigmas, há meio século. Eu sinceramente não acho que eles serão aplicados a futuros computadores ou robôs. Nós temos muitos computadores e robôs hoje e nenhum deles tem sequer os rudimentos das Três Leis embutidas. É extraordinariamente fácil a “falha do equipamento” resultar em morte humana, afinal, em violação direta da Primeira Lei. ”Claramente, o Sr. Sawyer não acha que as Três Leis serão usadas no mundo real.

Robin R. Murphy, Texas A & M University e David D. Woods, Universidade Estadual de Ohio, escreveram em Beyond Asimov: As Três Leis da Robótica Responsável nos Sistemas Inteligentes IEEE ,

“As três leis foram inculcadas com sucesso na consciência pública através do entretenimento, que agora parecem moldar as expectativas da sociedade sobre como os robôs devem agir em torno dos humanos. … Até os médicos consideraram a cirurgia robótica no contexto das três leis ”. Eles também propõem suas próprias Leis da Robótica, que são mais focadas nas ações humanas.

Temos muitos robôs que não seguem as Leis da Robótica de Asimov como drones que são usados pelos militares em combate. Eles são projetados para matar pessoas ou bombardear edifícios seguindo instruções diretas de seu controlador humano. Mas esse drone é realmente diferente de uma arma? O drone certamente tem mais tecnologia, mas ainda é apenas uma arma ou um avião automatizado soltando bombas. É realmente um robô AI? Não é sobre o que Asimov estava pensando quando escreveu suas Leis da Robótica. Ele tinha em mente um robô de IA que era capaz de tomar decisões independentes dos humanos (veja a Segunda Lei). O drone militar usado hoje não toma decisões independentes, até onde eu sei.

Norman Bel Geddes, designer industrial do século 20, futuristas e pioneiro do design aerodinâmico escreveu em seu livro de 1940, Magic Motorways , “Esses carros de 1960 e as rodovias nas quais dirigem terão dispositivos que corrigirão as falhas dos seres humanos. como motoristas. Eles impedirão que o driver cometa erros. Eles vão impedir que ele se transforme em tráfego, exceto quando ele deveria. Eles o ajudarão a passar por interseções sem diminuir a velocidade ou fazer com que alguém o faça e sem colocar em risco a si mesmo ou aos outros ”.

Bel Geddes vê um futuro, olhando de 1940 a 1960, onde o carro auto-dirigido protegerá os humanos de si mesmos, embora não descreva totalmente as Leis da Robótica. Ele foi o criador do Futurama, um diorama patrocinado pela General Motors na Feira Mundial de Nova York de 1939, que previa o futuro do transporte de automóveis e foi a exposição mais popular nesta feira mundial. Sua visão não foi realizada em 1960, mas está sendo implementada por desenvolvedores de tecnologia automotiva agora.

Para que um carro autodirigido implementasse as Leis da Robótica de Asimov, um robô precisaria ser superinteligente ainda mais do que os computadores que dominaram o jogo de xadrez, para onde eles agora vencem rotineiramente os melhores jogadores de xadrez humanos do mundo. O xadrez é um jogo com regras definidas e um número limitado de opções e resultados. Um carro auto-dirigido tem significativamente mais opções e decisões a tomar, especialmente se as Leis da Robótica forem seguidas.

Asimov criou o "cérebro positrônico" fictício para seus robôs, que lhes dava a capacidade de pensar e agir quase humano. Este cérebro também é necessário para implementar as Leis da Robótica de Asimov, porque a tarefa computacional não seria possível. O timing da tomada de decisão do robô é crucial. A latência em tomar decisões sobre a vida e a morte não é aceitável, especialmente em situações reais de condução de carros.

Aqui estão alguns exemplos de como os carros autodirigidos hoje podem imitar as Leis da Robótica de Asimov e alguns possíveis problemas em seguir essas Leis:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.

Há muitos recursos de segurança em carros modernos projetados para proteger os passageiros, como air bags, assistência para mudança de faixa, frenagem automática, câmeras e muitos outros. Mas e as pessoas do lado de fora do carro? Alguns desses recursos podem protegê-los, mas outros não. O foco tem sido a proteção dos passageiros e esta Primeira Lei não especifica quais seres humanos são priorizados para proteção.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.

Quais ordens do ser humano seguirão o carro auto-dirigido? Vamos supor que ele seguirá as ordens do motorista, mas e se o motorista estiver incapacitado, o carro seguirá as ordens de outros seres humanos, como passageiros ou pessoas de fora do carro?

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Os carros modernos ainda não estão programados para se proteger, exceto como um subproduto da proteção dos passageiros. Esta provavelmente será a última das Leis da Robótica a ser implementada porque é bastante complexa e não é tão importante quanto as duas primeiras leis.

Conclusão

Não acredito que tenhamos a tecnologia para implementar as leis de robótica de Asimov em carros autônomos no futuro previsível. Existem, no entanto, certos aspectos das Leis da Robótica que podem ser implementadas através da programação de software e hardware, embora o carro autônomo não esteja ciente de que está seguindo as Leis da Robótica de Asimov. Não tomará decisões, mas apenas seguirá seus recursos de programação e design.

Talvez as Leis de Robótica de Asimov não tenham a intenção de serem seguidas literalmente, mas são simplesmente uma diretriz de design.

As leis de robótica de Asimov serão aplicadas a carros autônomos?

Mike Gulett Blocked Unblock Seguir Seguindo 9 de janeiro

O carro autônomo é talvez a primeira aplicação prática e útil do robô pessoal inteligente que muitas pessoas terão, interagirão, usarão regularmente e não será um brinquedo. É também uma das primeiras aplicações úteis da inteligência artificial (IA). Eu me pergunto se vamos exigir que esses robôs sigam as Leis da Robótica de Isaac Asimov (também conhecidas como As Três Leis da Robótica).

Asimov era escritor, principalmente de ficção científica, e professor de bioquímica. Ele escreveu cerca de 500 livros; principalmente ficção científica, mas também fato científico, história e religião. Ele foi professor de bioquímica na Universidade de Boston e obteve seu Ph.D em bioquímica pela Universidade de Columbia em Nova York. Ele morreu em 1992.

Asimov é um dos meus autores favoritos de ficção científica e eu li muitos de seus livros de não-ficção, incluindo um que me ajudou na escola de engenharia. As leis da robótica de Asimov foram introduzidas pela primeira vez no conto de 1942, Runaround . Eu os li pela primeira vez em seu romance The Caves of Steel quando eu era adolescente.

As leis de robótica de Asimov devem ser programadas em todos os robôs para a segurança dos seres humanos e não podem ser ignoradas. Abaixo, escrito em ordem de prioridade para o robô, estão as Leis de Robótica de Asimov:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Se essas Leis da Robótica fossem usadas em carros autodirigidos, elas seriam programadas no carro autônomo e não poderiam ser alteradas pelo proprietário sem que o proprietário convertesse para o modo de direção manual.

Fonte: Americas Electric Light e empresas de energia

Eu tenho algumas perguntas sobre carros autônomos e Asimov's Laws of Robotics:

* A segurança dos humanos dentro do carro tem uma prioridade maior que os humanos fora do carro? As Leis da Robótica não abordam a definição de uma prioridade que os humanos não prejudiquem.

* Que decisão o carro autônomo tomaria se houvesse uma escolha inevitável entre se deparar com uma multidão de dez pessoas ou sair de um penhasco matando apenas um passageiro? As leis não têm uma escala para a quantidade de seres humanos para não prejudicar.

* Qual seria a programação se o carro não pertencesse ao passageiro, mas fosse um carro alugado ou um táxi? A empresa de aluguel de carros ou a empresa de táxi poderia especificar que a programação tomaria essas decisões de maneira a reduzir sua responsabilidade legal, independente das implicações morais? Pode-se imaginar um advogado ajudando a definir a maneira como as Leis da Robótica são implementadas na frota de carros autônomos de seus clientes para os negócios e benefícios legais do cliente.

* Excesso de velocidade ou quebra de uma lei de trânsito menor é aceitável para um carro autônomo? Esta questão é importante porque há momentos em que uma pessoa está em uma situação em que a melhor saída é violar uma lei de trânsito menor. A programação de um carro auto-dirigido permitiria que ele fizesse o mesmo, embora isso possa momentaneamente criar um risco menor para os passageiros?

As leis de robótica de Asimov influenciaram não apenas outros escritores de ficção científica, mas também cientistas e engenheiros que estão desenvolvendo robótica e inteligência artificial. Não é garantido que os robôs da IA seguirão as Leis da Robótica de Asimov, porque eles precisam ser programados de forma que as leis não possam ser removidas ou alteradas. Está tudo na programação.

O premiado escritor de ficção científica Robert J. Sawyer escreveu no início dos anos 90 em seu site ,

“Primeiro, lembre-se, as leis de Asimov dificilmente são leis no sentido de que leis físicas são leis; em vez disso, são sugestões fofas que deram origem a algumas histórias interessantes, orientadas por enigmas, há meio século. Eu sinceramente não acho que eles serão aplicados a futuros computadores ou robôs. Nós temos muitos computadores e robôs hoje e nenhum deles tem sequer os rudimentos das Três Leis embutidas. É extraordinariamente fácil a “falha do equipamento” resultar em morte humana, afinal, em violação direta da Primeira Lei. ”Claramente, o Sr. Sawyer não acha que as Três Leis serão usadas no mundo real.

Robin R. Murphy, Texas A & M University e David D. Woods, Universidade Estadual de Ohio, escreveram em Beyond Asimov: As Três Leis da Robótica Responsável nos Sistemas Inteligentes IEEE ,

“As três leis foram inculcadas com sucesso na consciência pública através do entretenimento, que agora parecem moldar as expectativas da sociedade sobre como os robôs devem agir em torno dos humanos. … Até os médicos consideraram a cirurgia robótica no contexto das três leis ”. Eles também propõem suas próprias Leis da Robótica, que são mais focadas nas ações humanas.

Temos muitos robôs que não seguem as Leis da Robótica de Asimov como drones que são usados pelos militares em combate. Eles são projetados para matar pessoas ou bombardear edifícios seguindo instruções diretas de seu controlador humano. Mas esse drone é realmente diferente de uma arma? O drone certamente tem mais tecnologia, mas ainda é apenas uma arma ou um avião automatizado soltando bombas. É realmente um robô AI? Não é sobre o que Asimov estava pensando quando escreveu suas Leis da Robótica. Ele tinha em mente um robô de IA que era capaz de tomar decisões independentes dos humanos (veja a Segunda Lei). O drone militar usado hoje não toma decisões independentes, até onde eu sei.

Norman Bel Geddes, designer industrial do século 20, futuristas e pioneiro do design aerodinâmico escreveu em seu livro de 1940, Magic Motorways , “Esses carros de 1960 e as rodovias nas quais dirigem terão dispositivos que corrigirão as falhas dos seres humanos. como motoristas. Eles impedirão que o driver cometa erros. Eles vão impedir que ele se transforme em tráfego, exceto quando ele deveria. Eles o ajudarão a passar por interseções sem diminuir a velocidade ou fazer com que alguém o faça e sem colocar em risco a si mesmo ou aos outros ”.

Bel Geddes vê um futuro, olhando de 1940 a 1960, onde o carro auto-dirigido protegerá os humanos de si mesmos, embora não descreva totalmente as Leis da Robótica. Ele foi o criador do Futurama, um diorama patrocinado pela General Motors na Feira Mundial de Nova York de 1939, que previa o futuro do transporte de automóveis e foi a exposição mais popular nesta feira mundial. Sua visão não foi realizada em 1960, mas está sendo implementada por desenvolvedores de tecnologia automotiva agora.

Para que um carro autodirigido implementasse as Leis da Robótica de Asimov, um robô precisaria ser superinteligente ainda mais do que os computadores que dominaram o jogo de xadrez, para onde eles agora vencem rotineiramente os melhores jogadores de xadrez humanos do mundo. O xadrez é um jogo com regras definidas e um número limitado de opções e resultados. Um carro auto-dirigido tem significativamente mais opções e decisões a tomar, especialmente se as Leis da Robótica forem seguidas.

Asimov criou o "cérebro positrônico" fictício para seus robôs, que lhes dava a capacidade de pensar e agir quase humano. Este cérebro também é necessário para implementar as Leis da Robótica de Asimov, porque a tarefa computacional não seria possível. O timing da tomada de decisão do robô é crucial. A latência em tomar decisões sobre a vida e a morte não é aceitável, especialmente em situações reais de condução de carros.

Aqui estão alguns exemplos de como os carros autodirigidos hoje podem imitar as Leis da Robótica de Asimov e alguns possíveis problemas em seguir essas Leis:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano se machuque.

Há muitos recursos de segurança em carros modernos projetados para proteger os passageiros, como air bags, assistência para mudança de faixa, frenagem automática, câmeras e muitos outros. Mas e as pessoas do lado de fora do carro? Alguns desses recursos podem protegê-los, mas outros não. O foco tem sido a proteção dos passageiros e esta Primeira Lei não especifica quais seres humanos são priorizados para proteção.

2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.

Quais ordens do ser humano seguirão o carro auto-dirigido? Vamos supor que ele seguirá as ordens do motorista, mas e se o motorista estiver incapacitado, o carro seguirá as ordens de outros seres humanos, como passageiros ou pessoas de fora do carro?

3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Os carros modernos ainda não estão programados para se proteger, exceto como um subproduto da proteção dos passageiros. Esta provavelmente será a última das Leis da Robótica a ser implementada porque é bastante complexa e não é tão importante quanto as duas primeiras leis.

Conclusão

Não acredito que tenhamos a tecnologia para implementar as leis de robótica de Asimov em carros autônomos no futuro previsível. Existem, no entanto, certos aspectos das Leis da Robótica que podem ser implementadas através da programação de software e hardware, embora o carro autônomo não esteja ciente de que está seguindo as Leis da Robótica de Asimov. Não tomará decisões, mas apenas seguirá seus recursos de programação e design.

Talvez as Leis de Robótica de Asimov não tenham a intenção de serem seguidas literalmente, mas são simplesmente uma diretriz de design.