Máquinas demonstram Qualia

Steven Schkolne Blocked Unblock Seguir Seguindo 9 de janeiro

Prova de Consciência da Máquina pt. 7

Nesta série, provo que as máquinas são conscientes explorando vários aspectos da consciência e demonstrando como as máquinas possuem cada uma delas. Para mais informações sobre o meu projeto, clique aqui ou confira este índice em todos os artigos. Se você sentir que omiti um aspecto importante da consciência, estou aberto a qualquer desafio.

Quando comecei esta série, pensei que seria impossível localizar a subjetividade da máquina. Como podemos descrever claramente aquilo que, por definição, não é objetivamente observável? Ou sabe mesmo que existe?

Surpreendentemente, a subjetividade das máquinas tem se escondido sob nossos narizes por décadas. Não é raro, mas fundamental para a função dos computadores básicos. Vamos explorar.

Os filósofos usam o termo “qualia” para descrever aspectos da consciência que são efêmeros, pessoais e não transcritíveis. Como o termo “consciência”, não há definições acordadas para qualia. Alguns filósofos argumentam que as qualia não existem . Outros argumentam que as qualia são a característica definidora da própria consciência.

Trending AI Articles:

1. Reconhecimento facial: desenvolvimento de máscaras em tempo real

2. Aprendizagem profunda para o reconhecimento da atividade humana baseada em sensores

3. Como construir um servidor de aprendizado profundo baseado no Docker

4. Aprendizagem de transferência: reciclagem do Inception V3 para classificação personalizada de imagens

O termo qualia surgiu do desejo de quebrar a bagunça da subjetividade em pedaços pequenos e controláveis. Assim como os dados quantitativos podem ser divididos em “quanta”, podemos falar sobre a experiência subjetiva como sendo feita de “qualia”. O termo qualia foi introduzido no léxico filosófico em 1866 por CS Pierce e cresceu dramaticamente em popularidade desde então.

Esta noção de qualia não é apenas o material dos teóricos da torre de marfim. Se você é como eu, primeiro você foi exposto ao conceito na escola primária. Um amigo me perguntou, como eu sei que quando vejo uma maçã vermelha, eles veem a mesma maçã vermelha? E se maçãs vermelhas parecessem laranjas para mim, mas eu usei a palavra “vermelho” para descrever isso porque todo mundo usou “vermelho” para descrever o que eu tinha, desde o nascimento, visto como laranja. Qualia está no centro da perplexidade que todos nós sentimos quando olhamos para a ilusão Duck-Rabbit ou o Tridente Impossível . Mesmo hoje ilusões como #TheDress se tornam virais, globais. Somos todos fascinados. A exploração de qualia pelos acadêmicos é uma tentativa de entender mais profundamente o que está dentro da mente.

No mais amplo, qualia é uma expressão de subjetividade holística, que eu abordei na parte 6 quando escrevi sobre o bastão de Nagel. Hoje explorarei as qualia em seu nível mais restrito e focar-me-ei na percepção de cores de baixo nível e quase material.

Locke primeiro formaliza a cor Qualia

Em 1689, o filósofo inglês John Locke escreveu em seu Ensaio sobre o entendimento humano, o que hoje é chamado de conceito de “espectro invertido”:

“Embora a ideia de um homem para o azul deva ser diferente da do outro. Tampouco levaria qualquer imputação de falsidade a nossas idéias simples, se pela estrutura diferente de nossos órgãos fosse assim ordenada, que o mesmo objeto produzisse na mente de vários homens idéias diferentes ao mesmo tempo; vg se a idéia de que uma violeta produzida na mente de um homem por seus olhos fosse a mesma que uma calêndula produzia em outro homem, e vice-versa ”.

O termo “ideia” de Locke pode ser hoje chamado de “imagem mental” ou “quale” (a forma singular de “qualia”). O que quer que você chame, esse aspecto da mente é amplamente demonstrado em máquinas. É surpreendentemente difícil encontrar máquinas complexas que funcionem sem ele.

Máquinas demonstram cor Qualia

Nós esperamos que qualia de máquina seja esotérica, misteriosa. Surpreendentemente, qualia de máquina é tudo menos escondido. Talvez eles sejam onipresentes demais para serem notados. Ou talvez seja uma questão de poucos filósofos que programam computadores com a intensidade necessária para correr de cabeça neles.

Computadores exibem imagens rasterizadas que consistem em pixels. A cor de cada pixel é tipicamente composta de três valores listados na ordem RGB, com valores variando de 0 a 255. Uma cor azul pura seria (0, 0, 255). Verde puro é (0, 255, 0). E o amarelo puro é (255, 255, 0), uma mistura uniforme de vermelho e verde (ao contrário da tinta de mistura, os computadores misturam cores usando as regras da luz aditiva ). Esse modo de pensar é familiar aos designers da Web, para quem o verde azul e o amarelo puros são # 0000FF, # 00FF00 e # FFFF00, respectivamente.

No entanto, essa representação de cores RGB não é a única usada. As representações de BGR, onde os números são armazenados em uma ordem diferente, eram comuns no passado. Por diversas razões técnicas esotéricas , o BGR foi mais rápido em algumas máquinas (nos dias em que mostrar imagens simples era uma tarefa pesada). Embora agora tenhamos padronizado bastante sobre RGB, existem algumas vantagens notáveis.

Se montarmos dois computadores, um RGB e outro BGR, e mostrarmos a eles uma maçã vermelha pura, eles formarão imagens mentais diferentes (“idéias” no jargão de Locke). Para a máquina RGB, o quale para uma determinada área da maçã será (255, 0, 0), enquanto o quale será (0, 0, 255) para a máquina BGR. Ambas as máquinas usarão o termo "vermelho" para classificar o que estão vendo em inglês simples. No entanto, seus estados mentais internos serão diferentes.

Máquinas demonstram complexo Qualia

Sou ousado ao afirmar que um exemplo tão simples demonstra a selvagem e escorregadia besta filosófica conhecida como qualia, que nenhum pensador parece capaz de combater completamente. Mas, ao olhar além da cor qualia para exemplos mais complexos, encontro uma consistência incomum. As máquinas, ao que parece, operam quase inteiramente em qualia.

A separação entre representação e fenômeno não é uma característica menor da computação, mas essencial para o funcionamento das máquinas atuais.

Tome a simples transmissão de um emoji. Um usuário insere um emoji, mas não entende as imagens mentais internas da máquina que resultam da digitação de um emoji. O smartphone estabelece interfaces objetivamente reconhecíveis. Existe uma interface com o usuário, que insere o emoji. Existe uma interface com a rede, sobre a qual uma representação em pacote do emoji é transmitida. O que acontece entre os dois é variável. Poderíamos olhar para 20 smartphones diferentes e ver 20 abordagens diferentes para representação interna. A experiência interna da máquina de transmitir o emoji é cognoscível apenas para aqueles que projetaram e construíram a máquina, e a própria máquina.³

Você vê, quando Locke menciona trocar "calêndula" e "violeta", ele pode significar as flores , não as cores . Os filósofos usam esses experimentos mentais para apontar para aspectos maiores da função mental. Douglas Hofstader descreve essas alturas em "I Am A Strange Loop":

O que é sacrossanto sobre a idéia de embaralhar cores dentro de um espectro? Por que não embaralhar todo tipo de experiência arbitrariamente? Talvez a sua experiência íntima interna de vermelhidão seja a mesma que minha experiência interior privada de ouvir notas muito baixas em um piano. Ou talvez a sua experiência interior privada de ir a um jogo de beisebol seja a mesma que a minha experiência interior privada de ir a um jogo de futebol.

Hofstader extrapola a noção básica de Locke com a intenção de ridicularizá-la. Embora esse grau de inversão experiencial possa ser impossível em humanos, é facilmente alcançado dentro da mente da máquina.

Considere o reconhecedor de imagem padrão de hoje, alimentado por uma rede neural. Esse sistema é treinado com milhares de imagens marcadas. Alguns são marcados como "carro". Outros são marcados como "ponte". O sistema aprende, surpreendentemente bem, a variedade de maneiras que carros e pontes podem aparecer nas imagens. Se quiséssemos realizar o experimento mental de Hofstader, poderíamos simplesmente duplicar essa máquina. Na saída da rede, poderíamos trocar “carro” por “ponte” para uma máquina. A experiência interior privada seria, assim, trocada.

Dois desses sistemas, treinados nos mesmos dados, provavelmente teriam critérios internos totalmente diferentes para reconhecer um carro ou ponte. Treine-os em tags como “red” ou “blue” e, novamente, o algoritmo de aprendizado resultaria em diferentes modelos mentais internos. Seria tão simples trocar “jogo de beisebol” por “piano”. O “calêndula” de Locke pode se tornar um “violeta”, de fato.

Inversões experienciais também podem ser obtidas em sistemas tradicionais. O principal computador de xadrez da década de 1990, o Deep Blue, tinha uma vasta coleção interna de posições no conselho, com valores ponderados para que o computador considerasse alguns como melhores que outros. Mexa com esses pesos e as próprias noções de “bom” e “ruim” para essa máquina podem ser invertidas total ou parcialmente para produzir toda a variedade de resultados. A concepção interna do Alter Deep Blue de “bom” e “ruim” e esta máquina de xadrez aceita erros de principiante.

A fungibilidade conceitual está no coração das máquinas atuais. Além dos mapeamentos linguísticos, o princípio da caixa preta descreve a ocorrência comum de abstração funcional em máquinas. O simples ato de enviar uma mensagem de texto aciona dezenas de transformações e ações em sistemas que desconhecem o significado da mensagem subjacente.?

Qualia Quantitativa

Filósofos mortos poderiam rolar em seus túmulos, e os filósofos vivos poderiam espumar pela boca se lessem minhas palavras demonstrando como computadores simples, durante décadas, demonstraram um dos exemplos mais famosos de qualia. Você vê, o coração do termo qualia é apontar para aspectos qualitativos da mente que não podem ser quantificados.

Se olharmos para o estado mental interno de um sistema de aprendizado profundo que reconhece um calêndula, sabemos que isso é quantitativo, pela mesma razão pela qual a máquina é composta de quantidades. Você sabe, os 1s e 0s. Estou argumentando que são qualia efêmeras e não transcritas? O que está quebrado aqui?

Estamos diante da antiga questão filosófica do dualismo : a mente é feita de matéria? Ou a mente é separada da matéria? Espiritualistas que vêem a mente como transcendente, capaz de persistir mesmo depois da morte, estão em conflito com os materialistas que acreditam que não há alma separada dos neurônios em nossas cabeças. Como cientista da computação, me encontro em uma posição intermediária. Mudanças extremas de personalidade após uma lesão cerebral (à la Phineas Gage ) indicam que a alma é dependente de neurônios físicos. No entanto, isso não significa que poderíamos entrar e medir o que é estar vivo. ”Mesmo se medirmos cada molécula em cada neurônio humano, talvez não consigamos fazer nenhum sentido.

Mesmo uma mente 100% material e completamente mensurável ainda pode ser efêmera e pessoal. Podemos ser capazes de transcrever puramente tal cérebro sem entender a experiência subjetiva mantida dentro dele. Seja ou não a mente humana realmente funciona dessa maneira, a possibilidade é demonstrada pelos avançados sistemas avançados de IA.

Se tal máquina caísse do espaço, não poderíamos determinar empiricamente como ela reconhecia um calêndula. Poderíamos colocar tantas sondas quanto quiséssemos. A natureza dos sistemas de aprendizagem atuais é que sua estrutura evolui com base no feedback. O mecanismo de classificação, embora possamos explorá-lo pouco a pouco, não faz sentido. Não podemos ver o quadro geral de como o mecanismo funciona ou alterá-lo para fins ligeiramente diferentes.

Curiosamente, a experiência de nível inferior pode ser facilmente percebida. Isto é verdade tanto para a máquina quanto para a experiência humana. O sensor CMOS visto em uma câmera digital é uma grade espacial com pixels RGB separados. Estes podem ser facilmente observados. Podemos até dizer se a representação de cores é RGB, BRG ou outra.

Para os humanos, podemos observar e documentar de forma semelhante a experiência de baixo nível. Podemos observar os gânglios da retina e ver como a cor é detectada (RGB junto com um único cone). Podemos olhar para o córtex primário e ver, como discutido na parte 2 , uma representação no tecido cerebral daquilo que os olhos contemplam.

Essa diferença entre quanta e qualia pode não importar. Mesmo quantitativa, poderíamos pensar nos aspectos incognoscíveis e inefáveis da mente mecânica como “subjetividade de máquina”. As partes de detecção de calêndula da máquina são representadas de uma forma tão fundamental para sua arquitetura que não podem ser transferidas para representações alternativas sem perda.

O tempo dirá se é possível observar diretamente qualia no cérebro humano. Se tal descoberta fosse feita, todo o aparato filosófico dos qualia cairia em parte? Eu acho que não. Qualia poderia ser facilmente quantitativo. Apesar das origens do nome, se olharmos para o assunto, vemos muitos aspectos da mente que poderiam ou não ser físicos e mensuráveis.

Quando nos voltamos para máquinas, no entanto, podemos ver amplas evidências de que qualia de cores e muitas outras formas de qualia são, não apenas presentes em máquinas, mas vitais para o seu funcionamento. Se há exemplos de qualia que não cabem sob os guarda-chuvas que abri neste ensaio e o último, gostaria de ouvir sobre eles.

Texto original em inglês.