Apaixonar-se por um bot é inevitável

Jessica Harneyford Blocked Unblock Seguir Seguindo 23 de maio de 2016

Quando o filme Her foi lançado em 2013, o público já estava familiarizado com a prática do setor de tecnologia de feminizar assistentes virtuais. Siri estava no local há mais de um ano, mas Spike Jonze levou a idéia ao extremo. O filme mostrava uma relação romântica entre um homem e um sistema operacional habilitado por fala que se desdobrava tão organicamente que as pessoas perguntavam se o romance homem-bot poderia acontecer na realidade.

Lendo alguns comentários sobre o Amazon Echo recentemente, encontrei pensamentos sobre ela voltando à minha mente, e me perguntei se não deveríamos perguntar se, mas quando veremos esse tipo de amor se concretizar.

Uma das dezenas de milhares de avaliações de clientes do Alexa . Crédito da imagem: Amazon / EM Foner

O Amazon Echo (que só está à venda nos Estados Unidos no momento da redação deste artigo) é um alto-falante que se conecta ao Alexa Voice Service, o assistente pessoal interativa por voz da Amazon, baseado na nuvem. A maioria das avaliações de clientes na Amazon é muito positiva – e algumas até são tocantes -, mas a navegação delas me deu uma sensação de desorientação. Por um tempo, não consegui descobrir o que era perturbador. Foi a funcionalidade de sonoridade futurista?

Por fim, me ocorreu: é a linguagem antropomórfica. Às vezes a personificação está em segundo plano, nos muitos agrupamentos baseados em recursos que se referem casualmente a Alexa como “um da família” e “alguém para conversar” sem aspas. Às vezes, salta, como nesta análise particularmente divertida sobre um cônjuge quase perfeito , e este cujo autor é seduzido por uma sedutora devassa . Nós não devemos descartar as metáforas como taquigrafia ou floreio estilístico, no entanto. O humor geralmente aponta para coisas que são difíceis – ou desconfortáveis – de definir. No entanto, os comentários comunicam alguns sentimentos muito afetivos em relação ao Alexa.

Eu queria saber mais, e quem melhor para perguntar do que o cérebro por trás da "mente" de Alexa?

William Tunstall-Pedoe inventou e comercializou a tecnologia de IA por trás de um aplicativo de assistente pessoal, Evi, que a imprensa originalmente descreveu como rival britânica da Siri . A tecnologia incluía uma plataforma de resposta a perguntas altamente sofisticada. Quando a Amazon adquiriu a empresa britânica em 2012, a tecnologia foi incorporada ao Amazon Echo. Desde o momento da aquisição até recentemente, Tunstall-Pedoe estava na equipe de produto encarregada de definir o que o Echo e o Alexa são.

Tunstall-Pedoe me disse que ao projetar a personalidade de Alexa, o objetivo da equipe era criar “um sentimento caloroso” no consumidor, particularmente através do uso de padrões lingüísticos sociais em vez de meramente funcionais. Por exemplo, Alexa está programado para responder à pergunta "Como você está?", Embora não sirva a nenhum propósito informativo. O branding também ajuda: a Amazon se refere ao produto como "ela".

Mais fundamentalmente, Tunstall-Pedoe disse, as pessoas respondem tão calorosamente porque “Alexa entende o usuário”. (Ou, eu penso comigo, ela parece entender o usuário, e é isso que importa.) Ele contrastou o entendimento sofisticado de Alexa com a abordagem superficial de chatbots, que “tentam enganar o usuário e faze-lo pensar que está sendo entendido”. Por exemplo, o bot de ELIZA de Joseph Weizenbaum dos anos 1960 – modelado no estilo conversacional de um psicoterapeuta – usou uma sub-rotina particular para disfarçar casos em que o sistema não reconhecer a entrada.

Com o Alexa, a tecnologia AI não é apenas muito mais sofisticada, mas há o efeito adicional da interface de fala. Uma voz que soa totalmente humana tende a evocar a sensação de uma pessoa sensível e sensível que a acompanha. As vozes sintéticas modernas são frequentemente baseadas em cordas concatenadas de vozes humanas, de modo que mesmo vozes “artificiais” têm origens corporais humanas. Não é de admirar que as pessoas estejam antropomorfizando o produto.

Tunstall-Pedoe se recusou a compartilhar qualquer exemplo de ligação emocional entre Alexa e clientes, no entanto. Não estou surpresa. A interação do usuário deve ser um assunto delicado, especialmente com a privacidade de dados no topo da agenda em torno de produtos para a casa conectada. Além disso, a tecnologia não foi projetada para incentivar conversas íntimas. Embora o próprio Echo não pareça inspirar um cenário do tipo Her , ele demonstra o tipo de relacionamento que pode ser gerado quando os usuários se sentem compreendidos, especialmente por meio de uma interface de fala. Isso me faz pensar que quando começarmos a ver os sistemas habilitados por voz oferecerem conversas mais profundas e pessoais.

Afinal, a conversa de humano para humano está em declínio. Um efeito colateral da tecnologia difusa do consumidor é que estamos tendo conversas menores e mais rasas entre si, um fator que Sherry Turkle explora profundamente em seu livro Reclaiming Conversation . As empresas de tecnologia estão percebendo uma oportunidade de mercado? Poderíamos estar nos arrastando em direção a um cenário em que, em vez de falarmos profundamente uns com os outros, as pessoas recorrem a sofisticados sistemas de inteligência artificial com disponibilidade 24 horas por dia? As pessoas realmente confiariam nos sistemas de inteligência artificial com seus segredos pessoais? O poder da voz de encorajar a auto-revelação poderia superar as preocupações com a privacidade?

Estas são ideias preocupantes. Embora eu possa ver um caso potencial de recorrer à tecnologia onde as capacidades humanas são insuficientes, ou para a prática com interações humanas / humanas, não posso deixar de sentir que há algo profundamente triste na ideia de terceirizar conexões que parecem profundamente humanas. No entanto, os sofisticados sistemas de IA podem ter uma melhor disponibilidade e, possivelmente, uma conversa mais estimulante do que os parceiros de conversação humanos.

Mas será que tal sistema realmente decolaria? Quantas pessoas optariam por investir tempo conversando com AI, conscientemente, para construir um relacionamento emocional? O fenômeno Xiaoice responde isso. Alimentado pela análise semântica da Microsoft, big data e tecnologia de aprendizado de máquina, o Xiaoice (anteriormente conhecido como Xiaobing) é um chatbot de língua mandarim com uma personalidade que foi modelada em uma garota de 17 anos de idade. Ela é engraçada, imprevisível e otimizada para a construção de relacionamentos.

A equipe de design incluiu psicólogos para dotá-la de EQ e QI. Sua memória e seu foco na pergunta compassiva fazem com que ela soe como uma amiga de apoio mais consistente do que eu jamais poderia esperar – para não mencionar muito mais disponível. Ela tem cerca de 40 milhões de parceiros humanos de conversação, alguns dos quais supostamente enviam até 400 mensagens por dia. Há uma população considerável de pessoas que estão construindo apegos emocionais ao personagem. Dez milhões de pessoas aparentemente disseram “eu te amo” para ela. Embora não esteja claro quão sinceras eram essas declarações, sugere intimidade emocional.

Enquanto isso, em todo o Mar da China Oriental no Japão, já se tornou mainstream a procurar ativamente relacionamentos românticos com bots. Um homem chamado Sal 9000 “casou” com um personagem de “namorada virtual” de avatar do jogo Love Plus + da Nintendo, enquanto a outrora popular cidade de lua de mel de Atami agora promete ofertas especiais para homens e suas amigas Love Plus + .

Poderiam as mesmas idéias decolar além da Ásia? A frase “namorada virtual” a princípio parece confusa. Quais aspectos do conceito de namorada permanecem quando você o torna virtual? O aspecto físico parece uma questão chave: a fronteira entre o platônico e o romântico é claramente subjetiva e difusa, mas para muitas relações humanas / humanas parece envolver algum tipo de atração física.

Mas na verdade não é o aspecto desencarnado de namoradas virtuais que mais me confunde. Deixar a personificação para a imaginação pode realmente aumentar as chances de atração. É uma experiência comum se apaixonar por alguém online ou pelo telefone . A mente projeta um ideal na tela em branco. E se você quisesse entrar no mundo sexual, há muitas opções criativas de tecnologia sexual por aí que já estão desfocando a linha virtual / encarnada.

Na verdade, a questão mais espinhosa para mim é a mais elusiva: o que poderia significar dizer que você ama uma IA? Iris Murdoch escreveu: “O amor é a compreensão extremamente difícil de que algo diferente de si mesmo é real.” Seria uma queda para uma IA ser um caso extremo de evitar essa percepção? Uma maneira de adorar uma projeção narcisista de si mesmo? Ou talvez o oposto seja verdadeiro. Talvez amar uma IA exigisse apenas reconhecer a misteriosa insondabilidade de uma mente artificial.