O apocalipse AI já está aqui

DHH Blocked Unblock Seguir Seguindo 27 de novembro

Não precisamos esperar pela singularidade antes que a inteligência artificial se torne capaz de transformar o mundo em um pesadelo distópico. Algoritmos da marca AI já estão servindo novas porções de inferno fresco regularmente. Mas, em vez de nos preocuparmos com os computadores em fuga, deveríamos nos preocupar com os empreendedores que os alimentam com os algoritmos e com os consumidores que os executam sem pensar.

Não é que Elon Musk, Stephen Hawking, esteja errado em ponderar se a Skynet poderia algum dia decidir que a humanidade é um bug no código do universo que deveria ser eliminado. Da mesma maneira que os evangélicos não estão necessariamente errados em acreditar que o arrebatamento irá em algum momento provar o fim da história. Ter fé em histórias sobrenaturais sobre divindades vingativas, condenando-nos a uma eternidade de miséria, é um grande passatempo desde a revolução cognitiva. Precisamente porque não há espaço para refutar tal história hoje.

É apenas que tal preocupação com as possíveis calamidades do amanhã pode nos distrair de lidar com os desastres atuais de hoje. E os desastres algorítmicos não estão apenas aqui, mas crescendo em escala, impacto e regularidade.

Um corpo crescente de trabalho está levando os algoritmos das mídias sociais para otimizar o vício e o desespero. Chicoteando seus usuários no mais alto estado de frenesi, ansiedade e inveja. Porque esse é o poço mais profundo de engajamento para se extrair.

Nós nos tornamos cada vez mais miseráveis porque os imperialistas de conexão ao mundo estão liberando o aprendizado de máquina em nossos impulsos mais vulneráveis e básicos. Um ciclo constante de refinamento que estimula a nossa psique em pontos fracos e, em seguida, explora-os com eficiência máxima. Tudo a serviço da venda de anúncios de carros, xampus ou discórdia política.

No entanto, essa IA auto-otimizadora exploradora dificilmente é restrita às mídias sociais. Embora empresas como o Facebook provavelmente o estejam usando para infligir o maior dano à maioria das pessoas no momento.

Ainda que deprimente seja aprender sobre como o Facebook encontra maneiras de deduzir nosso estado mental preciso – e depois agitá-lo ainda mais -, há pelo menos alguma negação plausível. É possível imaginar que Zuckerberg e Sandberg realmente acreditem que estão realmente fazendo algo de bom para o mundo, mesmo que evidências em contrário estejam aumentando a um ritmo muito mais rápido do que ambos podem fingir surpresa e indignação.

É mais difícil argumentar em favor de uma negação plausível quando as companhias aéreas empregam algoritmos da marca AI para espalhar as famílias pelo avião , a fim de que não paguem uma taxa de resgate por assento específico.

Ou que a IA que maximiza a receita e que gere os programas de incentivo para empresas de compartilhamento de carona não esteja atacando especificamente as fragilidades cognitivas comuns .

Mas pelo menos esses algoritmos realmente funcionam, por mais diabólicos que sejam seus propósitos. Isso é ruim, mas é um tipo de mal conhecido. Um mal que você pode raciocinar.

O apocalipse AI que está realmente me assustando no momento é o show de merda de óleo de cobra que é o Predictim . Aqui está uma empresa que ataca os medos naturais dos pais em todos os lugares de deixar seu filho com um zelador abusivo para vender os serviços de vetting abusivo do get-the-fuck-outta-here. Este é o seu passo:

Predictim é a ferramenta que todos os pais precisam

221. É um número simples que pode significar quase tudo, certo?

Bem, neste caso, significa quantas acusações um babá pesadelo está enfrentando fora da Pensilvânia rural por abusar e torturar crianças que ela e um amigo estavam encarregadas de assistir.

Uma mãe precisava sair da cidade, então ela simplesmente se debruçava sobre uma pessoa com quem confiara seus filhos no passado.

Desta vez, no entanto, a babá estava fora de dor.

Provavelmente assustado agora? Se você tem filhos, claro que você é. Então, agora você está no perfeito estado de espírito para comprar sua solução realmente fantástica: a Predictim vai pedir a possíveis babás que entreguem seus logins a todas as suas contas de mídia social, de modo que o algoritmo de caixa preta possa analisá-lo. uso de drogas, conteúdo explícito e bullying ou comportamento desrespeitoso. A saída é uma pontuação única e final de um em cada cinco para o quão “arriscado” a babá é considerada (o que não é compartilhado com o candidato).

É difícil saber até onde começar esse novo inferno. Mas vamos escolher a idéia central de que a IA pode deduzir se alguém tem uma “atitude desrespeitosa” com qualquer nível de certeza baseado em 22 postagens no Twitter. Deixando de lado a ridícula falta de uma amostra estatística significativa, tente imaginar o diagnóstico de sarcasmo, indignação justificada, piadas internas, citações ou qualquer um dos milhões de outras formas de expressão que um tweet poderia dizer que a IA não está dentro de cem milhas. de ser capaz de deduzir com segurança a intenção ou justificativa por trás. Inferno, eu tenho meus tweets incompreendidos por humanos altamente educados na metade do tempo!

Então essa é a primeira conclusão: não tem como isso funcionar! Simplesmente de jeito nenhum. Como uma empresa como a Predictim pode vender e comercializar uma solução como esta? Da mesma forma os horóscopos fogem no jornal. Declarando essencialmente que este não é um conselho real e deve ser considerado apenas para fins de entretenimento. Ou nas próprias palavras do Predictim:

Isenção de responsabilidade: Esta análise é baseada exclusivamente em uma análise das contas de mídia social do possível cuidador às quais elas nos deram acesso, o que pode ou não refletir com precisão os atributos reais do cuidador. Como resultado, não podemos fornecer qualquer garantia quanto à precisão da análise no relatório ou se o assunto deste relatório seria adequado às suas necessidades … Não somos responsáveis de nenhuma maneira pelo desempenho ou conduta de qualquer profissional de saúde. ou para suas interações ou negociações com eles. TODO O USUÁRIO DESTE RELATÓRIO OU SERVIÇO É DE SUA CONTA E RISCO EXCLUSIVO.

Isto é, evidentemente, uma completa contradição com o que seu material de marketing afirma:

Há muitas maneiras de encontrar alguém para cuidar de crianças – agências, mercados on-line e recomendações de amigos e familiares. No entanto, muitos desses locais de mercado on-line não fornecem verificação abrangente e não se responsabilizam pelas ações de seus assistentes.

O Predictim vai manter sua família segura, ou não, o que for. Isso vai garantir que você não contrate Risky Rebecca, ou talvez talvez não saibamos! Esse é o infame estilo do Vale do Silício de prometer ao mundo, mas aceitando a responsabilidade zero pelas conseqüências de suas ações.

Vamos falar sobre essas conseqüências. Pedir às babás, que podem até ser menores de idade, para entregar as chaves de suas contas de mídia social privadas não é apenas uma violação desprezível de sua privacidade, é também extremamente madura para o comportamento abusivo e explorador.

Dada essa alta criticidade – lidando com os dados privados e talvez até íntimos das babás -, você gostaria, no mínimo, de algumas garantias de ferro sobre como esses dados são armazenados e usados. Quero dizer, isso ainda não faria isso de forma alguma, mas vamos apenas jogar por um segundo. Quais garantias do Predictim oferecem que esses dados são seguros e protegidos ?

"Se alguma vez vazarmos informações de uma babá, isso não seria legal", disse Simonoff.

Não, isso realmente não seria legal, Joel. Mas me perdoe se eu não tenho tanta confiança na integridade moral de um graduado da faculdade que tem aproximadamente a mesma idade de Zuckerberg quando ele ponderou por que as “fodas idiotas” confiavam nele suas informações.

ZUCK: sim, se você precisar de informações sobre alguém em harvard
ZUCK: apenas pergunte
ZUCK: Eu tenho mais de 4000 e-mails, fotos, endereços, sns
AMIGO: o que? como você conseguiu isso?
ZUCK: as pessoas apenas enviaram
ZUCK: Eu não sei porque
ZUCK: eles confiam em mim
ZUCK: fode burro

No entanto, isso é ainda pior. Muito pior. Essas babás podem nem ter idade universitária ainda. E vamos ver o que está na cabeça dos CTOs quando ele pensa sobre o “conteúdo explícito” que deve marcar a pontuação de alguém no Predictim:

Uma foto de uma garota de biquíni.

Que chances você colocaria na perspectiva de que a equipe técnica da Predictim construiu uma Visão de Deus no estilo Uber, que permite que eles olhem aqueles hits de “conteúdo explícito” de garotas de biquíni? Eu diria que melhor do que mesmo.

Mas aqui vem a parte mais deprimente. De acordo com o Washington Post , há um mercado pronto de pais ansiosos para permitir que a "inteligência artificial avançada" viole a privacidade e a dignidade das babás, de modo que elas possam reduzir os candidatos a um único resultado.

Mas Diana Werner, mãe de dois filhos que mora ao norte de São Francisco, disse acreditar que as babás devem estar dispostas a compartilhar suas informações pessoais para ajudar na tranquilidade dos pais.

"Uma verificação de antecedentes é boa, mas o Predictim entra em profundidade, realmente dissecando uma pessoa – seu status social e mental", disse ela.

Onde ela mora, “100% dos pais vão querer usar isso”, acrescentou ela. "Todos nós queremos a babá perfeita."

“A babá perfeita” parece um título de filme de terror. E isso é bastante apropriado, considerando que os psicopatas provavelmente não teriam muita dificuldade em fabricar aquela aparência saudável de bondade em algumas contas de mídia social falsas.

Mas vou desculpar a Sra. Werner. Talvez ela não esteja no ramo de tecnologia. Quando Musk e Hawking acenam freneticamente sobre como a Grande IA vai nos tornar escravos tão cedo que precisamos de legislação de emergência sobre isso, não posso culpar as pessoas por pensarem que já é bom o suficiente avaliar a personalidade de uma babá.

Eu tenho muito mais dificuldade em desculpar tecnólogos que realmente deveriam saber melhor. Aqui está Chis Messina endossando a ideia de que todos os pais devem usar o Predictim ou algo semelhante, MESMO SE NÃO TRABALHAR:

Como eu disse, o apocalipse AI já começou. A corneta explodiu, e pais como Ms Werner e Mr Messina estão ansiosos para entrar em qualquer invasão monstruosa de privacidade e dignidade exigida pela Grande IA na Nuvem.

Mas não é tarde demais para revidar. Ao contrário de quando a Skynet um dia pode assumir, na verdade temos todas as vantagens na luta de hoje. Podemos optar por rejeitar, regular e ridicularizar quando os algoritmos da marca AI se voltam contra nossa natureza melhor. O progresso não é uma linha reta, e há muitos becos sem saída no caminho.

A Grande IA na Nuvem ainda não é um ser onisciente, e devemos absolutamente questionar como ela funciona em todas as suas formas misteriosas. As chances são boas de que, quando o fizermos, vemos que são apenas dois elásticos de ética questionável que juntam quatro latas de besteira.