AI vai matar a mídia social como a conhecemos

Ross Mayfield em NewCo Shift Segue 23 de fev · 4 min ler

A maneira como o Open.ai divulgou os resultados de suas pesquisas recentes foi para nos assustar, e funcionou. O gerador de texto de AI que é muito perigoso para tornar público fornece exemplos onde com muito pouca entrada, texto é gerado que é indistinguível se não melhor do que a qualidade da escrita. O código não foi liberado para ser inspecionado e usado por outras pessoas, mas é provável que os modelos comparáveis estejam nas mãos dos outros em breve. Se não já.

Mensagens automatizadas estão chegando às mídias sociais, e se a mídia social quiser sobreviver, certamente não estará em sua forma atual.

Há um ditado, sempre aposta no texto como o melhor meio de comunicação social. E muitos têm. Redes sociais, mídias sociais, resenhas da Amazon e do Yelp e muitas outras mídias usam o texto como base para seu valor. Mas o que acontece quando o custo para produzir uma mensagem que parece autêntica cai para zero?

Todas as apostas estão encerradas.

A filósofa e pesquisadora italiana do CNRS Gloria Orrigi observa que, como a informação quer ser livre e, portanto, abundante, estamos mudando nossa relação com o conhecimento para confiar na reputação :

Estamos passando por uma mudança fundamental de paradigma em nossa relação com o conhecimento. A partir da "era da informação", estamos caminhando para a "idade da reputação", na qual a informação terá valor somente se já estiver filtrada, avaliada e comentada por outras pessoas. Visto sob essa luz, a reputação tornou-se um pilar central da inteligência coletiva hoje. É o guardião do conhecimento, e as chaves do portão são mantidas por outros. A maneira pela qual a autoridade do conhecimento é agora construída nos torna dependentes de quais são os julgamentos inevitavelmente tendenciosos de outras pessoas, a maioria das quais não sabemos.

Ela sugere que uma chave é ajudar as pessoas a discernir os caminhos da reputação .

O que um cidadão maduro da era digital deve ser competente não está detectando e confirmando a veracidade das notícias. Em vez disso, ela deve ser competente para reconstruir o caminho da reputação da informação em questão, avaliar as intenções daqueles que a circularam e descobrir as agendas dessas autoridades que lhe dão credibilidade.

Conhecemos a necessidade de alfabetização em mídias sociais desde o início. A pesquisa e o livro de Howard Rheingold, Net Smart, resume-o a cinco literacias: atenção, participação, colaboração, consumo crítico de informação (ou “detecção de lixo”) e inteligência de rede. O problema é que a alfabetização não é distribuída amplamente. E o que Hemingway chamou de Crap Detection está prestes a se tornar muito difícil, se não caro.

Nos primórdios das redes sociais e redes sociais, tivemos Bots & Fakesters, às vezes por diversão. Quando o Friendster baniu os Fakesters até que eles pudessem monetizá-los, o Tribe.net os adotou, a identidade real foi perdida como uma potencial mídia social primitiva. Fakesters se tornou um recurso, não um bug.

E você poderia dizer quando o conteúdo estava sendo gerado automaticamente. A mangueira de fogo falsa sobrecarregaria o alimento. E à medida que os interesses comerciais e políticos começaram a mergulhar na liquidez da atenção, o astroturfing era facilmente discernível. Como com o spam, os ataques tornaram-se mais sofisticados, e as plataformas sociais relacionaram-se com os Fakesters e as boas intenções de não censurar levaram a contramedidas desanimadas. As plataformas assumiram posições neutras como transportadoras comuns até os russos nos acordarem.

Isso aconteceu mesmo quando se reconheceu que o conteúdo era o objeto para impulsionar o crescimento da rede social. As redes sociais tornaram-se menos conversacionais, pelo que você está fazendo? para o que está acontecendo? no Twitter como uma coisa.

A mudança para o conteúdo carregada aumentou a personalização e as recomendações, incluindo casos horríveis, como quando os algoritmos pensam que você quer morrer (“As plataformas de mídia social não apenas hospedam esse conteúdo problemático, elas acabam recomendando para as pessoas mais vulneráveis a ele. ”). As plataformas têm algumas mudanças sérias para determinar como elas são segmentadas e filtradas, e algumas fizeram movimentos louváveis .

Com o conteúdo vieram seus proprietários tradicionais, que ganharam a arma DMCA Takedown Notice para que as plataformas sempre cumpram rapidamente.

A situação toda parece frívola e absurda, mas na verdade nos fala bastante sobre como a internet funciona e as maneiras pelas quais as pessoas armam a lei de direitos autorais para censurar, esconder coisas que eles preferem foram esquecidas, ou ameaçam outros.

Estou compartilhando esse estranho exemplo para destacar que as regulamentações também não acompanham essa mudança. Este ano, nos EUA, provavelmente teremos uma boa proteção de privacidade pessoal (em algum lugar entre a UE e a Califórnia) para nossos dados. Isso pode, em parte, nos proteger contra o direcionamento de terceiros de mensagens automáticas.

Mas hiper-targeting é uma arma da última guerra, e mensagens automáticas podem significar uma nova frente. E se você puder segmentar alguém sem um perfil comportamental robusto e, em vez disso, simplesmente contra-enviar mensagens. Em poucos anos, todos nós teremos nossos próprios trolls pessoais, munidos de mensagens automatizadas. Conversando conosco por extenso autenticamente, inicialmente assistido pelo operador, e logo a entrada de nossas opiniões e perguntas será suficiente.

Essa segmentação, btw, não precisa da identidade real que as redes sociais não têm de qualquer maneira (salve, LinkedIn). Há regulamentações para multa astrônomos , mas de maneira alguma a fiscalização pode acompanhar o ataque, o que pode até ser bom se você acredita na 1a Emenda.

Neste novo mundo covarde, a contra-medida pode estar dando às pessoas as ferramentas para se defenderem. Plataformas que fornecem o caminho para mensagens automatizadas devem ser responsáveis por revelar seus caminhos de reputação. E talvez o Open.ai deva lançar os modelos para que os fabricantes de ferramentas possam capacitar as pessoas a criar suas próprias mensagens automatizadas. Assim, você pode responder aos seus trolls personalizados pessoalmente com a mesma conveniência que eles têm.

Os comentários estão abertos e eu, por exemplo, os recebo.