Algo está errado na internet

Eu sou James Bridle . Sou escritor e artista preocupado com tecnologia e cultura. Eu costumo escrever no meu próprio blog, mas francamente eu não quero o que estou falando aqui em qualquer lugar perto do meu próprio site. Por favor, seja avisado: este ensaio descreve coisas perturbadoras e links para conteúdo gráfico e vídeo perturbador. Você não precisa lê-lo e é aconselhado a tomar cuidado ao explorar mais.

Como alguém que cresceu na internet, eu o credito como uma das influências mais importantes sobre quem eu sou hoje. Eu tinha um computador com acesso à internet no meu quarto a partir dos 13 anos. Isso me deu acesso a muitas coisas que eram totalmente inapropriadas para um adolescente, mas tudo bem. A cultura, a política e as relações interpessoais, que considero centrais para a minha identidade, foram moldadas pela internet, de maneiras que sempre considerei benéficas para mim pessoalmente. Sempre fui um defensor crítico da Internet e de tudo o que ela trouxe e, em geral, considerei-a emancipatória e benéfica. Declaro isso desde o início porque pensar nas implicações do problema que vou descrever preocupa meus próprios pressupostos e preconceitos de maneiras significativas.

Uma das questões hipotéticas até agora que eu me pergunto frequentemente é como eu me sentiria sobre meus filhos terem o mesmo tipo de acesso à internet hoje. E acho a pergunta cada vez mais difícil de responder. Eu entendo que esta é uma evolução natural de atitudes que acontece com a idade, e em algum momento esta questão pode ser muito menos hipotética. Eu não quero ser hipócrita sobre isso. Eu gostaria que meus filhos tivessem as mesmas oportunidades de explorar e crescer e se expressar como eu. Eu gostaria que eles tivessem essa escolha. E essa crença se amplia em atitudes sobre o papel da internet na vida pública como um todo.

Também estou ciente, há algum tempo, da relação cada vez mais simbiótica entre crianças mais novas e o YouTube. Eu vejo crianças absortas em telas o tempo todo, em carrinhos de bebê e em restaurantes, e há sempre uma pontada de ludita lá, mas eu não sou pai, e não estou fazendo julgamentos dos pais para ou sobre qualquer outra pessoa. Eu vi os membros da família e os filhos de amigos conectados em Peppa Pig e vídeos de rimas, e isso os faz felizes e dá a todos uma folga, então tudo bem.

Mas eu nem tenho filhos e agora eu só quero queimar tudo.

Alguém, algo ou alguma combinação de pessoas e coisas está usando o YouTube para sistematicamente assustar, traumatizar e abusar de crianças, automaticamente e em escala, e isso me força a questionar minhas próprias crenças sobre a Internet, em todos os níveis. Muito do que vou descrever a seguir foi abordado em outro lugar, embora nenhuma das principais coberturas que vi tenha realmente compreendido as implicações do que parece estar ocorrendo.

Para começar: o YouTube do Kid é definitivamente e muito estranho. Eu tenho consciência de sua estranheza por algum tempo. No ano passado, foram publicados vários artigos sobre a mania do Surprise Egg. Vídeos de ovos de surpresa retratam, muitas vezes a um comprimento excruciante, o processo de desembrulhar Kinder e outros brinquedos de ovo. É isso aí, mas as crianças são cativadas por eles. Existem milhares e milhares desses vídeos e milhares e milhares, senão milhões, de crianças que os assistem.

Do artigo ligado acima :

O criador dos meus vídeos favoritos é o “ Blu Toys Surprise Brinquedos & Juegos ” e, desde 2010, ele já acumulou 3,7 milhões de assinantes e pouco menos de 6 bilhões de visualizações para um canal voltado para crianças dedicado inteiramente à abertura de ovos surpresa e brinquedos sem caixa. Os títulos de vídeo são um padrão contínuo de linhas de marca obscuras e tie-ins: "Surprise Play Doh Ovos Peppa Pig Stamper Carros Pocoyo Minecraft Smurfs Kinder Jogar Doh Sparkle Brilho ", " Carros Screamin 'Banshee Eats Relâmpago McQueen Disney Pixar ", " Disney Baby Pop Sur Pals Easter Eggs SURPRISE . ”

Enquanto escrevo isso, ele fez um total de 4.426 vídeos e contou. Com tantos pontos de vista – para comparação, o canal oficial de Justin Bieber tem mais de 10 bilhões de visualizações, enquanto a celebridade do YouTube em tempo integral PewDiePie tem quase 12 bilhões – é provável que esse homem ganhe a vida como um par de mãos gentis que desembrulham os ovos Kinder. Todos os vídeos de surpresa são acompanhados por anúncios precedentes e, às vezes, por meio de vídeos e anúncios.

Isso deve lhe dar uma idéia de quão estranho é o mundo dos vídeos on-line de crianças, e essa lista de títulos de vídeos sugere a extraordinária variedade e complexidade dessa situação. Nós vamos entrar no último em um minuto; por enquanto sei que já é muito estranho, se aparentemente bastante inofensivo, lá fora.

Outro grande tropo, especialmente as crianças mais novas, são vídeos de rimas infantis.

Little Baby Bum , que fez o vídeo acima, é o 7º canal mais popular do YouTube. Com apenas 515 vídeos, eles acumularam 11,5 milhões de assinantes e 13 bilhões de visualizações. Mais uma vez, há dúvidas quanto à precisão desses números, o que eu entro em breve, mas o ponto principal é que essa é uma enorme e enorme rede e indústria.

O vídeo sob demanda é catapulta para pais e filhos e, portanto, para criadores de conteúdo e anunciantes. Crianças pequenas são hipnotizadas por esses vídeos, sejam personagens e músicas familiares, ou simplesmente cores brilhantes e sons suaves. A duração de muitos desses vídeos – uma tática de vídeo comum é reunir muitos episódios infantis ou de desenhos animados em compilações de uma hora – e a maneira como essa duração é comercializada como parte do apelo do vídeo indica a quantidade de tempo com que as crianças passam eles.

As emissoras do YouTube, portanto, desenvolveram um grande número de táticas para chamar a atenção de pais e filhos para seus vídeos e as receitas de publicidade que os acompanham. A primeira dessas táticas é simplesmente copiar e piratear outros conteúdos. Uma busca simples por "Peppa Pig" no YouTube rendeu "Cerca de 10.400.000 resultados" e a primeira página é quase inteiramente do verificado "Peppa Pig Official Channel", enquanto uma é de um canal não verificado chamado Play Go Toys , que você realmente não notaria a menos que você estivesse procurando por ele:

O canal Play Toys ' consiste em (eu acho?) Pirataria Peppa Pig e outros desenhos animados, vídeos de unboxings de brinquedos (outro ímã infantil) e vídeos de, supõe-se, os próprios filhos do dono do canal. Eu não estou alegando nada de ruim sobre a Play Go Toys; Eu estou simplesmente ilustrando como a estrutura do YouTube facilita a delaminação de conteúdo e autor, e como isso impacta na nossa consciência e confiança de sua fonte.

Como outro blogueiro observa , uma das funções tradicionais do conteúdo de marca é que é uma fonte confiável. Seja Peppa Pig na TV infantil ou em um filme da Disney, qualquer que seja o sentimento sobre o modelo industrial de produção de entretenimento, eles são cuidadosamente produzidos e monitorados para que as crianças sejam seguramente assistidas, e podem ser confiáveis ??como tais . Isso não se aplica mais quando a marca e o conteúdo são desassociados pela plataforma, e o conteúdo conhecido e confiável fornece um gateway ininterrupto para conteúdo não verificado e potencialmente prejudicial.

(Sim, este é exatamente o mesmo processo que a delaminação de mídia confiável nos feeds do Facebook e nos resultados do Google que está atualmente causando tanta confusão em nossos sistemas cognitivos e políticos e eu não vou explorar explicitamente esse relacionamento mais aqui, mas é obviamente profundamente significativo.)

Uma segunda maneira de aumentar os hits nos vídeos é através da associação de palavras-chave / hashtag, que é uma arte toda escura em si mesma. Quando algumas tendências, como os vídeos do Surprise Egg, atingem uma massa crítica, os produtores de conteúdo acumulam esse conteúdo, criando milhares e milhares desses vídeos em todas as iterações possíveis. Esta é a origem de todos os nomes estranhos na lista acima: conteúdo de marca e títulos de rima de berçário e “ovo surpresa”, todos recheados na mesma salada de palavras para capturar resultados de pesquisa, posicionamento da barra lateral e rankings de autoplay “up next”.

Um exemplo notável da estranheza são os vídeos da Família Finger (exemplos inofensivos incorporados acima). Eu não tenho ideia de onde eles vieram ou da origem da rima das crianças no centro do tropo, mas há pelo menos 17 milhões de versões disso atualmente no YouTube, e novamente eles cobrem todos os gêneros possíveis, com bilhões e bilhões de palavras agregadas visualizações.

Mais uma vez, os números de visualização desses vídeos devem ser tomados sob séria assessoria. Um grande número desses vídeos é essencialmente criado por bots e visto por bots, e até mesmo comentado por bots. Esse é um mundo totalmente estranho em si mesmo. Mas não deve obscurecer que também haja muitas crianças reais, conectadas a iphones e tablets, observando-as repetidas vezes – em parte explicando os números inflados de visualizações – aprendendo a digitar termos básicos de pesquisa no navegador ou simplesmente mesclando barra lateral para abrir outro vídeo.

O que eu acho um tanto perturbador sobre a proliferação de vídeos infantis (relativamente) normais é a impossibilidade de determinar o grau de automação que está em ação aqui; como analisar a lacuna entre o humano e a máquina. O exemplo acima, de um canal chamado Bounce Patrol Kids , com quase dois milhões de inscritos, mostra esse efeito em ação. Ele publica vídeos produzidos profissionalmente, com atores humanos dedicados, a uma taxa de cerca de um por semana. Mais uma vez, eu não estou alegando nada de desagradável sobre o Bounce Patrol, que segue claramente os passos das sensações pré-digitais de crianças como seus companheiros australianos The Wiggles .

E, no entanto, há algo de estranho em um grupo de pessoas agindo infinitamente sobre as implicações de uma combinação de palavras-chave geradas por algoritmos: “Halloween Finger Family e mais músicas de Halloween para crianças | Kids Halloween Songs Collection ”,“ Canção da Família Australian Finger Animals | Dedo Family Nursery Rhymes ”,“ Farm Animals Finger Family e mais músicas de animais | Coleta da família do dedo – aprenda sons dos animais ”,“ canção da família do dedo dos animais do safari | Elefante, Leão, Girafa, Zebra e Hipopótamo! Animais selvagens para crianças ”,“ Família de dedos de super-heróis e mais músicas de família de dedos! Colecção da família do dedo do super-herói ”,“ Batman Finger Family Song – super-heróis e vilões! Batman, Joker, Riddler, Catwoman ”e assim por diante. Esta é a produção de conteúdo na era da descoberta algorítmica – mesmo que você seja um humano, você tem que acabar representando a máquina.

Outros canais dispensam os atores humanos para criar infinitas versões reconfiguráveis ??dos mesmos vídeos repetidas vezes. O que está ocorrendo aqui é claramente automatizado. Animações de estoque, faixas de áudio e listas de palavras-chave sendo montadas aos milhares para produzir um fluxo interminável de vídeos. O canal acima, Videogyan 3D Rhymes – Nursery Rhymes e Baby Songs , publica vários vídeos por semana, em combinações cada vez mais bizantinas de palavras-chave. Eles têm quase cinco milhões de assinantes – mais do que o dobro de Bounce Patrol -, embora mais uma vez seja impossível saber quem ou o que realmente está acumulando esses milhões e milhões de visualizações.

Eu estou tentando não transformar este ensaio em uma lista interminável de exemplos, mas é importante entender o quão vasto é este sistema e como indeterminado suas ações, processo e público. Também é internacional: existem variações dos vídeos Finger Family e Learn Colors para os épicos Tamil e os malucos da Malásia, que provavelmente não aparecerão em nenhum resultado de pesquisa anglófona. Essa indeterminação e alcance são fundamentais para sua existência e suas implicações. Sua dimensionalidade dificulta a compreensão ou até mesmo a reflexão.

Encontramos exemplos bastante claros dos resultados perturbadores da automação total antes – alguns dos quais foram agradavelmente levados com um tipo sombrio de humor, outros nem tanto. Muito tem sido feito do cruzamento algorítmico de bibliotecas de fotos e produção sob demanda de tudo, desde camisetas a canecas de café, macacões infantis e capas de telefones celulares. O exemplo acima, disponível até recentemente na Amazon, é um desses casos, e a história de como isso aconteceu é fascinante e esquisita, mas essencialmente compreensível . Ninguém se propôs a criar capas de telefone com drogas e equipamentos médicos, era apenas um resultado matemático / probabilístico profundamente estranho. O fato de que demorou um pouco para perceber pode tocar alguns alarmes no entanto.

Da mesma forma, o caso da camiseta “Mantenha a calma e o estupro” (junto com os “Mantenha a calma e a faca” e “Mantenha a calma e acerte”) é deprimente e angustiante, mas compreensível. Ninguém se propôs a criar essas camisetas: elas apenas emparelhavam uma lista não verificada de verbos e pronomes com um gerador de imagens online. É bem possível que nenhuma dessas camisas tenha existido fisicamente, tenha sido comprada ou usada e, portanto, que nenhum dano tenha sido causado. Mais uma vez, porém, as pessoas que criaram este conteúdo não perceberam e nem o distribuidor. Eles literalmente não tinham ideia do que estavam fazendo.

O que vou argumentar, com base nesses casos e naqueles que vou descrever mais adiante, é que a escala e a lógica do sistema são cúmplices nesses resultados e exigem que pensemos em suas implicações.

(Novamente, novamente: não vou investigar as implicações sociais mais amplas de tais processos fora do escopo do que estou escrevendo aqui, mas está claro que é possível traçar uma linha clara a partir de exemplos como esses para pressionar questões contemporâneas como como preconceito racial e de gênero em sistemas de big data e sistemas baseados em inteligência de máquina, que requerem atenção urgente, mas da mesma maneira não têm nada que se pareça com soluções fáceis ou mesmo preferíveis.)

Vamos ver apenas um vídeo entre as pilhas de vídeos infantis e tentar descobrir de onde vem. É importante ressaltar que não tentei encontrar esse vídeo em particular: ele apareceu organicamente e altamente classificado em uma pesquisa por "família de dedos" em uma janela do navegador anônima (ou seja, ele não deveria ter sido influenciado por pesquisas anteriores). Esta automação nos leva a lugares muito, muito estranhos, e neste ponto o rabino é tão profundo que é impossível saber como tal coisa surgiu.

Mais uma vez, um aviso de conteúdo: este vídeo não é inadequado de forma alguma, mas está decididamente desligado e contém elementos que podem incomodar alguém. É muito leve na escala de tais coisas, mas. Eu descrevo abaixo se você não quiser assistir e seguir por essa estrada. Esse aviso será recorrente.

O vídeo acima é intitulado Wrong Heads Orelhas Erradas da Disney Pernas Erradas Crianças Aprendem Cores Rimas Infantis 2017 Rimas Infantis . O título sozinho confirma sua proveniência automatizada. Eu não tenho ideia de onde o tropo de “Wrong Heads” se origina, mas posso imaginar, como com a Finger Family Song, que em algum lugar há uma versão totalmente original e inofensiva que fez muitas crianças rirem e começarem a subir no ranking algorítmico até entrou na lista de saladas de palavras, combinando com Learn Colors, Finger Family e Nursery Rhymes, e todos esses tropos – não meramente como palavras, mas como imagens, processos e ações – para serem misturados com o que vemos aqui.

O vídeo consiste em uma versão regular da música Finger Family, reproduzida em uma animação de cabeças de personagens e corpos do Aladdin da Disney, trocando e cruzando. Mais uma vez, isso é estranho, mas francamente não mais do que os vídeos Surprise Egg ou qualquer outra coisa que as crianças assistam. Eu entendo como isso é inocente. A ofensiva se arrasta com a aparência de um personagem não-Aladdin – Agnes, a garotinha de Despicable Me. Agnes é o árbitro da cena: quando as cabeças não combinam, ela chora, quando o fazem, ela aplaude.

O criador do vídeo, BABYFUN TV (imagem acima), produziu muitos vídeos semelhantes. Como muitos dos vídeos do Wrong Heads, eu pude assistir todos os trabalhos exatamente da mesma maneira. O personagem Hope from Inside Out chora por uma troca de cabeças de Smurfs e Trolls . Isso continua e continua. Eu recebo o jogo, mas a constante sobreposição e mistura de tropos diferentes começa a entrar em você. A BABYFUN TV tem apenas 170 assinantes e taxas de visualização muito baixas, mas existem milhares e milhares de canais como este. Os números na cauda longa não são significativos no abstrato, mas no seu acúmulo.

A questão é: como isso aconteceu? O tropo "Bad Baby" também presente na BABYFUN TV apresenta o mesmo choro. Embora eu ache isso perturbador, posso entender como isso pode fornecer um pouco do ritmo, da cadência ou da relação com sua própria experiência que os bebês reais são atraídos nesse conteúdo, embora tenha sido distorcido e esticado por repetição algorítmica e recombinação de maneiras que Eu não acho que alguém realmente queira acontecer.

Captura de tela do canal Toy Freaks

[ Edit, 21/11/2017 : Após a publicação deste artigo, o canal Toy Freaks foi removido pelo YouTube como parte de uma ampla remoção de conteúdo contencioso .]

Toy Freaks é um canal extremamente popular ( 68º na plataforma ) que apresenta um pai e suas duas filhas jogando – ou, em alguns casos, talvez originando – muitos dos tropes que identificamos até agora, incluindo “Bad Baby”, (anteriormente incorporado acima). Além das rimas infantis e das cores de aprendizagem, a Toy Freaks é especializada em situações extravagantes, bem como atividades que muitos, muitos espectadores sentem que são vítimas de abuso e exploração, se não cruzarem completamente a linha, incluindo vídeos de crianças vomitando e sentindo dor . Toy Freaks é um canal verificado no YouTube, seja lá o que isso signifique. (Acho que sabemos agora que não significa nada útil .)

Tal como acontece com Bounce Patrol Kids, no entanto, você sente sobre o conteúdo desses vídeos, parece impossível saber onde a automação começa e termina, quem está chegando com as idéias e quem está interpretando-as. Por sua vez, a amplificação de tropos em canais populares, liderados por humanos, como Toy Freaks, faz com que eles sejam interminavelmente repetidos em toda a rede, em recombinações cada vez mais estranhas e distorcidas.

Há um segundo nível do que eu estou caracterizando como vídeos liderados por humanos que são muito mais perturbadores do que as atividades mais desagradáveis ??de Toy Freaks e seus parentes. Aqui está um exemplo relativamente leve, mas ainda perturbador:

Um passo além dos vídeos simplesmente pirateados de Peppa Pig mencionados anteriormente são os knock-offs. Estes também parecem estar cheios de violência. Nos vídeos oficiais de Peppa Pig, Peppa de fato vai ao dentista, e o episódio em que ela o faz parece ser popular – embora, confusamente, o que parece ser o episódio real só esteja disponível em um canal não oficial. Na linha do tempo oficial, Peppa é devidamente tranquilizado por um dentista gentil. Na versão acima, ela é basicamente torturada, antes de se transformar em uma série de robôs do Homem de Ferro e executar a dança do Learn Colors. Uma pesquisa por "dentista de porco peppa" retorna o vídeo acima na primeira página, e só fica pior a partir daqui.

[ Edit, 21/11/2017 : o vídeo original citado aqui foi removido como parte da remoção recente do YouTube, embora muitos vídeos semelhantes permaneçam na plataforma.]

Os vídeos perturbadores de Peppa Pig, que tendem a extrema violência e medo, com Peppa comendo seu pai ou bebendo água sanitária , são muito difundidos. Eles formam uma subcultura inteira do YouTube. Muitos são, obviamente, paródias , ou até mesmo sátiras de si mesmos, no estilo bastante comum do tipo ultrajante e deliberadamente ofensivo da internet. Todos os 4chan tropes estão lá, os trolls estão fora, nós sabemos disso.

No exemplo acima, a agência é menos clara: o vídeo começa com uma paródia de Peppa trollish, mas depois sincroniza com o tipo de repetição automatizada de tropes que já vimos. Eu não sei qual campo ele pertence. Talvez seja apenas trolls. Eu espero que seja. Mas eu não penso assim. Trolls não cobrem a interseção de atores humanos e exemplos mais automatizados mais adiante. Eles estão em jogo aqui, mas não são toda a história.

Eu suponho que é ingênuo não ver as versões deliberadas dessa vinda, mas muitas estão tão perto do original, e tão sem indicação – como o exemplo do dentista – que muitas, muitas crianças estão observando-as . Eu entendo que a maioria deles não está tentando atrapalhar as crianças, nem mesmo, mesmo que sejam.

Estou tentando entender por que, tão simples e simplesmente perturbador como é, isso não é uma simples questão de “alguém não vai pensar nas crianças”. Obviamente, este conteúdo é inadequado, obviamente , há maus atores por aí, obviamente , alguns desses vídeos devem ser removidos. Obviamente, isso também levanta questões de uso justo, apropriação, liberdade de expressão e assim por diante. Mas relatos que simplesmente entendem o problema por meio dessa lente não conseguem compreender completamente os mecanismos que estão sendo implantados e, portanto, são incapazes de pensar suas implicações na totalidade e de responder de acordo.

The New York Times, liderando seu artigo em um subconjunto de esta questão “ On YouTube Kids, assustando vídeos Deslize Filtros Passado ”, destaca o uso de caracteres knock-off e rimas em conteúdo perturbador, e enquadra-o como um problema de moderação e legislação. O YouTube Kids, um aplicativo oficial que afirma ser seguro para crianças, mas obviamente não é, é o problema identificado, porque gera de forma errada a confiança nos usuários. Um artigo no tablóide britânico The Sun, " Crianças deixadas traumatizadas depois de clipes do YouTube doentes mostrando personagens de Peppa Pig com facas e armas aparecem no aplicativo para crianças " segue a mesma linha, com uma dose adicional de tecnofobia de direita e farisaísmo. Mas ambas as histórias levam em conta as afirmações do YouTube de que esses resultados são incrivelmente raros e rapidamente removidos: afirmações totalmente refutadas pela proliferação das histórias em si e o crescente número de postagens em mídias sociais, em grande parte por pais preocupados, de onde elas surgem.

Mas, assim como acontece com Toy Freaks, o que me preocupa nos vídeos da Peppa é como as paródias óbvias e até mesmo as imitações mais sombrias interagem com as legiões de produtores de conteúdo algorítmico até que seja completamente impossível saber o que está acontecendo. (“As criaturas do lado de fora olhavam de porco para homem, de homem para porco e de porco para homem novamente; mas já era impossível dizer qual era qual”.)

Bom canal de brinquedos para bebês

Aqui está o que é basicamente uma versão do Toy Freaks produzido na Ásia (imagem acima). Aqui está um da Rússia . Eu realmente não quero mais usar o termo “liderado por humanos” nesses vídeos, embora eles contenham todos os mesmos tropos e pessoas reais atuando neles. Eu não tenho mais ideia do que está acontecendo aqui e eu realmente não quero e estou começando a pensar que esse é o ponto principal. É por isso que estou começando a pensar sobre a deliberação disso tudo. Há muito esforço para fazer isso. Mais do que a receita de spam pode gerar – pode? Quem está escrevendo esses scripts, editando esses vídeos? Mais uma vez, quero enfatizar: isso ainda é muito leve, até engraçado, comparado a muito do que está por aí.

Aqui estão algumas coisas que estão me perturbando:

O primeiro é o nível de horror e violência em exibição. Algumas das vezes é coisa grogue-troll-y; a maior parte do tempo parece mais profunda e mais inconsciente do que isso. A internet tem uma maneira de ampliar e possibilitar muitos dos nossos desejos latentes; na verdade, é o que parece fazer melhor. Eu passo muito tempo defendendo essa tendência, no que diz respeito à liberdade humana sexual, identidade individual, e outras questões. Aqui, e de forma esmagadora às vezes, essa tendência é em si mesma violenta e destrutiva.

O segundo são os níveis de exploração, não de crianças porque são crianças, mas de crianças porque são impotentes. Sistemas automatizados de recompensa, como os algoritmos do YouTube, exigem a exploração da mesma forma que o capitalismo exige exploração, e se você é alguém que se irrita com a segunda metade dessa equação, talvez seja isso que convence sua verdade. A exploração é codificada nos sistemas que estamos construindo, tornando mais difícil de ver, mais difícil de pensar e explicar, mais difícil de combater e defender contra. Não num futuro de senhores e robôs da IA ??nas fábricas, mas aqui mesmo, agora, na sua tela, na sua sala de estar e no seu bolso.

Muitos desses exemplos mais recentes confundem qualquer tentativa de argumentar que ninguém está realmente assistindo a esses vídeos, que todos são bots. Há humanos no circuito aqui, mesmo que apenas no lado da produção, e eu também estou muito preocupado com eles.

Já escrevi demais, mas sinto que realmente preciso justificar toda essa deliração sobre violência e abuso e sistemas automatizados com um exemplo que resume tudo. Talvez depois de tudo o que eu disse, você não pense que é tão ruim. Eu não sei mais o que pensar.

[ Edit, 21/11/2017 : o vídeo original citado aqui foi removido como parte da eliminação recente do YouTube, embora muitos vídeos semelhantes permaneçam na plataforma. O vídeo usou animações da série de jogos Grand Theft Auto sobrepostas com personagens de desenhos animados assaltando, matando e enterrando uns aos outros.]

Este vídeo, BURIED ALIVE Outdoor Playground Dedo Family Song Nursery Rhymes Animação Educação Learning Video , contém todos os elementos que cobrimos acima, e os leva para outro nível. Personagens familiares, tropas de berçário, salada de palavras-chave, automação completa, violência e o próprio material dos piores sonhos das crianças. E, claro, há vastos e vastos números desses vídeos. Canal após canal após canal de conteúdo semelhante, produzido a uma taxa de centenas de novos vídeos a cada semana. Produção de pesadelo industrializado.

Pela última vez: Há mais conteúdo violento e mais sexual como este disponível. Eu não vou ligar para isso. Eu não acredito em traumatizar outras pessoas, mas é necessário continuar estressando, e não descartar o efeito psicológico nos filhos de coisas que não são abertamente perturbadoras para os adultos, apenas incrivelmente escuras e estranhas.

Um amigo que trabalha em vídeo digital descreveu o que seria necessário para fazer algo assim: um pequeno estúdio de pessoas (meia dúzia, talvez mais) produzindo grandes volumes de conteúdo de baixa qualidade para colher a receita publicitária por meio de tropeçar em certos requisitos do produto. sistema (o comprimento em particular parece ser um fator). De acordo com meu amigo, o conteúdo infantil on-line é uma das poucas formas alternativas de ganhar dinheiro com a animação 3D porque os padrões estéticos são mais baixos e a produção independente pode lucrar com a escala. Ele usa conteúdo existente e de fácil acesso (como modelos de personagens e bibliotecas de captura de movimento) e pode ser repetido e revisado incessantemente e na maioria das vezes sem sentido, porque os algoritmos não discriminam – e nem as crianças.

Esses vídeos, onde quer que sejam feitos, no entanto, chegam a ser feitos, e seja qual for sua intenção consciente (ou seja, para acumular receita de anúncios) estão se alimentando de um sistema que foi conscientemente destinado a mostrar vídeos para crianças para o lucro. Os resultados emergentes, gerados inconscientemente, estão em todo lugar.

Expor crianças a este conteúdo é abuso. Não estamos falando sobre os efeitos discutíveis mas indubitavelmente reais da violência em filmes ou videogames sobre adolescentes, ou sobre os efeitos da pornografia ou imagens extremas em mentes jovens, que foram aludidos em minha descrição inicial do meu próprio uso da internet na adolescência. Esses são debates importantes, mas não são o que está sendo discutido aqui. O que estamos falando é de crianças muito pequenas, efetivamente desde o nascimento, sendo deliberadamente direcionadas com conteúdo que as traumatizará e incomodará, através de redes extremamente vulneráveis ??a exatamente essa forma de abuso. Não se trata de trolls, mas de um tipo de violência inerente à combinação de sistemas digitais e incentivos capitalistas. É para esse nível do metal.

Isso, eu acho, é o meu ponto: o sistema é cúmplice no abuso.

E agora, bem aqui, o YouTube e o Google são cúmplices nesse sistema. A arquitetura que eles construíram para extrair a receita máxima do vídeo online está sendo invadida por pessoas desconhecidas para abusar de crianças, talvez nem mesmo deliberadamente , mas em escala maciça. Acredito que eles têm absoluta responsabilidade de lidar com isso, assim como têm a responsabilidade de lidar com a radicalização de (principalmente) jovens (principalmente) homens através de vídeos extremistas – de qualquer persuasão política. Eles até agora não mostraram absolutamente nenhuma inclinação para fazer isso, o que é em si desprezível. No entanto, uma grande parte da minha resposta conturbada a esse problema é que não tenho idéia de como eles podem responder sem desligar o serviço em si, e a maioria dos sistemas que se assemelham a ele. Nós construímos um mundo que opera em escala, onde a supervisão humana é simplesmente impossível, e nenhuma maneira de supervisão desumana vai contra a maioria dos exemplos que usei neste ensaio. Os apartes que mantenho entre parênteses, se expandidos, permitiriam que, com esforço mínimo, reescrevêssemos tudo o que eu disse, com muito pouco esforço, para não falar sobre abuso infantil, mas sobre nacionalismo branco, sobre ideologias religiosas violentas, sobre notícias falsas, sobre a negação do clima, sobre as conspirações do 11 de setembro.

Este é um período profundamente sombrio, no qual as estruturas que construímos para nos sustentar estão sendo usadas contra nós – todos nós – de maneira sistemática e automatizada. É difícil manter a fé na rede quando produz horrores como esses. Embora seja tentador descartar os exemplos mais loucos como trolling, dos quais um número significativo certamente é, que não leva em conta o grande volume de conteúdo ponderado em uma direção particularmente grotesca. Ele apresenta muitos e complexos perigos, incluindo que, assim como o crescente foco na suposta interferência russa nas mídias sociais, tais eventos serão usados ??como justificativa para maior controle sobre a Internet, aumento da censura, e assim por diante. Isso não é o que muitos de nós querem.

Eu vou parar aqui, dizendo apenas isto:

O que me preocupa não é apenas a violência que está sendo feita às crianças daqui, embora isso me preocupe profundamente. O que me preocupa é que este é apenas um aspecto de um tipo de violência de infra-estrutura sendo feito para todos nós, o tempo todo, e ainda estamos lutando para encontrar uma maneira de até mesmo falar sobre isso, para descrever seus mecanismos e sua ações e seus efeitos. Como eu disse no início deste ensaio: isso está sendo feito por pessoas e por coisas e por uma combinação de coisas e pessoas. A responsabilidade por seus resultados é impossível de atribuir, mas o dano é muito, muito real.

Texto original em inglês.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *