O viés de aprendizado de máquina não é uma questão partidária

Jordan Harrod em Ciência + Comunicação + Política Seguir Jan 24 · 3 min ler

Na terça-feira, um vídeo de Alexandria Ocasio-Cortez discutindo preconceitos em aprendizado de máquina percorreu o Twitterverso. Especificamente, ela disse que “[Algoritmos] sempre têm essas desigualdades raciais que são traduzidas, porque os algoritmos ainda são feitos por seres humanos”.

Ocasio-Cortez é um dos primeiros políticos a destacar no cenário nacional a importância das questões de justiça e preconceito no desenvolvimento de algoritmos de aprendizado de máquina. O desafio da governança da IA continua a afetar a indústria e a academia. Sem soluções de longo prazo, uma tecnologia que seria historicamente regulada pelo governo é, em vez disso, regulada pela pressão dos pares. Para aqueles dentro da comunidade de aprendizado de máquina, as declarações de Ocasio-Cortez podem ter parecido uma oportunidade de se envolver com legisladores e moldar a legislação sobre uma questão que atualmente tem e continuará a ter impactos sociais significativos.

Exceto que suas declarações não foram enquadradas como uma meta legislativa para um Congresso bipartidário.

O vídeo de tendências, no qual Ocasio-Cortez discute o viés de aprendizado de máquina, foi compartilhado por Ryan Saavedra, repórter do Daily Wire. O trabalho passado de Saavedra tem sido crítico para Ocasio-Cortez, com ledes incluindo “Ocasio-Cortez usa um termo sexual violento para descrever sua agenda de extrema-esquerda”, “Ocasio-Cortez reivindica o 'Partido Republicano' acha que a dança era 'escandalosa' Mentindo ”, e, mais ou menos na mesma época que seu tweet,“ AOC ENROLAMENTOS: O mundo poderia terminar em 12 anos, os algoritmos são racistas, o hiper-sucesso é ruim. "

Essa perspectiva crítica foi traduzida em seu tweet, que emoldurava a questão de combater o viés da aprendizagem de máquina como socialista em um tom que poderia ser descrito como irrisório. Preocupações sobre enquadrar o viés de aprendizado de máquina como uma questão “liberal” surgiram logo depois.

Sejamos claros: Combater a justiça e o preconceito na aprendizagem de máquina não é socialista. Não é democrata. Não é republicano. É político, porque a governança da AI provavelmente exigirá uma ação legislativa por parte do governo federal e / ou agências governamentais.

Em outras palavras, não é uma questão partidária.

Nós já percorremos esse caminho antes. A mudança climática costumava ser uma questão bipartidária até meados da década de 1990, quando o lobby da indústria conseguiu criar dois lados em uma questão em que há apenas um . Os cientistas do conselho consultivo científico da Agência de Proteção Ambiental foram substituídos por conselheiros do setor que minimizaram as ligações entre a poluição do ar e a saúde pública . Sob um presidente republicano e um Congresso liderado pelos republicanos, vimos extensas reversões na política ambiental, incluindo a retirada dos EUA do Acordo Climático de Paris, que prejudicou nossa capacidade de limitar os efeitos das mudanças climáticas na saúde pública e no meio ambiente.

Se for permitido continuar sendo usado no público, o viés no aprendizado de máquina pode ser similarmente catastrófico para populações em risco. A evidência já está aqui – de previsões tendenciosas de taxas de reincidência para classificar incorretamente mulheres negras como gorilas, para usos potencialmente maliciosos de falsificações profundas para reidentificação de pessoas individuais de dados de saúde anônimos . Se o aprendizado de máquina tendencioso for mais integrado em nossas vidas diárias, as comunidades marginalizadas pagarão o preço.

Alguns podem argumentar que é apenas um tweet compartilhado por uma pessoa. Exceto que não é assim que as mídias sociais sempre funcionam. A hiperconectividade 24 horas por dia, 7 dias por semana contribuiu para o esgotamento geracional e para um crescimento profundamente preocupante da divisão partidária . Não é fácil prever se uma ideia na mídia social vai fracassar ou se tornar uma das questões definidoras de uma época.

Neste momento, precisamos de todos os lados – desenvolvedores, especialistas em ética, teóricos, cientistas, médicos, historiadores, republicanos, democratas e todos os que estão entre todos os grupos geográficos e socioeconômicos – para chegar à mesa e começar a tomar decisões sobre governança de IA. . Essas decisões serão difíceis e revelarão os preconceitos que compõem cada um de nós. Adicionando partidarismo na equação só irá garantir que mais pessoas sofrem no processo.