Antecipando Pressões de Mercado, Aquisições e Hacks

Proteger contra usos indesejáveis de dados

IDEO Blocked Unblock Seguir Seguindo 12 de dezembro de 2018

Isso faz parte de uma série para provocar diálogo e fornecer meios concretos para ajudar as equipes a construir e projetar sistemas inteligentes de maneira ética. Leia nossa introdução.

Conhecimento é poder. Você pode coletar informações sobre pessoas e comunidades, pretendendo usá-las para seu benefício. Mas, em algum momento, outros podem ter menos intenções benignas de usar a mesma informação. Forças competitivas, incentivos desalinhados, parceiros externos, aquisições hostis e falências podem despir o objetivo original e a intenção de um projeto. As equipes mudam, os pivôs da estratégia corporativa e os dados podem ser emprestados ou vendidos a outros agentes, grupos e empresas. É por isso que devemos sempre projetar para nos proteger de possíveis danos futuros.

Para isso, articule os cenários de melhor e pior caso de como seus dados podem ser reutilizados por outras pessoas de maneira diferente do que foi originalmente pretendido. Em seguida, determine o que, se for o caso, você pode fazer agora para evitar possíveis problemas mais tarde.

Atividades para tentar

_Imagine que seu banco de dados é invadido. Ou a sua empresa está sujeita a uma aquisição hostil. Ou que seus ativos de dados sejam colocados à venda após uma falência. Listar algumas empresas, governos, pessoas ou grupos que podem tentar usar esses ativos de dados – para bons propósitos e para o mal. Para que eles podem usar os dados? Como poderia ser usado de forma destrutiva? Como você pode alterar os dados coletados, como são armazenados ou estruturados para evitar essas possíveis consequências?

_Lista de quais dados, se houver algum, devem ser excluídos, protegidos, limitados ou especialmente administrados em seu serviço. Como você pode conseguir isso sem comprometer a intenção benéfica do seu design? Por exemplo, seria fácil anonimizar os nomes das pessoas para dificultar a referência cruzada com outras fontes? Você também pode querer conversar com um especialista em segurança da informação interna ou externa para explorar as melhores proteções disponíveis.

Vinheta do projeto

Na primavera de 2018, a cidade de Chicago lançou o CityKey , um cartão único que poderia servir como um cartão de identificação, um cartão de biblioteca e um cartão de transporte público. O cartão foi projetado especificamente para residentes de Chicago que, de outra forma, poderiam ter dificuldade em adquirir uma carteira de motorista ou uma carteira de identidade – incluindo imigrantes indocumentados. Ao projetar os processos de negócios e as políticas de retenção de dados da CityKey, o escritório da prefeitura da cidade queria evitar a experiência que a cidade de Nova York enfrentou com seu próprio cartão IDNYC. A cidade de Nova York teve que ir ao tribunal federal para proteger as informações pessoais contidas em seu banco de dados de candidatos, que a administração Trump procurou usar em conexão com atividades de deportação e imigração.

A funcionária da prefeitura de Chicago, Anna Valencia, trabalhou em parceria com a então diretora de tecnologia da cidade, Brenna Berman, para proteger o banco de dados de candidatos. De acordo com Berman, “Ao projetar o sistema Chicago CityKey para exigir e capturar apenas dados viáveis mínimos, o programa protege a privacidade dos residentes vulneráveis enquanto fornece os serviços de que precisam. É um recurso de design crítico apenas coletar as informações mais básicas necessárias para operar o CityKey, e nada mais. ”Ao contrário do programa de Nova York, o banco de dados CityKey de Chicago não retém imagens de quaisquer documentos enviados pelos candidatos nem qualquer informação pessoal sobre os detentores do CityKey.

Explore as outras postagens desta série: