Segurança neste dia e idade

Como as novas tecnologias estão redefinindo seus limites

Kaushik Anand Blocked Unblock Seguir Seguindo 31 de dezembro Foto de Rahul Chakraborty no Unsplash

D esde o início da evolução humana rápida e expansão, a nossa segurança como um indivíduo e como espécie tem sido o fator-chave para as nossas invenções marco. A descoberta do fogo e seu controle era nos proteger de feras e germes de alimentos crus. A invenção da roda era assegurar nossas viagens para que pudéssemos percorrer longas distâncias com menos medo e espírito mais aventureiro. A necessidade de abrigo surgiu de uma necessidade primordial de segurança em termos de permanência de localização. Podemos citar muitos outros exemplos, mas é claro que a segurança de si e / ou da comunidade é o que nos motiva a alcançar o progresso.

Nos dias de hoje, no entanto, a segurança tomou um significado mais sutil e sutil para todos nós. Claro, nós ainda instalamos medidas caras de segurança em nossas casas para proteger nossos objetos de valor e propriedade (a menos, é claro, que você seja Kevin McCallister da série Home Alone ).

Mas, atualmente, a segurança inclui dimensões emocionais e psicológicas, além de padrões legais e éticos. Pessoas eminentes como MKGandhi e Martin Luther King Jr. lutaram pela liberdade e segurança de suas respectivas classes oprimidas. Mesmo agora, temos muitos desfiles para defender e igualar a comunidade LGBT em todo o mundo.

À luz disso, também estamos presenciando o surgimento de novas tecnologias com rápido espaço para expansão como Inteligência Artificial, Aprendizado de Máquina, Blockchain etc. Além disso, estamos testemunhando os efeitos destrutivos da invasão de tecnologia em nossas vidas, como nos dados do Facebook. vazamentos ou o escândalo Cambridge-Analytica.

Nesse cenário, devemos observar como essas tecnologias podem ajudar ou prejudicar nossas noções de segurança, como elas poderiam possivelmente ampliar nossa própria definição de segurança, e algumas idéias pessoais minhas sobre como elas poderiam ser de grande benefício para nós no longo prazo (ou mesmo a curto prazo).

Aviso justo, porém, eu não sou um especialista em nenhuma dessas tecnologias. Eu sou apenas um cara normal, como você, tentando dar sentido a um mundo em rápida mudança, usando meu próprio conhecimento limitado para navegar por esse labirinto.

Inteligência Artificial e Segurança

Foto de Franck V. no Unsplash

Como poderia redefinir a segurança

Hoje em dia, a inteligência artificial está progredindo rapidamente, seja em interações crescentes com o usuário baseadas em experiências passadas (inteligência cognitiva), capacidade de entender o que o usuário está sentindo baseado em estímulos (inteligência emocional) ou em compreender o ambiente externo. adequar a resposta que dá ainda mais (inteligência social).

No entanto, até onde isso pode ir?

À medida que os sistemas de inteligência artificial continuam a atingir os padrões humanos em complexidade, ele começará a desenvolver uma nova forma de segurança, ou seja, a segurança dos programas. E nem estou falando de firewalls e antivírus, em breve envolverá também diretrizes de segurança para robôs. Um exemplo básico são as três leis fundamentais da robótica, concebidas pelo famoso escritor de ficção científica Isaac Asimov e popularizadas pela representação distópica em “Eu, Robô”.

No entanto, tem havido muitos trabalhos e pesquisas escritos sobre o tema 'Ética Robótica'. Por exemplo, uma pesquisa realizada no ano de 2011 pelo Sr. Pawel Lichocki e sua equipe do Laboratório de Algoritmos e Sistemas de Aprendizagem ( LASA ) da EPFL fala sobre o principal problema da ética (quando um robô causa danos) ao descobrir quem é o responsável quando tal incidente acontece, os humanos operando ou os próprios robôs. Mais recentemente, houve uma Conferência Internacional sobre Ética e Padrões Robóticos (ICRES) de 2018, onde os discursos principais foram sobre a criação de um padrão moderno em sistemas de IA, sobre armas autônomas e o futuro da guerra, etc.

Portanto, podemos ver que a Inteligência Artificial pode possivelmente ramificar a definição de segurança para incluir interações homem-robô e robô-robô, o que deve ser feito como uma salvaguarda contra futuros distópicos e uma utilização desfavorável por parte de terceiros anti-sociais.

Como está atualmente ajudando a obter melhor segurança

A AI está encontrando uma ampla variedade de aplicativos em termos de segurança pessoal, bem como detectando possíveis ameaças.

O principal aplicativo para AI nesta esfera é a identificação de possíveis ameaças (que já foram carregadas em seu banco de dados) e a varredura do ambiente externo (como shoppings, parques e outros locais públicos) para identificar, analisar e identificar o suspeito. , agindo assim como uma espécie de ataque preventivo ou contra-ataque em caso de atividade suspeita. Para este efeito, algumas tecnologias já foram desenvolvidas para implementar isso.

A primeira tecnologia é Evolv Edge , desenvolvida pela Evolv Technologies , que usa AI para escanear e traçar o perfil de todas as pessoas que passam por um determinado ponto de verificação de segurança, usando sensores visuais precisos e tecnologia de reconhecimento facial. Uma vez feito isso, para cada indivíduo, o programa de IA verifica-o com seu banco de dados para suspeitos e criminosos e, atualmente, pode identificar ameaças potenciais na proporção de 1 a 2 pessoas por segundo (o que é um processo bastante rápido! )

A segunda tecnologia proeminente é o Deep Sentinel, que oferece um pacote completo de segurança residencial que analisa em tempo real atividades suspeitas, reconhece-as e alerta a polícia, além de alertar o dono da casa através de um aplicativo móvel personalizado. Você pode verificar sobre este sistema de segurança aqui .

Mesmo em propósitos militares, os drones equipados com IA são capazes de escanear um ambiente em busca de ameaças e são capazes de atravessar terrenos difíceis para os humanos alcançarem, aumentando assim o alcance de exércitos para vigilância, reconhecimento e contra-terrorismo. Um bom exemplo é o Hivemind Nova , um drone do tipo quadcopter desenvolvido pela Shield AI, que é acionado pela Hivemind, um aplicativo de aprendizado de máquina sobre o qual falarei mais a respeito na seção Machine Learning.

Como eu acredito que pode ajudar a segurança

Foto por Owen Beard em Unsplash

Um dos principais desafios quando se trata de AI é definir os limites superior e inferior, ou seja, quais são as funções básicas que uma AI deve ser capaz de fazer (que depende da aplicação a ser usada) e até que ponto a IA deve assimilar e interpretar os dados de acordo (o que depende da quantidade de controle que um usuário deseja exercer sobre ele). Esta deve ser a primeira pergunta a ser respondida, na minha opinião, já que respostas válidas específicas para a aplicação ajudarão a mitigar riscos e erros devido a software ou método de operação.

Outra questão crítica que pode ser abordada são os níveis de privacidade que podem ser definidos. Em outras palavras, devemos saber até que ponto a IA pode prever ou observar informações, especialmente quando lidamos com questões delicadas envolvendo pessoas. Por exemplo, mesmo no sistema de segurança residencial, devemos ter certeza de que os dados que o sistema de segurança recebe quando identifica que 'amigos' ou 'parentes' devem ser armazenados não são compartilhados em nenhum servidor externo, para evitar uso indevido por qualquer pessoa. .

Aprendizado de Máquina e Segurança

Foto de Franck V. no Unsplash

Como poderia redefinir a segurança

Atualmente, o Aprendizado de Máquina é levado em sincronia com a Inteligência Artificial quando se trata de operações da vida real ou discussões sobre segurança. E com razão, como os algoritmos de IA precisam de grandes conjuntos de dados para responder efetivamente no campo, o que é facilitado pelo Machine Learning e pelo Big Data.

No entanto, o Machine Learning já transformou a forma como vemos a segurança como um conceito, com o advento dos vazamentos de dados e do escândalo da Cambridge-Analytica. Isso aconteceu em parte porque se encaixou em nossa compreensão intuitiva e interpretação de segurança. Em termos mais simples, nos fez perceber que não estaríamos confortáveis quando algum programa aleatório sabe mais sobre nós do que nós e nos sentiremos inseguros quando o programa usar esses dados para efetivamente alterar as decisões estratégicas de uma maneira particular.

Essa expansão do entendimento também é criticamente importante ao criar algoritmos para fins médicos, já que os registros médicos de uma pessoa devem ser confidenciais entre o paciente e o médico. Isso envolve uma análise minuciosa do que acontece no programa e também a definição de limites para a invasão da segurança de dados médicos do paciente com a finalidade de maior precisão.

Num sentido mais amplo, o Aprendizado de Máquina agora nos fez entender que existe um conceito de 'espaço pessoal' mesmo no domínio da Internet, e que devemos estar atentos à nossa atividade nesse domínio. Pessoalmente, tenho medo de como meus dados estão sendo usados por algum programa de terceiros, mas de uma perspectiva neutra, seria interessante (para dizer o mínimo) ver como isso redefine a forma como vemos o Aprendizado de Máquina como um conceito, e, de fato, como poderíamos / iria ajustar programas para atender nossos propósitos.

Como está atualmente ajudando a obter melhor segurança

Foto de Luca Bravo no Unsplash

A maioria dos aplicativos de aprendizado de máquina em termos de segurança é feita em sincronia com a AI para melhor desempenho do algoritmo. Os algoritmos AI são feitos com uma combinação de aprendizado supervisionado (classificação) e aprendizado não supervisionado (agrupamento) para coleta e interpretação de seu conjunto de dados. No entanto, o conjunto de classificação é mais predominante ao iniciar um algoritmo de IA em seus estágios iniciais. Quando se trata de classificação, a parte supervisionada, existem 4 fases principais:

  1. Uma fase de treinamento , em que um modelo é construído aplicando um classificador a um conjunto de dados de treinamento
  2. Uma fase de validação , onde o analista aplica os dados validados ao modelo para avaliar a precisão
  3. Uma fase de teste , onde este modelo é agora testado usando dados que são novos e NÃO fazem parte das duas fases anteriores e, finalmente,
  4. Uma fase de implantação , onde o modelo suficientemente testado é agora usado em dados novos e inalterados.

Nessas fases, o Machine Learning ajuda imensamente nas fases de treinamento e implantação com o objetivo expresso de coletar dados, melhorando assim a precisão do modelo criado, encurtando assim a duração das fases de validação e teste, levando a um período de execução mais curto.

Além disso, como eu havia mencionado antes, o Aprendizado de Máquina também está sendo usado em aplicações de drones militares, com o exemplo que tomei sendo Hivemind .

Nesse caso, o Hivemind usa sensores visuais para mapear com precisão os ambientes e alimentá-los como dados virtuais para o algoritmo que, por sua vez, armazena os dados e os usa para entender diferentes ambientes, de modo que na próxima vez que for enviado para um terreno desconhecido, digitaliza e analisa com base nas informações anteriores que coletou e aprendeu.

Como eu acredito que pode ajudar a segurança

Embora o Aprendizado de Máquina já seja usado extensivamente, e em conjunto com a IA também, eu acho que ele pode ir além. Existe a possibilidade de que já exista, mas poderíamos usar Big Data e Machine Learning para prever o próximo ataque terrorista, ou a próxima epidemia mundial de saúde.

No entanto, acho que a melhor maneira que o Machine Learning pode nos ajudar é no perfil forense. A aplicação da lei é uma das poucas áreas em que dados completos podem ser obtidos sem medo de perseguição, portanto podemos condensar centenas de milhares de arquivos em dados de evidências forenses em um único algoritmo que pode rastrear e fornecer pistas que nos ajudem a permanecer em dois ou mais. até três passos à frente dos perpetradores de crimes.

A partir de agora, a parte mais importante é resolver a questão da privacidade de dados pessoais em outros campos, como medicina e segurança pública, porque esse é um ponto de vista crucial que precisa ser abordado. Além disso, uma vez feito isso, as leis devem ser promulgadas para impor regras estritas de privacidade tanto ao público quanto às empresas.

Internet das coisas (IoT) e segurança

Foto de Bence ? Boros no Unsplash

Como poderia redefinir a segurança

A IoT teve sua própria parcela de problemas relacionados à segurança, e alguns vazamentos recentes colocaram sérias dúvidas na mente dos consumidores em relação à eficácia dos dispositivos de IoT em manter a segurança. Embora tenha havido relatos não especificados de Alexa do Amazon Echo rindo aleatoriamente (?), Um ataque baseado em IoT aconteceu muito recentemente, quando uma demonstração de produtos inseguros da LocationSmart , uma empresa de dados de geolocalização, permitiu ao usuário procurar a localização de qualquer telefone celular sem fornecer nenhuma credencial de segurança . Isso foi especialmente perigoso, já que todas as principais operadoras de telefonia móvel dos EUA (como Verizon, AT & T, Sprint, T-Mobile, etc.) foram afetadas por esse hack, incluindo algumas operadoras canadenses também .

Então, IoT pode potencialmente quebrar a segurança se nas mãos das pessoas erradas, é bom saber. Mas, a prevenção e a segurança são suficientes? Precisamos olhar para o conceito básico de permitir torradeiras e aspiradores de pó para ter microchips dentro que podem se conectar à Internet e podem ser controlados com o toque de um botão.

Embora eu concorde que teremos nossas vidas mais fáceis e com o toque de um botão, devemos nos preocupar se nosso botão é o único que pode controlar nossos dispositivos, porque a tecnologia que sai de controle poderia levar a acidentes domésticos também, o que é ainda mais alarmante, considerando que os acidentes domésticos resultam na morte de mais de 18.000 pessoas todos os anos , também na América .

Claro, nós não precisamos ser pessimistas, mas pense em seus próprios eletrodomésticos sendo usados para fazer vigilância secreta, que pode ser usada para chantagem ou coisa pior. Portanto, precisamos ser muito cuidadosos, pois a IoT, se usada de maneira incorreta, tem o potencial de criar violações de segurança enormes (ainda que ocultas), cujos danos podem ser irreparáveis.

Como está atualmente ajudando a obter melhor segurança

Foto de Andres Urena no Unsplash

Embora eu tenha mencionado sobre o Deep Sentinel e como ele é considerado um sistema de segurança eficaz para sua casa, IoT como um meio de segurança ainda está em seus estágios iniciais, e a situação é tal que a IoT exige sua própria segurança em vez de fornecer o mesmo.

Há muitos métodos sendo seguidos para a segurança de dispositivos IoT, com a mais simples autenticação IoT por meio de uma senha simples ou uma verificação em duas etapas ou identificação biométrica etc. Além disso, métodos como criptografia IoT e segurança de rede IoT estão sendo implementados mas, novamente, estamos criando segurança para IoT, em vez de nos proteger . E levará muito tempo até que a IoT possa atuar como uma medida de segurança independente e viável.

Como eu acredito que pode ajudar a segurança

Para ser honesto, acho que a Deep Sentinel está indo na direção certa com relação a isso, mas minha ideia é que, se pudermos usar a AI para monitorar e defender ameaças cibernéticas de dispositivos de IoT, seria uma contramedida melhor do que uma simples senha ou um antivírus. Além disso, em vez de conectar todos os dispositivos à nuvem, poderíamos ter uma intranet local para cada residência, onde os dispositivos necessários estão conectados a essa intranet e depois conectados ao telefone, e só podem ser acessados por um sistema de autenticação separado. sendo a opção de segurança mais preferida. Quando isso ocorre, a IoT pode ser usada com segurança e eficiência para fornecer segurança doméstica com eficiência.

Uma segunda ideia é que a IoT para armas militares poderia ser implementada (ou talvez já seja), mas, novamente, muito cuidado deve ser tomado com a AI para proteger contra ameaças cibernéticas externas, para que as guerras não sejam iniciadas de repente.

Uma terceira e mais estranha idéia minha é usar a IoT para armazenar malware em uma forma física e depois descartá-lo fisicamente , como por exemplo, usando AI para isolar um malware ou vírus específico e reencaminhar para um dispositivo específico (aqui por dispositivo quero dizer uma eletrodomésticos como uma torradeira) e, em seguida, a eliminação da torradeira. Tenho certeza de que não é tão fácil quanto eu parecer, mas seria muito útil se pudéssemos encontrar o nó de origem de qualquer ataque cibernético além de isolar e armazenar esse nó dentro de uma escova de dentes IoT e, em seguida, jogando a escova de dentes para fora, para que não tenha nenhum ponto de reentrada. ( Não me cite sobre isso, é pura especulação! )

Conclusão

Uma espiada no futuro. Foto por Samuel Zeller em Unsplash

Essas novas tecnologias estão aqui para ficar, e mesmo quando falamos, elas estão sendo cada vez mais utilizadas em nossas vidas diárias, para nos tornar mais confortáveis, ou no mínimo, mais seguras. Temos um longo caminho a percorrer e, à medida que os tempos mudam, nossa definição de "segurança" certamente sofrerá grandes reviravoltas. No entanto, esperamos que, com o caminho certo para o progresso, e com o conjunto correto de leis aprovadas e pesquisas feitas, possamos estar colocando os pés em um mundo mais seguro, porém livre. E esse é um futuro que estou ansioso para experimentar .