Classificação social: tome cuidado com suas publicações

Já é difícil imaginar a vida sem as plataformas sociais. Nós as usamos para conversar, comunicar, compartilhar nossas criações, discutir as últimas notícias e muito mais. Vale lembrar, porém, que seus perfis de mídia social podem ser usados para avaliar, por exemplo, sua capacidade de reembolsar um empréstimo bancário. Ou para decidir se você é adequado para um trabalho específico.

A mensuração do potencial de uma pessoa com base em ações passadas, círculo social e similares é chamada de social rating, ou classificação social, em tradução livre. Esse indicador associado a pessoa é semelhante, em alguns aspectos, à classificação de crédito usada pelos bancos ao emitir empréstimos, mas pode incluir uma gama muito maior de informações.

Muitos países já veem o uso de classificações sociais em várias áreas. Por exemplo, as seguradoras em Nova York estão oficialmente autorizadas a determinar prêmios por meio da análise de dados das mídias sociais.

E a China está desenvolvendo um sistema de crédito social que alguns descrevem como parecido com 1984, de George Orwell. No entanto, nem todo mundo considera esses processos avaliativos assustadores; algumas pessoas pensam que realmente são úteis, dizendo que ajudam a tornar a vida mais segura. As pessoas e a tecnologia estão prontas para o que está por vir?

Classificações sociais: O que as pessoas acham disso

Para avaliar as atitudes dos usuários em relação às classificações sociais, pesquisamos mais de 10.000 pessoas em todo o mundo. Compartilhamos neste post nossas descobertas.

Pouco menos da metade (46%) tinha ouvido falar sobre o assunto. O fenômeno é mais conhecido na Ásia. Por exemplo, na China, onde as classificações estão sendo difundidas nacionalmente, 71% dos entrevistados sabem sobre este sistema de mensuração em comparação a apenas 13% na Áustria e na Alemanha. Além disso, quase metade (45%) dos entrevistados admitiu ter problemas para entender como elas são calculadas. Somente um em cada cinco entrevistados (21%) já cruzou com as classificações na vida real (embora seja possível que algumas pessoas simplesmente não saibam que as elas são um ponto de análise na obtenção de um empréstimo ou hipoteca).

No entanto, muitas pessoas concordam em geral com pressupostos associados a essa performance social: 70% dizem que é justo e correto limitar o acesso a recursos públicos (transporte, educação, moradia, etc.) com base no comportamento das pessoas.

Muitas pessoas não se importam de serem monitoradas se houver uma boa razão. Por exemplo, para melhorar a segurança, quase metade está pronta para permitir que o governo espione redes sociais, e dois em cada cinco compartilham seus dados com uma empresa em troca de descontos e outros benefícios. E apenas cerca de 20% dos entrevistados manifestaram desconforto com organizações públicas e privadas que se interessam por suas informações pessoais.

Classificações sociais: A tecnologia

Muitas das pessoas pesquisadas apoiam a ideia de classificações sociais, provavelmente na crença de que, em geral, fornecerão uma avaliação justa e imparcial. Infelizmente, com a tecnologia atual, isso é improvável.

Por um lado, é difícil rastrear erros. Os sistemas de hoje são baseados em redes neurais, cujos princípios operacionais são turvos até para os desenvolvedores, sem falar nos operadores ou no público em geral. Ao diminuir ou aumentar a classificação de alguém, a rede neural não divulga sua base informacional para uma decisão. Se o computador concluir que você não se qualifica para um empréstimo, você não conseguirá financiar sua casa própria – mesmo se for uma pessoa decente e com uma boa renda.

Na linguagem utilizada em testes médicos e em segurança de computadores, casos como o mencionado acima são conhecidos como “falso positivo”, o mesmo que acontece quando uma solução de segurança sinaliza um arquivo limpo como infectado ou um teste médico identifica erroneamente uma doença no exame de um paciente.

Com relação ao nosso tópico favorito – antivírus – o nível de falsos positivos varia muito de um produto para outro. Algumas soluções emitem veredictos errados com muito mais frequência do que a média, enquanto outras, as taxa são menores (nossas soluções de segurança têm mínimos falsos positivos). O ponto aqui é que é impossível eliminar completamente os erros. Mas, no caso de classificações que afetam os direitos humanos e até vidas, o preço desse equívoco pode ser muito alto.

Além de erros causados ​​por algoritmos imprecisos ou dados imperfeitos, os sistemas também podem ser intencionalmente invadidos. No que diz respeito às classificações sociais em todo o país, nossos especialistas identificaram três tipos de ataques em potencial.

1. Ataques em dispositivos de coleta de dados

Para avaliar com precisão a classificação de uma pessoa, o sistema precisa de muitas informações. Ele obtém esses dados não apenas das redes sociais, mas também de várias câmeras e sensores de diversos dispositivos – a chamada Internet das Coisas. Esses aparelhos geralmente são vulneráveis ​​e alvos de ataques várias vezes. Somente na primeira metade de 2019, detectamos 105 milhões de tentativas de hackeá-los.

2. Ataques em implementações de software

Para atribuir uma classificação social, não basta que o sistema colete informações sobre você, ele também precisa processá-las e interpretá-las. O mecanismo que lida com isso também pode ser vulnerável – tanto para tentativas de infecção por malware quanto para ataques incomuns.

Por exemplo, um invasor pode usar óculos coloridos. Um ser humano reconheceria facilmente a pessoa, mas uma câmera inteligente poderia confundi-la com outra pessoa – então qualquer coisa que fizessem na frente da câmera poderia ser atribuída a outra pessoa.

3. Ataques na lógica de sistema

Por fim, um invasor pode identificar ações que, se repetidas várias vezes, alteram a classificação além de qualquer reconhecimento – seja positivamente ou negativamente. Por exemplo, ao explorar lacunas na lógica do sistema, pode ser possível aumentar a própria classificação ou prejudicar a de uma vítima em potencial.

Preparando o mundo para as classificações sociais

Em resumo, as classificações sociais podem não ser tão justas e imparciais quanto imaginamos ou gostaríamos que fossem. Mesmo assim, esses sistemas já estão implantados em determinadas áreas e provavelmente serão introduzidos de maneira mais ampla, com o passar do tempo. Embora não haja uma forma de se proteger completamente de suas falhas, vale a pena tentar minimizar os riscos.

• Pense duas (ou três) vezes antes de publicar fotos ambíguas de si mesmo ou de outras informações potencialmente comprometedoras nas redes sociais. É melhor manter algumas coisas em sigilo. No mínimo, não as disponibilize publicamente.
• Proteja suas contas para que os cibercriminosos não possam invadir e usá-las contra você. Crie senhas fortes e exclusivas, ative a autenticação de dois fatores e não insira credenciais de login em sites suspeitos.
• Proteja sua privacidade. Para que o banco não lhe recuse um empréstimo porque ele já sabe, por exemplo, que você está procurando um emprego, proteja-se contra a coleta de dados on-line. Explicamos como neste post