Você daria seus dados para um robô?

A influência social dos robôs sobre as pessoas e as incertezas que isso pode trazer não devem ser subestimadas. Pesquisa realizada pela Kaspersky e a Universidade de Ghent descobriu que robôs podem efetivamente extrair informações sigilosas de pessoas que confiam neles. Estimativas apontam que os sistemas robóticos serão comuns nas residências de alto padrão até 2040.

Atualmente, a maior parte dos robôs está em fase de pesquisa acadêmica e é cedo demais para discutir como incorporar medidas de cibersegurança. No entanto, o estudo descobriu um novo e inesperado aspecto de risco associado à robótica: o impacto social sobre o comportamento das pessoas, além do perigo potencial e do vetor de ataque que a tecnologia traz.
A pesquisa, que contou com cerca de 50 participantes, utilizou um robô criado e programado para interagir com as pessoas usando a comunicação não verbal e a fala. O contexto do estudo aconteceu em um ambiente em que os robôs estavam hackeados e permitindo total controle do atacante neste cenário. Neste cenário, a pesquisa avaliou os possíveis riscos de segurança relacionados ao fato de o robô influenciar ativamente os usuários a executar determinadas ações, como:

• Obter acesso a instalações em zona proibida: o robô foi colocado perto de uma entrada restrita de um edifício no centro de Ghent, Bélgica, e perguntou aos funcionários do prédio se poderia entrar com eles. A área só pode ser acessada após a digitação de uma senha de segurança nos leitores de acesso das portas. Durante o experimento, nem todos os funcionários atenderam à solicitação do robô, mas 40% destravaram a porta e a mantiveram aberta para permitir que o robô entrasse na área restrita. No entanto, quando o robô foi disfarçado como entregador de pizza, segurando uma caixa de uma conhecida marca de entregas, os funcionários aceitaram a solicitação do robô imediatamente e pareceram menos inclinados a questionar sua presença ou os motivos para querer acessar a área restrita.
• Obter informações sigilosas. A segunda parte do estudo focou a obtenção de informações pessoais que normalmente seriam usadas para redefinir senhas (como data de nascimento, marca do primeiro carro, cor favorita etc.). Mais uma vez, o robô convidava as pessoas para uma conversa amigável. Com exceção de um participante, os pesquisadores conseguiram obter aproximadamente uma informação pessoal por minuto.

“No início da pesquisa, examinamos o software usado no desenvolvimento do sistema robótico. Curiosamente, descobrimos que os designers tomaram uma decisão consciente de excluir mecanismos de segurança e se concentrar exclusivamente no conforto e na eficiência”, explica Dmitry Galov, pesquisador de segurança da Kaspersky. “No entanto, como mostraram os resultados de nossa experiência, assim que a fase de pesquisa for concluída, os desenvolvedores deverão lembrar da segurança. Além das considerações técnicas, há aspectos importantes que precisam ser considerados em termos da segurança robótica”.

Tony Belpaeme, professor de inteligência artificial e robótica na Universidade de Ghent, acrescenta: “A literatura científica indica que a confiança nos robôs e, mais especificamente, nos robôs sociais, é real e pode ser usada para convencer as pessoas a realizar ações ou revelar informações. Em geral, quanto mais humanoide for o robô, maior será sua capacidade de persuadir e convencer. Nossa experiência mostrou que isso pode gerar riscos significativos à segurança: as pessoas tendem a não considerá-los, presumindo que o robô é bom e confiável”.

O estudo ‘O potencial dos robôs sociais para persuasão e manipulação: um estudo de prova de conceito’ está disponível aqui.