Pesquisa da Kaspersky com a Universidade de Ghent descobriu
que os robôs podem extrair informações sigilosas e que a maioria das pessoas
confiam neles
A influência social dos robôs sobre as pessoas e as
incertezas que isso pode trazer não devem ser subestimadas. Uma pesquisa
realizada pela Kaspersky e a Universidade de Ghent descobriu que os robôs podem
efetivamente extrair informações sigilosas de pessoas que confiam neles,
persuadindo-as a executar ações inseguras. Estimativas apontam que os
sistemas robóticos serão comuns nas residências de alto padrão até 2040.
Atualmente,
a maior parte dos robôs está em fase de pesquisa acadêmica e é cedo demais para
discutir como incorporar medidas de cibersegurança. No entanto, o estudo da
Kaspersky e da Universidade de Ghent descobriu um novo e inesperado aspecto de
risco associado à robótica: o impacto social que ela tem sobre o comportamento
das pessoas, além do perigo potencial e do vetor de ataque que a tecnologia
traz.
A
pesquisa, que contou com cerca de 50 participantes, utilizou um robô criado e
programado para interagir com as pessoas usando a comunicação não verbal e a
fala. O contexto do estudo aconteceu em um ambiente em que os robôs estavam
hackeados e permitindo total controle do atacante neste cenário. Neste cenário,
a pesquisa avaliou os possíveis riscos de segurança relacionados ao fato de o
robô influenciar ativamente os usuários a executar determinadas ações, como:
•
Obter acesso a instalações em zona proibida: o robô foi colocado perto
de uma entrada restrita de um edifício no centro de Ghent, Bélgica, e perguntou
aos funcionários do prédio se poderia entrar com eles. A área só pode ser
acessada após a digitação de uma senha de segurança nos leitores de acesso das
portas. Durante o experimento, nem todos os funcionários atenderam à
solicitação do robô, mas 40% destravaram a porta e a mantiveram aberta para
permitir que o robô entrasse na área restrita. No entanto, quando o robô foi
disfarçado como um entregador de pizza, segurando uma caixa de uma conhecida
marca internacional de entregas, os funcionários aceitaram a solicitação do
robô imediatamente e pareceram menos inclinados a questionar sua presença ou os
motivos para querer acessar a área restrita.
•
Obter informações sigilosas. A segunda parte do estudo
focou a obtenção de informações pessoais que normalmente seriam usadas para
redefinir senhas (como data de nascimento, marca do primeiro carro, cor
favorita, etc.). Mais uma vez, o robô convidava as pessoas para uma conversa amigável.
Com exceção de um participante, os pesquisadores conseguiram obter
aproximadamente uma informação pessoal por minuto.
“No
início da pesquisa, examinamos o software usado no desenvolvimento do sistema
robótico. Curiosamente, descobrimos que os designers tomaram uma decisão
consciente de excluir mecanismos de segurança e se concentrar exclusivamente no
conforto e na eficiência. No entanto, como mostraram os resultados de nossa
experiência, assim que a fase de pesquisa for concluída, os desenvolvedores deverão
lembrar da segurança. Além das considerações técnicas, há aspectos importantes
que precisam ser considerados em termos da segurança robótica. Esperamos que
nosso projeto e investimento conjunto no campo da cibersegurança robótica com
os colegas da Universidade de Ghent incentive outras pessoas a dar sequência a
pesquisas deste tipo na área para aumentar a visibilidade pública sobre este
problema”, avalia Dmitry Galov, pesquisador de segurança da Kaspersky.
Tony
Belpaeme, professor de inteligência artificial e robótica na Universidade de
Ghent, acrescenta: “A literatura científica indica que a
confiança nos robôs e, mais especificamente, nos robôs sociais é real e pode
ser usada para convencer as pessoas a realizar ações ou revelar informações. Em
geral, quanto mais humanoide for o robô, maior será sua capacidade de persuadir
e convencer. Nossa experiência mostrou que isso pode gerar riscos
significativos à segurança: as pessoas tendem a não considerá-los, presumindo
que o robô é bom e confiável. Isso proporciona um possível canal para
ciberataques e os três estudos de caso discutidos no relatório são apenas uma
fração dos riscos à segurança associados. Por isso, é fundamental cooperarmos
agora para entender todas as vulnerabilidades emergentes. Teremos a compensação
no futuro. ”
O relatório ‘O potencial dos robôs
sociais para persuasão e manipulação: um estudo de prova de conceito’ está
disponível em Securelist.com.
Kaspersky
Nenhum comentário:
Postar um comentário