Elementos-chave do código de conduta em Ciência de Dados

A recente aprovação da LGPD (Lei Geral de Proteção de Dados) enfatiza a crescente preocupação com a ética no tratamento de dados. Tanto os consumidores quanto os legisladores estão exigindo que organizações de todos os tipos levem a sério políticas éticas para coletar, analisar e contextualizar informações privadas.

Acredito firmemente que, quanto mais as empresas dependem da Ciência de Dados para alimentar produtos e serviços, mais crucial é a definição de regras internas para as equipes lidarem com os dados. O crescimento da Ciência de Dados nos empreendimentos e nas empresas de tecnologia está alimentando os avanços em análise de negócios, inteligência artificial e automação. Mas, à medida que os dados pessoais são contextualizados e conectados a sistemas e conjuntos de dados cada vez mais crescentes, preocupações éticas e de privacidade começam a sair do papel.

Os líderes de tecnologia e negócios têm a responsabilidade de prever problemas em potencial e estabelecer um código de conduta para as equipes que trabalham com dados pessoais, a fim de evitar, sempre que possível, os problemas mais cabeludos de ética e privacidade.

Na BlackBerry Cylance, dependemos de uma equipe robusta de cientistas de dados para nos ajudar a desenvolver mecanismos para funções avançadas de segurança, como detecção de ameaças baseada em inteligência artificial e biometria de teclado. O trabalho que eles fazem fornece avanços inovadores para empresas que buscam melhores formas de proteger seus sistemas contra violações e fraudes. No entanto, reconhecemos que, quanto mais dados coletamos sobre os sistemas e usuários de nossos clientes, mais casos de abuso em potencial podem surgir deles, se não implementarmos procedimentos adequados de Ciência de Dados.

Por exemplo, coletamos dados de movimento de pressionamento de tecla e mouse de usuários voluntários, que são anonimizados e analisados por cientistas de dados para aperfeiçoar o processo de validação de usuários com base em informações como sua cadência de digitação e como clicam em um mouse. É um valioso conjunto de dados para combater fraudes, mas também reconhecemos que esse tipo de dado bruto poderia ser usado de forma a violar a privacidade dos usuários, se fosse contextualizado de maneira errada. Nós evitamos questões como essa com um forte código de conduta da Ciência de Dados que, nesse caso, prescreve muito claramente como os dados podem ser usados, por quem e com que finalidade.

Nós exigimos que todos os nossos cientistas de dados e seus gerentes assinem esse documento. O código de conduta é oficial, mas simples. Evitamos usar o “advoguês” e escolhemos uma abordagem em linguagem de fácil compreensão, que define claramente nossos valores corporativos, expectativas e procedimentos básicos em um documento curto de cinco páginas.

Ao elaborarmos o código para a BlackBerry Cylance e interagirmos com os stakeholders para distribuir o documento para a organização, aprendemos algumas lições valiosas sobre o que precisa ser incluído para torná-lo uma peça valiosa de orientação. Toda organização precisará adaptar as políticas aos seus negócios, mas acredito que um código de conduta eficaz da Ciência de Dados precisa responder às seguintes questões-chave:

Quem pode acessar os dados?

Na BlackBerry Cylance, estipulamos que os membros da equipe de Ciência de Dados não podem compartilhar dados coletados com fornecedores ou terceirizados. E, para dados realmente sensíveis, como dados brutos de pressionamento de tecla e mouse, delineamos especificamente uma pequena lista de membros aprovados da equipe com permissão para acessar esses dados.

Como os dados devem ser usados?

Nós deixamos bem claro como os dados seriam usados ​​e, em alguns casos, como nunca deveriam ser usados. Por exemplo, estipulamos que nenhum membro da equipe de Ciência de Dados – aprovado ou não – jamais reconstituiria o conteúdo de qualquer comunicação para derivar palavras ou frases escritas pelo usuário. Da mesma forma, deixamos claro que os pesquisadores de Ciência de Dados tinham de encontrar maneiras de garantir que não estivessem coletando ou armazenando informações de identificação pessoal, como números de cartão de crédito ou de identidade. Nosso código trata de questões éticas direcionando os cientistas de dados a evitarem sempre tentar identificar diretamente um usuário com base em seus dados e evitarem viés ou discriminação inadvertida na análise algorítmica dos dados.

Como os dados são protegidos?

Nosso código de conduta estipula como certas informações de pesquisa em Ciência de Dados devem ser classificadas, o que determina o nível de segurança usado para protegê-las. Além disso, o código descreve os parâmetros de tempo para coletar e reter dados, a fim de minimizar os riscos.

Onde os cientistas de dados podem relatar preocupações éticas/legais?

Finalmente, o Código de Conduta da BlackBerry Cylance Data Science inclui instruções para os membros da equipe fazerem perguntas ou relatarem preocupações éticas ou legais relativas aos dados diretamente aos nossos executivos de privacidade, de segurança e jurídicos. Isso lhes dá uma saída fora da cadeia de comando para relatar violações do código ou outros problemas que possam afetar negativamente nossos clientes ou nossa empresa.

No momento em que uma legislação forte como a LGPD impacta a constituição e a legislação, e os consumidores ficam cada vez mais preocupados com a maneira como as empresas usam seus dados, é a hora de os líderes de privacidade e confiança agirem. Eu encorajo meus colegas executivos a considerarem a elaboração de seu próprio código de conduta de Ciência de Dados, que reflita a realidade de suas indústrias, seus clientes e os dados com que lidam.

Marcello Pinsdorf - country manager da BlackBerry Cylance no Brasil e possui mais de 30 anos de experiência em Tecnologia da Informação e Segurança.