Os
algoritmos podem ser definidos como uma fórmula matemática com uma sequência de
raciocínios, instruções ou operações direcionadas para se alcançar um objetivo
previamente definido. Os passos que devem ser seguidos são finitos e devem ser
operados sistematicamente. Haverá sempre uma informação de entrada (input) e
uma de saída (output), que serão mediadas e decorrentes das instruções
determinadas pelo desenvolvedor da fórmula algorítmica.
A
utilização dos algoritmos nas mais variadas rotinas sociais está aumentando de
forma significativa. Cada vez mais tomada de decisões dependem exclusivamente
de fórmulas algorítmicas, fazendo com que as decisões automatizadas (sem a participação
humana) sejam cada vez populares. Algoritmos podem ser utilizados em
praticamente todos os setores sociais.
O
desenvolvimento tecnológico e o advento do Big Data contribuíram com a expansão
algorítmica no setor privado e nas tarefas governamentais. Um exemplo que nos
sujeitamos diariamente (muitas vezes sem qualquer consciência desse fato) é o
algoritmo das redes sociais, responsável por definir o que irá aparecer no seu
feed de notícias.
Softwares
conectados nas câmeras dos aparelhos celulares, notebooks, e TV já são capazes
de detectar as emoções humanas com base nos movimentos dos olhos e dos músculos
faciais. Com isso, muitas vezes sem sermos informados de forma clara e
transparente, estamos diante de dispositivos que mapeiam situações que nos
fazem rir, chorar, que nos irritam ou que nos deixam entediados.
Com
desenvolvimento do biohacking[1] será possível ter pleno conhecimento de
como cada evento cotidiano influencia o nosso ritmo cardíaco, nossa respiração,
atividade cerebral e hormônios.
Esses
algoritmos permitiram que empresas e governos saibam, melhor que nós mesmos,
sobre a nossa personalidade, o que nos emociona e o que nos impacta positiva ou
negativamente.
Infelizmente,
o efeito de hackear a tomada de decisão dos humanos não está sendo estudado na
mesma proporção da criação de novas tecnologias que nos monitoram e decidem por
nós.
Pouco
a pouco podemos perder a nossa capacidade de decidir, já que o algoritmo passa
a fazer isso por nós nas mais variadas situações rotineiras. Hoje um algoritmo
já define os nossos trajetos (waze), com quem nos relacionamos (redes sociais
em geral), o que assistimos (Netflix) e até como nos informamos (google).
A
vida humana gira em torno da tomada de decisões. São nossas decisões que
determinam o rumo da nossa vida. Toda consequência é o resultado de uma
decisão. Todo drama da vida humana gravita entre diversas decisões possíveis.
Se
paramos de desenvolver a nossa aptidão de tomar decisões, delegando-as aos
algoritmos, a nossa vida passará cada vez mais definida por eles, ou melhor,
pela organização, privada ou púbica, que os desenvolveu.
A
aptidão de tomar decisões é como um músculo, pare de estimulá-la e ela
atrofiará. Quanto menos decisões tomamos, mais inseguros nos tornamos para
decidirmos sobre o rumo da nossa vida. Sem perceber, pouco a pouco vamos
confiando menos em nós e mais nos algoritmos.
Será
esse o caminho que a nossa sociedade quer trilhar ou é algo que sendo imposto
de forma mascarada por meio de aplicativos que “gentilmente” facilitam a nossa
vida? E são disponibilizados de forma gratuitas? Somos os consumidores ou o
produto nesse ecossistema?
Esse
texto não pretende demonizar a internet, tampouco encontrar um vilão para a
sociedade. O propósito é despertar a nossa consciência a enxergar o que está
por traz de tantas facilidades oferecidas gratuitamente por empresas de
tecnologia.
Ora,
se as suas informações estão sendo registradas e utilizadas para os mais
diversos fins você não deveria, pelo menos, ser claramente informado sobre
isso? Você não deveria ser remunerado por isso, já que organizações lucram
altas cifras com as suas informações? Não haveria um limite? Regras?
Informações
pessoais não são ativos empresariais, tampouco são de propriedade da
administração pública, elas pertencem aos seus titulares, que devem participar
da tomada de decisões sobre a sua utilização.
No
Brasil, a Lei Federal nº 13.709/2018, mais conhecida por Lei Geral de Proteção
de Dados Pessoais, ou simplesmente “LGPD” tem como objetivo maior proteger a
privacidade, os direitos fundamentais e o livre desenvolvimento da
personalidade humana. Ora, esse último aspecto tem grande relação com o dito
acima.
O
desenvolvimento da personalidade humana depende das escolhas que fazemos sobre
o que vivenciar, o que estudar, o que consumir, com quem se relacionar, onde
trabalhar, onde morar etc. Ou seja, depende de decisões.
Por
isso essa pauta é tão importante: passar a autoridade decisória dos humanos
para os algoritmos impacta no desenvolvimento da nossa personalidade. Em larga
escala, impacta na estrutura da nossa sociedade. O que isso vai causar a longo
prazo? A verdade é que ninguém sabe ou quase ninguém.
O
grande problema é a sensação de que os algoritmos estão apenas nos auxiliando.
Tudo é passado como se eles fossem bons “conselheiros”, desenvolvido de forma
que não pareça que a autoridade decisória está sendo retirada do ser humano.
Um
dos fundamentos da LGPD é a autodeterminação informativa, que visa assegurar
aos titulares o poder de gerenciar as operações realizadas com suas informações
pessoais, e quando não for possível ter esse controle, que seja garantida ao
menos a transparência com relação aos seus dados.
Na
prática, isso significa que empresas e governos devem ser claros com os
titulares sobre o que realmente é feito com os dados pessoais coletados e dar a
oportunidade de decisão, quando possível, sobre o que pode, ou não, ser feito
com os dados pessoais. Textos enormes com letras minúsculas e repletos de
termos técnicos não cumprem esse propósito.
Outro
importante direito previsto na LGPD é a revisão de decisões automatizadas (art.
20), que garante o direito de questionar os critérios da decisão algorítmica,
de modo que seja possível entender quais critérios a fundamentaram.
Trata-se
de importante instrumento para questionar eventuais discriminações ou qualquer
outra forma de violações de direitos feita pelos algoritmos. Grandes conjuntos
de dados utilizados para a elaboração da fórmula algorítmica podem ter erros de
registro, ser imprecisos e com isso produzir resultados tendenciosos.
Nosso
esforço enquanto sociedade é exigir o cumprimento desses direitos por empresas
e governos. A conscientização é o caminho. Na sociedade digital novos direitos
são necessários para garantir o respeito à dignidade humana, livre
desenvolvimento da personalidade e a democracia.
Nos
filmes de ficção científica não é raro vermos robôs se rebelando contra a
humanidade e ganhando “vida própria”. Contudo, não é esse o medo que devemos
ter das máquinas, ao contrário, devemos temer o fato de elas fazerem exatamente
aquilo que foram programadas para fazer, ou seja, seguir a fórmula matemática
(algoritmo) programada.
A
vigilância que estamos submetidos através dos dispositivos eletrônicos de “uso
obrigatório” para a convivência social praticamente anularam a nossa
privacidade. Nossas informações são monitoradas o tempo todo. Essa vigilância
acompanha nossas atividades, monitora as nossas emoções e está prestes em
entrar na nossa pele para observar nossas experiências mais íntimas.
Os
Big Datas permitem o processamento de grande quantidade de informações centralizadas.
Sistemas centralizados são muito mais eficientes do que sistemas difusos.
Concentrando a informação de todos os nacionais em um único banco de dados e
desconsiderando qualquer conceito de privacidade e proteção de dados pessoais,
permite um total controle sobre todos os aspectos da vida humana.
Privacidade
importa e importa muito. Na sociedade da vigilância digital, a privacidade
assume outros contornos, não se trata apenas do direito de ser deixado “só”,
mas na criação de perfis pessoais que poderão ser utilizados contra você, para
te monitorar e manipular, sem que você sequer perceba.
Chegamos
a um ponto de inflexão, as ferramentas para mudar o mundo já estão literalmente
em nossas mãos, precisamos agora decidir como iremos utilizá-las: para
construir um futuro melhor ou para tornar a humanidade um mero rebanho. Podemos
atingir melhorias inimagináveis ou aceitar passivamente o que será decidido
para nós.
Juliana
Callado Gonçales - sócia do Silveira Advogados e especialista em Direito
Tributário e em Proteção de Dados (www.silveiralaw.com.br)
[1] Biohacking é uma
técnica que permite o mapeamento do corpo humano a fim de detectar
anormalidades, doenças entre outras finalidades. É realizado através da inserção
de dispositivos que monitoram o funcionamento do organismo.
