Pesquisar no Blog

quinta-feira, 2 de agosto de 2018

Facebook: Algorítimos imperfeitos expõem geração que acredita ter a tecnologia na palma da mão


As máquinas são eficientes e infinitamente mais rápidas do que nós, porém são escravas da sintaxe humana. Tudo o que fazem é cumprir códigos que foram desenvolvidos com a retaguarda da consciência de seus criadores


Geralmente tudo que é feito sem considerações morais, movido pelo embalo do momento ou pela ganância descontrolada, cedo ou tarde transborda em lambança e punição. Queremos acreditar nisso. Muitas vezes, acontece. Mas só acontece em democracias.

O Facebook acabou de perder bilhões de dólares em valor de mercado. Decerto isso não é o fim da rede social. Ela não vai acabar. Nem deve. Pode acontecer que perca espaço para outras redes, mas estas chegaram para ficar. A lição é que ninguém pode ser tão autossuficiente a ponto de agir como se fosse superior a todas as instâncias da sociedade.

É muita grana, poder e fama concentrados nas mãos de poucos. Isso faz parte do jogo, tudo bem. Mas a psique desses poucos é tão problemática como a minha ou a sua. Mas no caso deles, essa aura de deuses faz com que se julgassem, no mínimo, como super-homens.

O caldo entornou no momento em que ficou claro demais que a utilidade se transformou em perversão. Então, esses jovens vieram a público e se revelaram perplexos, fúteis e tolos. Perceberam que habilidade não é conhecimento e que a inovação não garante a ética. Foi muita areia para seus caminhões.

Até que aconteceu essa rebordosa, eles diziam que tudo ia bem e que seus algoritmos eram: perfeitos. Essa perfeição, essa aposta em inteligência artificial, me fez refletir sobre a distância entre duas gerações: essa daí, autoengendrada, a galerinha do vale do Silício e outra, que se formou profundamente contaminada pelas transformações sociais e culturais ocorridas depois da Segunda Guerra. O resumo é o seguinte:

Uns acham que sabem o que dizem, outros dizem o que sabem.

Talvez eles nem percebam que seus projetos se tornaram totalizantes e totalitários. Felizmente tem gente que pensa diferente. Não precisamos recorrer a filósofos (e há excelentes pensadores se debruçando sobre esse tema). Acho mais interessante selecionar um filme popular, cujo diretor sabe muito bem o que diz: Alien Covenant, de Ridley Scott.

Não são apenas gerações que se contrapõem – o que é natural –, mas também perspectivas de vida. Escolho esse tipo de filme porque provavelmente a galerinha do Silício assistiu. Há controvérsias se a sequência fez justiça ao clássico original Alien – O Oitavo Passageiro. Contudo, para esse debate que proponho, o diretor criou algo sensacional. Mesmo sendo um filme de ação, sujeito às fórmulas desse tipo de obra, o diretor deixou seu recado.

Ele disse o que pensava no diálogo de quatro minutos do prólogo do filme. A cena é brilhante
.
Alguém que produz uma cena como essa, leu muito na vida. Conhece muito. É um maestro que, mesmo dirigindo um filme de ação, não deixou de semear belezas monumentais. É preciso colher.

A cena pode parecer banal: o dono de uma empresa cria um robô, réplica perfeita de um humano. O robô se levanta, observa ao redor e troca os primeiros diálogos de sua existência. O homem que o criou diz: filho. O robô o chama de pai.

Pois bem: é hora de arregaçar as mangas. Nesses minutos sublimes, Ridley Scott evoca os mais profundos conflitos da alma humana, revisita a história da civilização ocidental, realiza uma das mais cobiçadas pretensões do homem – tornar-se Deus –, e revela a dúvida mais ancestral, e talvez mais irrespondível que já ousamos fazer.

Faça-se a luz. A sala do pai é toda branca: teto, parede, piso. O robô nasce (David – Michael Fassbender). Seus olhos captam os objetos que estão decorando a sala. O criador (Weyland – Guy Pearce) pergunta ao filho o que este está vendo. Logo em seguida, anuncia que é seu pai.

O robô enumera aquilo que vê. Ele apenas cita o nome das obras e seus autores, nada mais. Porém, aquilo que vai retratando enquanto dá os primeiros passos no mundo representa uma jornada imemorial do humano: a mitologia (o robô toca Wagner ao piano), o nascimento da cristandade (quadro da natividade), o velho testamento (David), o renascimento dando voz aos mitos clássicos de criação, e o pós-moderno (cadeira Carlo Bugatti).

Levanta-te, diz o pai, que percebe que sua criação é perfeita. A primeira pergunta é muito mais do que parece: resulta em uma reviravolta avassaladora.

"Perfeito.", comenta o pai ao ver o filho dar os primeiros passos.

"Eu sou?" é a primeira pergunta que faz aquele que acaba de nascer.

"Perfeito?", retruca o pai com outra pergunta, ingenuamente acreditando que o filho se surpreendeu com a perfeição.

"Seu filho?", devolve David, provocando a primeira decepção do pai. O filho sabe que é perfeito; em pouco tempo saberá também que é superior ao pai. A pergunta, na verdade sua única dúvida, será sobre a ontologia daquele que o criou. Mas essa ficará sem resposta. Nada mais há para perguntar: a partir daí David fará considerações e afirmações.

O pai permite que o filho escolha seu próprio nome. Não há transmissão nem legado. O robô se aproxima da escultura perfeita e se batiza: David.

Perfeição: realiza-se o sonho dos deuses, assim como o de Michelangelo na última cinzelada sobre o mármore.

Porém, a ilusão da perfeição tem sido o mais trágico engano dos deuses e dos homens... Assista.

Finalmente, pai e filho conversam. O filho demole as aspirações do pai e o confronta com a dor da condição humana. O parricídio é instantâneo. A perplexidade do pai surge com sutileza no olhar mal dissimulado de Weyland. O conflito humano, as tragédias, reis destronados, complexos, os dramas de uma vida, enfim, são condensados em poucas palavras.

Acuado e ciente de sua finitude e pequenez, o criador usa seu último recurso: o poder paterno.

"Sirva-me chá, David."

Agora é David quem lança um olhar sutil. Ele acaba de entender que é superior ao pai. O filho obedecerá. Para ele, porém, o pai nada mais representa: é inútil, impotente e indigno diante do filho. Rei morto, rei posto.

"Sirva-me o chá!", quase grita Wayland enquanto mira com rancor o rosto do filho perfeito.
Lá fora, através da janela que ocupa toda a parede, revela-se o cenário deslumbrante de um lago cercado por montanhas nevadas. Se a paisagem é real ou uma projeção em tela plana, não importa: a natureza e a cultura estão irremediavelmente separadas.

Em nossa longa jornada diante da natureza inóspita, criamos o milagre da linguagem e da cultura. Queremos a perfeição, porém a linguagem é caracterizada pelo erro, engano, imaginação e mentira. A ambiguidade humana é nosso destino inelutável, consequência do bom e do mal que realizamos em nossa recente jornada apartada da natureza.

Adiante no filme, o diretor completa seu ponto de vista, quando David confronta-se com o erro. É uma pequena dica que Ridley Scott nos dá sobre o diálogo inicial e prova que a cena possui a profundidade que estou defendendo.

Se um dia seremos deuses e criaremos um ser consciente, nem mesmo os céus podem antecipar a resposta.

Mas hoje, é presunção infantil achar que estamos perto disso. As máquinas são eficientes e infinitamente mais rápidas do que nós, porém são escravas da sintaxe humana. Tudo o que fazem é cumprir algoritmos, que foram desenvolvidos com a retaguarda da consciência de seus criadores.

As máquinas não pensam porque não erram. Quando falham, suas falhas refletem falhas humanas. Nada além de equívocos, assim como aqueles jovens magos, que talvez nem desconfiem que procuram desenvolver um mundo totalizante e totalitário.

Esses jovens estão tão sujeitos aos erros como nós, porém tão poderosos como nenhum de nós. O problema é que nossa força está na escolha e no debate, mas abrimos mão desse poder. Deixamos de refletir; às vezes, sobre um filme; às vezes, sobre a vida; às vezes, sobre a manipulação.

Porém, nada será melhorado sem a intermediação do debate e reflexão. Nada será conhecido sem a história, a filosofia, o cinema, a literatura. Isso não quer dizer que somente doutores e especialistas nesses conhecimentos tenham acesso ao conhecimento. Pelo contrário, esse conteúdo está no ensino fundamental e no secundário. Está nos livros e em uma educação comprometida.

Um filme de um diretor comercial está aí para provar o que digo.

Infelizmente, esse conteúdo não está na realidade educacional brasileira. Falta-nos uma coisa fundamental: leituras. Para que possamos compreender que a riqueza não está no homogêneo, mas na diferença e na mutação.




Roosevelt Colini - escritor.


Nenhum comentário:

Postar um comentário

Posts mais acessados