Diretor do ICMC colabora com o trabalho desenvolvido no Reino Unido para orientar governos
O que acontece no final do filme? Máquinas
e sistemas inteligentes superam a capacidade dos seres humanos e passam a
controlá-los? Essas dúvidas, já abordadas várias vezes pela ficção científica, podem
estar mais perto da realidade do que a gente imagina.
E essa é parte de uma conversa com o
representante brasileiro em um comitê consultivo internacional formado pelo
Governo do Reino Unido para desenvolver um relatório sobre as capacidades e
riscos da Inteligência Artificial (IA).
O Professor André Ponce de Leon
Ferreira de Carvalho é um dos especialistas que fazem parte desse comitê,
convidado pelo Ministério da Ciência, Tecnologia e Inovação (MCTI). O atual
diretor do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em
São Carlos, pesquisador principal do CEPID-CeMEAI e coordenador do Centro de
Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA IARA)
está trabalhando com cientistas
de outras 29 nações convidadas para a Cúpula de Segurança
de IA do Reino Unido, da ONU e da UE.
André explica que em novembro de
2023, o Reino Unido organizou a primeira cimeira global sobre a segurança
da inteligência artificial, no Bletchley Park, onde, na segunda guerra mundial,
uma equipe liderada por Alan Turing, um dos pioneiros da IA, decifrou o código
da máquina alemã Enigma.
“Da cimeira, participaram
representantes de governos nacionais e da União Europeia, de empresas, da
academia e da sociedade civil, incluindo o primeiro-ministro do Reino
Unido, Rishi Sunak, a vice-presidente dos Estados Unidos, Kamala
Harris e a presidente da Comissão Europeia, Ursula Von Der Leyen”.
Ainda segundo ele, no evento foram
discutidos os riscos dos sistemas mais recentes e poderosos de IA, a IA de
fronteira (frontier AI) e os participantes receberam um relatório intitulado AI
Safety Summit- Capabilities and risks from frontier AI,
apresentando as capacidades, os riscos da IA de fronteira e apontando para a
necessidade de apoiar pesquisas no tema. O relatório foi revisado por um comitê
de especialistas, coordenado pelo Professor Yoshua Bengio, da Universidade
de Montreal, no Canadá-juntamente com os professores Geoffrey Hinton e Yann
LeCun, Yoshua recebeu, em 2018, o Prêmio Turing, equivalente ao prêmio Nobel
para a área de Computação. Os três são chamados de “Padrinhos da IA”.
André de Carvalho destaca um trecho
apontado pelo relatório: “Estamos no meio de uma revolução tecnológica que
trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos.
A IA pode transformar quase todos os aspectos da nossa economia e sociedade”.
Outro trecho, justifica: “Para aproveitar as oportunidades, devemos
compreender e enfrentar os riscos. A IA apresenta riscos de formas que não
respeitam as fronteiras nacionais. É importante que governos, universidades,
empresas e sociedade civil trabalhem juntos para enfrentar esses desafios, que
são complexos e difíceis de prever, para mitigar os perigos potenciais e
garantir os benefícios da IA para toda a sociedade”.
“O Reino Unido está trabalhando há
muito tempo nesta proposta que, agora, se torna uma importante ferramenta
para auxiliar os governos”, disse André, observando que, como
já foi mencionado pelo Prof. Bengio, o documento não recomenda aos governantes
como devem agir, nem vai propor como a IA pode ser regulada, mas resume o que a
ciência sabe até o momento sobre as capacidades e os riscos dos sistemas de IA.
“A decisão de como conciliar inovação e segurança em IA é dos formuladores de
políticas públicas”, explicou.
André complementa afirmando que não
se discute mais a força dessa tecnologia transformadora, com técnicas cada vez
mais sofisticadas e complexas. Para ele, esse cenário futurista parecido com
roteiro de filme de ficção científica já chegou. O que não é possível prever
ainda são as consequências do mau uso da IA e de uma IA mais inteligente do
que os seres humanos. “Por isso, a urgência em discutir e elaborar documentos
como esse, feitos por especialistas em IA. Também ficou acordado que
seguiremos redigindo documentos com informações que possam dar subsídios para
que os governos se preparem, entregando a eles o conhecimento necessário, de
acordo com o estado da arte, sobre o que pode acontecer com essa área,
particularmente de seus riscos”.
“A preocupação é inclusive com o
poder das máquinas, com o que elas poderão fazer, se podem deixar os seres humanos
em segundo plano na tomada de decisões. Essa fala pode parecer exagerada, no
entanto existe o receio, baseado em dados e algoritmos cada vez melhores.
Devemos ser proativos no enfrentamento dos riscos”, falou André.
“Devemos trabalhar para que toda a
evolução da IA, que tem sido rápida e impressionante, seja aplicada para o bem
comum, para os avanços que melhorem a qualidade de vida em diversos setores,
como na saúde, melhoria de diagnósticos, baratear desenvolvimento de novos
medicamentos; no meio ambiente, combatendo as mudanças climáticas e a poluição
no planeta; na economia, gerando melhores e mais empregos, reduzindo
desperdícios e fraudes, e em tantos outros que já estão sendo beneficiados”.
“O Reino Unido, junto com União Europeia e as Nações Unidas, está dando um primeiro e importante passo, mas há ainda outros grandes atores da IA, como China e Estados Unidos, que precisam caminhar no sentido de desenvolver ações que possam eliminar ou reduzir os riscos, trazendo os benefícios, e que consigam evitar o mau uso da IA e a perda de controle, e da tomada de decisão, pelos seres humanos”, finalizou.
Raquel Vieira
Link do documento:
https://assets.publishing.service.gov.uk/media/65395abae6c968000daa9b25/frontier-ai-capabilities-risks-report.pdf
Nenhum comentário:
Postar um comentário