A carta aberta, assinada por cientistas e endossada
por executivos de empresas como Microsoft, Google, Amazon, Meta e Tesla na
última semana, pedem uma pausa de seis meses no desenvolvimento de novas
tecnologias em Inteligência Artificial (IA), como o GPT-4, mais avançado que o
ChatGPT.
Eles questionam sobre a possibilidade de diminuição
do ritmo de desenvolvimento da IA, ou mesmo a criação de restrições, eles
afirmam que a tecnologia pode trazer riscos e pedem a melhoria de
transparência, governança e as medidas protetivas.
Para Carlos Rafael das Neves, professor de Sistemas
de Informação da ESPM e especialista em Arquitetura de Software, o pedido
demonstra claramente que os especialistas perceberam a possibilidade de um
cenário não muito agradável no presente/futuro. “Para o mundo real, esse
panorama pode ser o pior possível. A sociedade deve ser capaz de enxergar os
reais impactos causados pelas novas tecnologias no seu dia a dia”, diz.
O especialista analisa que a IA avança rapidamente
e traz resultados que podem ser positivos, negativos ou numa forma combinada
entre os dois. “Os algoritmos que regem as inteligências artificiais devem ser
100% públicos e transparentes. Contudo, isso nem sempre será possível, visto
que os algoritmos constituem o núcleo dessas inteligências, e, em um mercado
com diversas empresas disputando uma corrida desenfreada em busca de melhores
algoritmos, sua divulgação pode significar a entrega da tecnologia empregada a
concorrência”, diz.
Neves também destaca que deve ser avaliada toda e
qualquer inteligência artificial, para não prejudicar a sociedade mundial. “A
rápida substituição da mão de obra humana, de uma parcela considerável de
profissionais, por ferramentas automáticas pode causar ondas de desemprego e
pobreza em massa, pois a velocidade com que essas mudanças podem ocorrer torna
impensável a possibilidade de realocação profissional”.
A carta repercutiu fortemente no cenário global, e
apenas dois dias após o assunto viralizar na internet, a Itália tornou-se o
primeiro país a banir o Chat GPT. As autoridades italianas justificaram a
decisão alegando recolhimento ilegal de informações pessoais por parte do
sistema de IA.
“A criação de um marco regulatório e mecanismos de
governança podem contribuir para mitigar os riscos associados à tecnologia e
garantir que seus benefícios sejam amplamente compartilhados. Há necessidade de
preparar a sociedade para essas mudanças é urgente e inadiável”, afirma.
Fonte: Carlos
Rafael das Neves, professor de Sistemas de Informação da ESPM e especialista em
Arquitetura de Software
Nenhum comentário:
Postar um comentário