Novas ferramentas de IA: conveniência
ou armadilha?
Todos os dias somos bombardeados com muita novidade no universo
das ferramentas de inteligência artificial (IA), são IAs que criam imagens,
músicas, vídeos, etc. No contexto dos sites de buscas, as novidades da Google
como a IA Overviews e as recém anunciadas IA Mode e IA Max, prometem
revolucionar a experiência de pesquisas na internet. Entretanto, a conveniência
que está sendo prometida poderá impactar negativamente todas as pessoas, e
empresas, que não investirem em educação digital.
As bigtechs foram inseridas em uma harmoniosa competição por
avanços tecnológicos em inteligência artificial, e a Google, por se tratar de
um modelo de negócio baseado em anúncios, vem se destacando por aprimorar
ferramentas que impactam diretamente os seus dois principais públicos: A pessoa
que está procurando uma receita de bolo (informação confiável), ou qual a
quantidade certa de fermento para o bolo não murchar (solução para um
problema); e aquelas pessoas ou empresas que desejam conectar sua marca,
produtos ou serviços às pessoas certas, de forma pragmática: se quer otimizar
campanhas e vender mais.
Hoje, quando se pesquisa no buscador da Google “como fazer um
currículo”, a IA Overviews apresenta, no topo da lista, um resumo da pesquisa
gerado por sua inteligência artificial e ao lado, os links das fontes - para
leitura adicional. Para cada linha de informação presente no resumo, a uma
distância de um “click”, as fontes daquela informação aparecem ao lado. Esta
funcionalidade permite que o usuário encontre informações de forma instantânea
e organizada em tópicos, sem precisar “pular de link em link”. É uma
conveniência para otimizar tempo quando se quer achar uma solução para um
problema.
Na última conferência anual da Google (Google I/O, em maio de
2025), a bigtech lançou uma nova ferramenta para o seu buscador, a IA Mode.
Quando chegar no Brasil, ao pesquisar no buscador Google a pessoa terá a mesma
possibilidade de fazer perguntas complexas e conversacionais como faz com o
ChatGPT ou Gemini. Quando detectado que a interação do usuário tem propósitos
comerciais, a IA Mode entregará como resultado da pesquisa, além do resumo
gerado por IA, conteúdos de todo o ecossistema Google (Shopping, YouTube, Maps,
etc.).
Nesta nova realidade, os anúncios passarão a ser entregues de
maneira cada vez mais “infiltrada”. As recomendações de sites, imagens e
anúncios serão cada vez menos intrusivas e mais contextuais. Para acompanhar
essa inovação, os anunciantes no Google Ads deverão se adaptar à IA Max, a mais
nova ferramenta de anúncios (ferramenta que promete otimizar as campanhas do
Google Ads com inteligência artificial).
Agora temos um panorama claro do que vêm por aí. Ao usuário que
deseja conectar sua marca, produtos e serviços com alta performance, terá em
mãos ferramentas inteligentes e que prometem resultados maiores que qualquer
otimização manual e aprendizado de copywriting, enquanto o usuário que deseja
uma resposta rápida e assertiva, também será lhe entregue o prometido. Será?
A conveniência das novas tecnologias chegou a um tal estado de
maturidade que é possível visualizar, a poucos passos à frente, a dependência
das pessoas e empresas sobre a curadoria de conteúdos às ferramentas de
inteligência artificial de um seleto grupo de bigtechs. Se a IA decide o que é “confiável”
ou "verídico” ao sintetizar informações, ao lado mora o perigo de
amplificar vieses presentes nos dados de treinamento ou de apresentar um
conteúdo incompleto.
Quem continuará a “pular de link em link” para confirmar a fonte?
E as novas gerações que se profissionalizaram ou cresceram com a “ajuda” da IA?
Soma-se a isso a preocupação com as "bolhas de filtro" e
a manipulação. Quanto mais personalizada a experiência, maior a chance da
pessoa ser exposta apenas a informações e anúncios que reforçam suas visões
existentes, limitando o acesso a novas ideias. Essa personalização, aliada à
diminuição do controle e da transparência sobre como os algoritmos funcionam,
pode reduzir a sensação do usuário de ter autonomia sobre sua própria
experiência online, gerando uma preocupante dependência tecnológica e perda de
habilidades, como a capacidade de pesquisa crítica e comparação de fontes.
Para enfrentar estes e outros tantos desafios, o primeiro passo é
entender que o simples uso da ferramenta de IA não vai elevar o usuário,
magicamente, ao uso sustentável da ferramenta. Pelo contrário, usar ferramentas
de IA sem, ao mesmo tempo, buscar adquirir um conjunto específico de
competências, só vai tornar o usuário cada vez mais dependente da dita
comodidade. Mergulhará sem oxigênio nas “bolhas de filtro” e manipulações, ao
final, perderá sua própria identidade.
Neste sentido, é imperativo que a discussão se volte para um
caminho mais propositivo: a educação digital. Ao passo que as bigtechs
desenvolvem tecnologias avançadas, será crucial que os usuários sejam
capacitados para interagir com elas de forma crítica e consciente -
especialmente aquelas que fazem uso não superficial. A educação digital é o
motor para que as pessoas não se tornem meros consumidores passivos de conteúdo
e anúncios, mas sim agentes ativos, capazes de questionar a fonte da
informação, de identificar vieses e de compreender como os algoritmos moldam
sua experiência online.
É necessário, portanto, voltar a ser estudante - para aqueles que
querem ou necessitam ser usuários responsáveis e cocriadores da IA - é
mandatório.
Por que devo começar este aprendizado - para ontem? Buscar o
letramento em dados e algoritmos tornou-se uma estratégia fundamental para
mitigar riscos de desinformação e manipulação. Ao saber como a ferramenta de IA
funciona, não será alvo fácil das “alucinações”, conseguirá reverter a resposta
dada com mais um prompt que o retomará aos trilhos da sua pesquisa.
A educação digital capacita o usuário a "ir além" da
conveniência imediata, desenvolvendo o pensamento crítico necessário para
navegar com segurança e inteligência neste novo cenário digital. É um
investimento no empoderamento do usuário, garantindo que as promessas da
inteligência artificial se traduzam em benefício real, e não em uma dependência
velada.
Por onde devo começar? Neste admirável mundo novo é necessário
compreender que novas competências devem ser apreendidas, e qual a melhor forma
de aprender? voltar a ser estudante. O letramento digital é a capacidade de
acessar, avaliar e utilizar ferramentas tecnológicas, ao lidar com IA, esse
letramento digital se expande ainda mais.
O “Ai Competency Framework for Teachers” da UNESCO propõe um
conjunto central de competências para se atingir algum grau de letramento em IA
para alunos (IA CFS). Quem busca o letramento tem, portanto, como objetivo, se
tornar um cidadão responsável e criativo, preparado para prosperar na era da
IA. Este conjunto de competências ajudarão os usuários a adquirir os valores, o
conhecimento e as habilidades necessárias para examinar e compreender a IA
criticamente, incluindo as dimensões não só técnica, mas ética e social.
Na prática, o esforço para desenvolver nas pessoas uma abordagem
crítica e ética, no uso eficaz das ferramentas de IA, deverá ser fomentado por
todos os agentes sociais, na medida em que a própria tecnologia está
transformando a sociedade que conhecemos.
Retomando ao IA CFS da UNESCO, o conjunto central de competências
envolve não só conhecer as técnicas, aplicações e design de uma IA (como tendem
a se concentrar nessas habilidades os treinamentos oferecidos por empresas) -
sim, este é o primeiro passo para evitar manipulações - mas também, nas
competências voltadas a uma “mentalidade centrada no ser humano” (Human-centred
mindset); e “ética da IA” (Ethics of AI).
Assim, ao absorver tais competências por meio do esforço contínuo
de lutar contra a maré - não ser só mais um dependente da tecnologia, o usuário
que busca uma solução para seu problema ou uma resposta confiável, passará a
ter maior controle sobre suas configurações de privacidade e capacidade de
entendimento sobre as diversas perspectivas, não se limitando ao sugerido pelo
algoritmo.
E para aquele usuário ou empresa que deseja conectar sua marca,
loja, serviços ou produtos, na sua maior eficiência via ferramentas de IA, terá
segurança de que o investimento em sua campanha de anúncios não se reverterá em
prejuízos: por danos à reputação (perda de confiança de consumidores e
stakeholders); operacionais e sistêmicos (decisões de negócio enviesadas e mal
escolhidas, perdas de oportunidades e problemas de compliance e qualidade);
éticos e sociais (uso de ferramentas discriminatórias, manipulação de dados
fraudulenta, mão de obra); e legais (multas e penalidades regulatórias,
processos judiciais, violações de privacidade e segurança de dados, e violação
de propriedade intelectual).
Lucas Anjos - advogado no
escritório Cerveira, Bloch, Goettems, Hansen & Longo Advogados Associados,
pós-graduando em compliance, auditoria e controladoria pela PUC-RS, atuante no
consultivo empresarial, proteção de dados e inteligência artificial.
Certificado em LGPD pela IAPP - International Association of Privacy
Professionals. Membro da Comissão de Privacidade, Proteção de Dados e
Inteligência Artificial da OAB-SP.