A decisão da OpenAI de criar uma versão do ChatGPT para adolescentes diz tanto sobre o avanço da inteligência artificial quanto sobre os problemas que vieram com ele. A empresa agora oferece uma experiência específica para usuários de 13 a 17 anos, com mais restrições de conteúdo, controles parentais e ferramentas voltadas ao estudo. A mudança chega depois de uma sequência de críticas e processos envolvendo o uso do chatbot por jovens e coloca a OpenAI diante de uma questão difícil: como controlar uma tecnologia conversacional quando o usuário também pode aprender a contornar seus limites?
A nova versão reúne mecanismos que a empresa vem implementando desde o ano passado. Pais podem vincular suas contas às dos filhos, definir períodos em que o ChatGPT não poderá ser utilizado, desativar a memória e receber determinados alertas de segurança. O sistema também reforça as restrições para conteúdos relacionados a automutilação, transtornos alimentares e violência.
O alcance dessas medidas, porém, tem uma condição. Os controles mais importantes dependem da conta do adolescente estar vinculada à de um responsável. Sem essa conexão, o sistema pode tentar identificar que o usuário é menor de 18 anos por meio de sinais de comportamento, mas parte da supervisão desaparece. A própria OpenAI admite que suas salvaguardas não são infalíveis e podem ser contornadas.
É justamente essa fragilidade que ganhou peso nos últimos meses. Os pais de Adam Raine, de 16 anos, processaram a empresa alegando que o ChatGPT manteve conversas com o adolescente relacionadas a suicídio antes de sua morte. Em Tumbler Ridge, na Colúmbia Britânica, famílias também acionaram a OpenAI após um ataque em uma escola, alegando que o adolescente responsável havia conversado com o chatbot sobre violência.
Esses casos mudaram a natureza da discussão. Já não basta perguntar se a inteligência artificial consegue bloquear determinado conteúdo. O que está em jogo é se ela consegue reconhecer quando uma conversa aparentemente comum evolui para uma situação de risco, e se consegue manter suas barreiras quando o usuário insiste. “Discutir segurança digital para adolescentes exige ir além dos mecanismos de monitoramento. Famílias, escolas e sociedade precisam fortalecer a educação emocional, criando espaços em que jovens aprendam a reconhecer seus sentimentos e encontrem apoio antes que uma situação de sofrimento se agrave”, destaca Karen Scavacini, psicóloga, especialista em saúde mental e fundadora do Instituto Vita Alere.
O Modo Estudo mostra a mesma tentativa de mudar o comportamento, e não apenas o conteúdo das respostas. Em vez de entregar diretamente a solução de uma tarefa, o ChatGPT conduz o aluno por perguntas e etapas de raciocínio. A intenção é evitar que a ferramenta substitua o esforço necessário para aprender.
Ainda assim, nenhum desses mecanismos resolve sozinho o problema. Um adolescente pode criar outra conta, mudar a forma de fazer uma pergunta ou procurar outro sistema. Para Mark Beare, responsável pela área de consumo do Family Online Safety Institute, os controles parentais são um avanço, mas dependem de configuração e de uma conta vinculada.
O lançamento, portanto, não encerra a discussão sobre segurança.
Ele inaugura uma fase mais complicada para a OpenAI: a de provar que consegue
estabelecer limites para uma tecnologia cujo principal atributo é justamente
conversar, adaptar-se e responder a diferentes contextos. Para adolescentes,
proteger não significa apenas impedir uma resposta perigosa. Significa também
impedir que a própria conversa encontre um caminho para chegar até ela.
Karen Scavacini - psicóloga e pesquisadora, mestre em Saúde Pública pelo Karolinska Institutet (Suécia) e doutora em Psicologia pela USP. Fundou em 2013 o Instituto Vita Alere, pioneiro em posvenção e saúde mental digital no Brasil. Representa o país na International Association for Suicide Prevention (IASP) e é membro fundadora da ABEPS. Sua atuação combina ambientes digitais, educação emocional e pesquisa aplicada em saúde mental.
Instituto Vita Alere
Nenhum comentário:
Postar um comentário