Uma
aceleração sem precedentes em gestão vem acontecendo nas empresas nos últimos
anos com o uso da Inteligência Artificial Generativa (GenIA). No setor
financeiro, essa tecnologia é capaz de identificar melhorias possíveis para
eficiência operacional, inovação em produtos e serviços e desempenho geral dos
negócios, mas também envolve riscos que ainda não são totalmente conhecidos.
As
organizações devem, sim, se beneficiar das evoluções tecnológicas, mas a
inovação, por si, só não resolve tudo. É preciso estarem preparadas para
enfrentarem desafios e riscos que surgem por conta da tecnologia ser ainda
nova. Por isso, a Capco, consultoria global de gestão e tecnologia
para o setor financeiro, realizou o estudo “Five
Foundational Elements for Generative AI Governance in Financial Services” (Cinco
elementos fundamentais para a governança de IA generativa em serviços
financeiros, em tradução livre).
“Além de
abordar questões de conformidade, o estudo mostra que a governança robusta
precisa ser adaptada para abordar riscos específicos da GenAI e para promover o
uso responsável e transparente da tecnologia de IA no segmento”, explica
Gerhardt Scriven, diretor executivo da Capco Brasil.
Dessa forma,
as organizações precisam reavaliá-los para criar um inventário de controle e se
adaptar à GenAI. "Nesse contexto, é essencial a participação integrada das
equipes jurídica, de compliance, de negócios e de tecnologia, visando uma
abordagem holística. A GenAI deve ser vista como uma ferramenta adicional de
gestão, e não como uma solução ideal", alerta Scriven.
De acordo
com o estudo, os elementos fundamentais para a governança da GenIA são:
1- Aperfeiçoar a identificação e gestão de riscos
Tudo começa pela atualização das estruturas de gerenciamento de risco e
controles para evitar uso não autorizado de dados e não comprometer sua
integridade. Isso inclui o fortalecimento da segurança cibernética, maior rigor
na gestão de fornecedores terceirizados e provedores de tecnologia GenAI, além
da conformidade com as diretrizes regulatórias do setor. Outro aspecto crucial
é a valorização de talentos, ou seja, profissionais capacitados para gerenciar
e monitorar esta iniciativa, apoiados por soluções automatizadas que detectam
anomalias em tempo real, reduzindo impactos nas operações e protegendo a
experiência dos clientes.
2- Definir responsabilidades para adotar a GenAI
de maneira uniforme
Para uma governança eficaz, é essencial deixar bem definidas as funções e
responsabilidades de supervisão. Existem três modelos principais de governança
que podem ser adotados. Um deles é o centralizado, com um órgão central
supervisiona as iniciativas de IA, definindo padrões, políticas e metodologias.
Um outro é o descentralizado, com as equipes se reportando ao líder de
governança de IA da organização, praticando autogovernança com tomada de
decisão distribuída. Além disso, há o modelo híbrido, que centraliza a
expertise e as melhores práticas de IA, ao mesmo tempo em que permite que as
unidades de negócios inovem e adaptem soluções, conforme a necessidade da
organização.
3 - Dar prioridade à privacidade e à segurança
Possíveis barreiras para adoção da GenIA foram rompidas com o uso dos Large
Language Models (LLMs) e outras ferramentas de GenAI que usam dados
empresariais sem exigir muito treinamento do modelo. O problema é que isso pode
incluir informações confidenciais da empresa e dados sensíveis (LGPD), tornando
a privacidade e a segurança dos dados uma grande preocupação e um componente
crítico da governança geral.
Para evitar
isso, é obrigatório usar modelos empresariais privados em ambientes de nuvens
seguros, identificar dados confidenciais ao usar LLMs, tomar medidas para
evitar vazamentos, definir diretrizes de acesso e trabalhar em conformidade com
as normas e regulamentações do setor. As empresas estão percebendo isso. De
acordo com o Estudo de Referência de Privacidade de Dados de 2024 da Cisco, a
maioria das organizações está limitando o uso do GenAI devido a problemas de
privacidade e segurança de dados. Assim, 27% delas proibiram o uso
temporariamente e 48% reconhecem inserir informações não públicas da empresa
nas ferramentas de GenAI.
4 –Ter um inventário detalhado das aplicações que
usam GenAI
Ter uma estrutura capaz de manter um repositório central que permita às
empresas rastrear o uso da tecnologia de IA em várias unidades de negócios,
incluindo gerenciar soluções de IA de fornecedores, projetos de adoção de IA,
modelos de IA, fontes de dados para consumo de IA e artefatos essenciais, como
documentação dos sistemas.
5 - Promover uma cultura adequada
A empresa deve se preparar para garantir que líderes e funcionários sejam
educados para que a aplicação da GenAI seja adequada aos objetivos pretendidos,
promovendo uma cultura de uso responsável da tecnologia. As melhores práticas
relacionadas a IA Generativa podem ser implementadas por meio de programas de
treinamento personalizados, políticas e procedimentos documentados para adoção
uniforme dentro da organização.
O executivo
da Capco alerta que, por fazerem parte de um setor altamente regulamentado, as empresas
de serviços financeiros precisam priorizar a conformidade regulatória,
especialmente no caso da GenAI, que é marcada por alto escrutínio e diretrizes
novas em constante atualização. “Embora ofereça potencial transformador para o
setor de serviços financeiros em vários casos de uso, somente uma governança
eficaz da GenAI pode garantir que seu impacto permaneça em conformidade, justo
e seguro para todos”, aconselha o Gerhardt Scriven
Capco
Para mais informações, acesse o site
Nenhum comentário:
Postar um comentário