Uma governança para a IA

Implantar uma governança digital sobre a inteligência artificial (IA) é uma medida que deverá ser tomada por 50% das empresas globais até 2028, segundo um relatório do Instituto Gartner, consultoria especializada em gestão e tecnologia. De acordo com o documento, a necessidade de implementar esse sistema é uma consequência direta da difusão da IA. Os sistemas das empresas estão tendo de lidar com um volume cada vez maior de dados, parte dos quais é gerada por inteligências artificiais. E, como esses dados são sujeitos a falhas – inclusive, eventualmente, “alucinações” –, é necessário deixar de supor que os dados são confiáveis e passar a controlar seu fluxo, sua origem e sua veracidade.  

Isso significa que, se, por um lado, existem vagas das empresas que serão substituídas por ferramentas de IA, por outro surgirão novas equipes de profissionais que farão a governança desses sistemas. “As organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos. À medida que os dados gerados por IA se tornam onipresentes e indistinguíveis dos dados criados por humanos, uma postura zero trust, que estabeleça medidas de autenticação e verificação, é essencial para proteger os resultados comerciais e financeiros”, explica Wan Fui Chan, vice-presidente de gestão do Gartner. Zero trust (“confiança zero”, em inglês) é um conceito de segurança cibernética que pressupõe não confiar automaticamente; sempre verificar.   

A confiabilidade dos dados da IA é uma questão que aumenta como uma bola de neve porque, segundo o Gartner, os LLMs (sigla de “grandes modelos de linguagem”, sistemas como ChatGPT, Gemini e Claude) são normalmente treinados com dados recolhidos da internet e em fontes diversas, como livros e artigos. Só que algumas dessas fontes já contêm conteúdo gerado por IA, o que causa uma retroalimentação nociva.

Para enfrentar esse novo quadro, a sugestão do Gartner é adotar uma estratégia de quatro princípios:

Governança de IA: nomear um líder responsável pela governança de inteligência artificial, estabelecendo políticas de zero trust, gerenciamento de riscos e operações de conformidade. Ele trabalhará em colaboração com as equipes de dados para que os sistemas sejam capazes de lidar com conteúdo gerado por IA.

Colaboração multifuncional: montar equipes multifuncionais incluindo segurança cibernética, dados, analytics e outras partes interessadas (que vão variar de acordo com a cadeia produtiva de cada empresa) para conduzir avaliações sobre riscos de dados e determinar políticas de segurança e novas estratégias.

Aproveitamento de políticas existentes: a recomendação do Gartner é aproveitar as estruturas de governança de dados de analytics já implementadas, apenas atualizando, para não precisar criar tudo do zero.

Alertas de metadados: gerar alertas em tempo real quando os dados estiverem desatualizados ou precisarem de nova certificação, por exemplo, são ações que ajudam a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos. 

Saiba mais sobre o tema nos sites TI Inside, IBM, Cloudfare e IP News.