Avanço da busca generativa na internet é inevitável, mas exige cautela

Transição dos motores de busca tradicionais para plataformas de IA impulsiona o GEO e requer tratamento do tema sob a ótica de governança de dados e LGPD, afirma João Lucas Saldanha, Lead Advisor em GRC e Governança Algorítmica na Tripla

Shutterstock

A forma como usuários e empresas consomem e pesquisam informações na internet passa atualmente por uma transformação estrutural. O modelo tradicional de buscas, baseado na apresentação de resultados ranqueados e links para páginas da web, passa a conviver cada vez mais com motores generativos, capazes de sintetizar respostas prontas e diretas a partir da recuperação e do cruzamento de informações provenientes de múltiplas fontes.

Essa transformação também impulsiona o chamado Generative Engine Optimization (GEO: “Otimização para Motores Generativos”), conjunto de práticas voltadas a ampliar a presença e a relevância de conteúdos nas respostas produzidas por plataformas de inteligência artificial.

A mudança na dinâmica de acesso à informação já impacta a tomada de decisão no ambiente corporativo e o comportamento dos consumidores, à medida que se prioriza cada vez mais aparecer nas respostas sintetizadas e possuir menções contextuais na web. No entanto, um especialista da Tripla, empresa de cibersegurança, tecnologia e compliance, alerta que, embora o avanço da busca generativa seja inevitável e traga ganhos expressivos de eficiência, a adaptação a esse novo modelo precisa ser acompanhada por um olhar rigoroso de governança e gestão de riscos.

“Ainda mais por se tratar de uma nova ‘buzzword’ dentro do ramo de IA, o mercado tende a olhar para GEO sob uma ótica puramente comercial ou de marketing, mas essa é uma visão limitada e potencialmente perigosa”, afirma João Saldanhda, Advisor em Governança Algorítmica da Tripla. “Além de recuperar e organizar informações, os motores generativos interpretam e sintetizam dados. E, no momento em que essa interpretação falha, ou quando as fontes utilizadas contêm informações indevidas, o impacto ultrapassa o mero risco de visibilidade e passa a representar um risco reputacional, jurídico e de privacidade.”

Alucinações e o desafio da reputação corporativa

A capacidade dos algoritmos de gerar respostas fluidas mascara um problema conhecido na governança: os riscos relacionados à factualidade, à integridade das informações e às chamadas alucinações ou confabulações dos modelos. Motores generativos podem cruzar relatórios, notícias históricas, fóruns de discussão e registros públicos, isso corrobora para a hipótese em que a plataforma interpreta um dado de forma desatualizada, incorreta ou descontextualizada. Um exemplo seria o caso em que o modelo atribui uma falha operacional inexistente, um recall já corrigido ou uma política de preços defasada a uma empresa, o que poderia dar causa a um reputacional potencialmente imediato e de difícil retratação.

Para Saldanha, o cenário exige maior monitoramento sobre o “olhar algorítmico” dentro das organizações. “O objetivo aqui não é frea a tecnologia, muito pelo contrário, direcionar seu poder também à sua capacidade de governança é fundamental. É preciso possuir o mínimo de controle sobre as informações institucionais disponíveis para esses sistemas. A empresa precisa saber o que existe em seu ambiente público e como seus dados estão expostos, para reduzir o risco de que alucinações ou interpretações equivocadas de terceiros afetem sua imagem no mercado.”