Google é processado em R$ 100 milhões por falsos médicos de IA

Uma ação civil pública movida por entidades da sociedade civil pede uma indenização de R$ 100 milhões ao Google por conteúdos publicados no YouTube que utilizariam avatares gerados por inteligência artificial para se passar por médicos e divulgar tratamentos sem comprovação científica.

O processo foi protocolado na Comarca de São Paulo pelo Instituto de Fiscalização e Controle (IFC) e pelo Instituto Tecnologia e Equidade (IT&E). Segundo as entidades, ao menos 29 canais em português utilizam personagens virtuais vestidos de médicos e já somam cerca de 70 milhões de visualizações.

CONTEÚDOS RELACIONADOS:

• Google retira do ar link com texto contra o PL das Fake News
• Cade investiga Google por uso de conteúdo jornalístico

Avatares de IA seriam usados para divulgar tratamentos

De acordo com a ação, os vídeos apresentam personagens fictícios de jaleco como se fossem profissionais de saúde. Entre os conteúdos citados estão um guia que promete regenerar o coração e as artérias e outro que oferece orientações para o controle da glicose.

A petição também menciona um canal que reconhece utilizar um avatar de inteligência artificial, mas que, segundo os autores, reproduz a imagem de uma médica conhecida sem identificar adequadamente os vídeos como conteúdos produzidos por IA.

As entidades afirmam que o público idoso estaria entre os principais alvos dos conteúdos. Segundo a ação, os vídeos utilizariam mensagens alarmistas para incentivar o abandono de tratamentos convencionais e a adoção de terapias sem eficácia científica comprovada.

Quer mais notícias de tecnologia? Acesse nosso canal no WhatsApp

Entidades apontam falhas do YouTube

Os autores da ação sustentam que o YouTube teria permitido a permanência e a monetização dos conteúdos, apesar das próprias regras da plataforma sobre materiais que possam representar riscos à saúde e sobre a identificação de conteúdos fotorrealistas produzidos por inteligência artificial.

A petição também aponta possível violação do Código de Defesa do Consumidor, sob a alegação de que a plataforma permitiria a veiculação de publicidade considerada enganosa.

Outro ponto levantado é que alguns canais teriam permanecido ativos mesmo após alertas de órgãos públicos. Segundo as entidades, determinados perfis teriam sido apenas renomeados ou duplicados para contornar os mecanismos de controle da plataforma.

Órgãos públicos já haviam feito alertas

Antes do processo, o Ministério da Saúde e a Advocacia-Geral da União (AGU) teriam alertado o YouTube sobre conteúdos considerados enganosos. De acordo com a petição, os órgãos solicitaram a remoção de 97 perfis.

As entidades afirmam que parte dos canais continuou funcionando depois dos alertas e que novos perfis teriam sido utilizados para substituir contas removidas ou alteradas.

O que as entidades pedem à Justiça

Além da indenização de R$ 100 milhões por danos morais coletivos, o processo pede que a Justiça determine a retirada dos vídeos apontados como irregulares, suspenda os pagamentos aos canais e interrompa as recomendações automáticas de conteúdos semelhantes.

A ação também solicita a inclusão de alertas nos vídeos e a adoção de mecanismos de verificação dos supostos profissionais apresentados nos conteúdos. A proposta é que a plataforma confira se os médicos possuem registro ativo no Conselho Federal de Medicina (CFM).

O processo foi assinado pelos advogados Márlon Reis, Matheus Lopes, Luciano Caparroz, Mikaelle Leão e Édison de Deus.