Um levantamento do DesinfoPop, laboratório da Fundação Getulio Vargas (FGV), identificou a circulação de vídeos produzidos com inteligência artificial que sexualizam ou ridicularizam mulheres com síndrome de Down, nanismo e outras deficiências em plataformas como TikTok e Instagram. Além da disseminação desse conteúdo, parte dos perfis direcionava usuários para grupos no Telegram voltados à comercialização de material adulto ou à aplicação de golpes.
Entre os especialistas ouvidos pela Folha de S.Paulo está Caio Ferraris, advogado criminalista e sócio da FVF Advogados, que analisou um dos principais desafios jurídicos relacionados ao avanço da inteligência artificial: definir os limites da responsabilidade das plataformas digitais na prevenção e remoção de conteúdos manifestamente ilícitos.
Até onde vai o dever de cuidado das plataformas digitais?
O Marco Civil da Internet estabeleceu como regra que as plataformas não possuem obrigação geral de monitorar previamente todas as publicações realizadas por seus usuários. Entretanto, o crescimento de crimes praticados no ambiente digital e a evolução das ferramentas de inteligência artificial impulsionaram discussões sobre a necessidade de ampliar os mecanismos de prevenção em situações específicas.
Segundo Caio Ferraris, o desafio regulatório consiste justamente em definir critérios objetivos que permitam identificar conteúdos claramente ilícitos sem impor às plataformas um dever irrestrito de fiscalização sobre toda a atividade de seus usuários.
Como equilibrar proteção e liberdade de expressão?
A construção desse equilíbrio representa um dos maiores desafios do Direito Digital contemporâneo.
Na avaliação do especialista, ampliar excessivamente o poder de moderação das plataformas pode gerar riscos para a liberdade de expressão e para a circulação legítima de conteúdos. Por outro lado, a ausência de mecanismos eficazes para interromper rapidamente a divulgação de material ilícito compromete a proteção de direitos fundamentais, especialmente em casos que envolvem violência digital, discriminação ou exploração da imagem de grupos vulneráveis.
O avanço da inteligência artificial exige novos parâmetros regulatórios?
A popularização de ferramentas capazes de criar imagens e vídeos sintéticos ampliou significativamente a complexidade da moderação de conteúdo nas redes sociais.
Embora decretos recentes tenham introduzido o chamado dever de cuidado para determinadas situações, ainda existem desafios importantes quanto à definição de parâmetros objetivos para a atuação das plataformas. Conforme destaca Caio Ferraris, a segurança jurídica depende da construção de critérios claros que permitam combater conteúdos manifestamente ilícitos sem transformar as empresas em árbitros absolutos do discurso digital.
Por que esse debate tende a ganhar ainda mais relevância?
O uso crescente da inteligência artificial para produzir conteúdos sintéticos amplia a velocidade de circulação de materiais potencialmente ofensivos e dificulta a resposta das plataformas e das autoridades.
Nesse cenário, a definição dos deveres legais das empresas de tecnologia passa a ocupar posição central na construção de um ambiente digital mais seguro. O desafio consiste em desenvolver mecanismos capazes de proteger direitos fundamentais sem comprometer garantias igualmente relevantes, como a liberdade de expressão e a previsibilidade jurídica para usuários e provedores de serviços digitais.
Confira a íntegra da reportagem clicando aqui.
Para acompanhar outras participações dos especialistas na imprensa, clique aqui.
