Criações hiper-realistas, com rostos, vozes, expressões e cenários que imitam com perfeição um programa televisivo de auditório estão confundindo até quem já é familiarizado com o universo digital. O avanço é tão impressionante que já existem serviços que criam vídeos com apresentadores, entrevistados, especialistas em determinados assuntos e pessoas reagindo a tudo isso na plateia. Porém, nada é real.

É o caso do “Programa Marisa Maiô”, comandado pela apresentadora fictícia homônima. No Instagram, o perfil da comunicadora, que traja apenas maiô preto e um sapato salto alto da mesma cor, é seguido por 200 mil pessoas. Os conteúdos são divertidos e parodiam atrações da TV que nos acostumamos a ver na grade das emissoras brasileiras.

No início do mês, os vídeos de Marisa Maiô, criados com a utilização de inteligência artificial pelo artista independente e roteirista Raony Phillips, não só viralizaram nas redes, como também escancararam uma série de reflexões e preocupações sobre os rumos da tecnologia, especialmente no que diz respeito ao uso das IA’s.

Raony Phillips já declarou nas redes sociais que utiliza diferentes versões da tecnologia do Google para criar o conteúdo. Para o primeiro episódio do programa fictício, ele empregou o Veo 2, ferramenta de IA generativa disponível para assinantes do plano Google AI Pro. O segundo vídeo foi produzido com o Veo 3, versão mais avançada acessível apenas para assinantes do plano Google AI Ultra, cuja assinatura tem valor inicial de R$ 609.

Golpes com perfis fakes de IA pedindo dinheiro, simulando situações de vulnerabilidade ou vendendo falsas promessas já são uma realidade. Como se proteger das armadilhas? Quais são os perigos de vivermos em um mundo em que nem tudo o que vemos é real? E os riscos éticos, sociais e emocionais dessa nova era digital?

Há dez dias, Luciano Huck compartilhou, em parceria com o recém-criado Instituto Inteligência Artificial de Verdade, um vídeo que mostra sua intensa preparação para ir ao espaço. O conteúdo foi 100% roteirizado por seres humanos. Entretanto, imagens, músicas, personagens, cenários, elementos… Tudo isso foi gerado por inteligência artificial.

No texto que acompanha a publicação, Huck relfetiu sobre o uso da IA: “De um lado, ela vai transformar positivamente a forma como a gente estuda, trabalha, cria, empreende, se comunica e até se relaciona. Mas ela também pode confundir, enganar e até manipular. A gente precisa aprender a diferenciar o que é real, o que é artificial de verdade e o que é artificial de mentira – ou seja, o que veio pra ajudar e o que veio pra enganar”.

Letramento digital

Segundo a diretora do Instituto de Referência Internet e Sociedade (Iris) e mestre em Política Científica e Tecnológica pela Unicamp, Ana Bárbara Gomes, a capacidade de criação da IA aliada à criatividade humana pode gerar conteúdos interessantes, benéficos e inofensivos. O que a preocupa é a capacidade da população para interpretar o que é uma criação artificial.

“O Brasil tem níveis baixos de letramento digital comparado a outros países. Boa parte da nossa população não tem domínio das ferramentas digitais para estar na internet de forma segura, informativa e emancipatória”, pondera a pesquisadora.

O acelerado desenvolvimento de tecnologias como a IA nos coloca, acrescenta Ana Bárbara, diante de um cenário em que os conteúdos são cada vez mais sofisticados, convincentes e indiferenciáveis.

“Hoje discutimos muito sobre integridade da informação, sobre como desenvolvemos estratégias para que o as informações que circulam no ambiente digital sejam íntegras, verdadeiras e confiáveis. O que temos observado é um cenário de desordem informacional que afeta nossas relações, nossa democracia, nossa percepção de mundo”,   

O professor Flávio Souza, doutor em engenharia elétrica e cofundador e coordenador do Programa de Inovação Ânima Lab HUB, do grupo Ânima, alerta sobre a necessidade de investimentos cada vez maiores quando o assunto é a educação digital da população. “A capacidade de análise do que é real ou não vai depender muito do conhecimento da pessoa, não da IA. Precisamos caminhar muito nesse sentido”, ressalta.

Souza destaca que o uso da IA ter impacto positivo em áreas diversas, aumentando a produtividade e a proteção de dados, mas o uso irresponsável das tecnologias traz riscos de ordem ética, social e emocional: “A IA tem muitas capacidades e competências que estão prontas em minutos, enquanto as pessoas demorariam semanas para aprender, mas ao dar características a personagens, por exemplo, é preciso refletir se isso está ferindo algum tipo de credo ou os direitos de outra pessoa”.

Regulação das redes é benéfica

A pesquisadora Ana Bárbara Gomes elenca as principais urgências para combater o mau uso da inteligência artificial e a difusão de conteúdos ilegais, golpes e notícias falsas: desenvolvimento do letramento midiático, capacidade de buscar e identificar uma boa fonte de informação, habilidade de navegar na internet para além das redes sociais, domínio de ferramentas de segurança e autonomia no uso das tecnologias.

“Isso tudo faz parte de uma série de habilidades que precisam ser estimuladas para que as pessoas estejam mais seguras e conscientes online”, diz a diretora do Instituto de Referência Internet e Sociedade (Iris) e mestre em política científica e tecnológica pela Unicamp.

Ana Bárbara Gomes também destaca a necessidade de regulamentar as redes sociais. Ao mesmo tempo, ressalta a importância de formar pessoas preparadas para interagir com essas tecnologias de maneira responsável e consciente. 

“A regulação é indispensável para definirmos os parâmetros éticos para a criação de tecnologias de IA, de responsabilidades de quem cria e disponibiliza ferramentas, e de sistemas de auditoria para combater vieses e discriminação”, conclui.