Article information

• Author, Julia Braun
• Role, Da BBC Brasil em Londres
• Twitter, @juliatbraun

• Há 29 minutos

Uma campanha publicitária que mostra a falecida Elis Regina e sua filha Maria Rita fazendo um dueto provocou reações antagônicas nas redes sociais.

Na peça da montadora Volkswagen, a cantora que morreu na década de 1980 foi trazida de volta à vida usando Inteligência Artificial (IA). Ela aparece dirigindo uma Kombi e cantando Como Nossos Pais, de Belchior.

Enquanto muitos fãs e internautas elogiaram e se emocionaram com a propaganda, outros questionaram se é ético usar a imagem de uma pessoa que não está mais viva em um contexto fictício.

À BBC News Brasil, o sociólogo e coordenador de impacto do Centro de Inteligência Artificial da Universidade de São Paulo (USP) Glauco Arbix afirmou que o assunto é de fato controverso, seja porque suscita debates sobre os efeitos psicológicos de trazer pessoas mortas à vida usando tecnologia ou porque toca em questões como consentimento, veracidade e finitude da vida.

Para Arbix, há muitos riscos em usar IA de forma não transparente, informada ou consciente, especialmente quando há um deslocamento espacial ou atribuição de declarações inverídicas à pessoa retratada.

“Não é porque você pode fazer que deve fazer”, diz. “Uma coisa é você guardar na sua gaveta um filme de alguém que morreu para assistir algumas vezes, outra coisa é recriar (a imagem dela) em condições novas, como se ela ainda estivesse viva.”

Segundo o professor da USP, nossa sociedade não está pronta para lidar com esse deslocamento espacial e circunstancial de figuras já falecidas e fazer isso pode ser “perturbador” para algumas pessoas.

“A finitude da vida está sedimentada na história social. Mesmo para aqueles que creem em vida após a morte, é algo sempre mais inacessível e distinto do que vemos agora, para o que não estamos prontos como sociedade.”

A BBC Brasil procurou a Volkswagen para um posicionamento sobre o tema, mas não obteve resposta até o fechamento desta reportagem.

‘Pode destruir nome e reputação’

A campanha da Volkswagen não foi a primeira a usar a inteligência artificial para encenar realidades com pessoas já mortas.

No filme Rogue One: Uma História Star Wars, a atriz Carrie Fisher também foi recriada digitalmente para aparecer como a jovem Princesa Leia.

Em junho, o músico Paul McCartney disse que a inteligência artificial havia sido usada para que a voz de John Lennon – morto em 1980 e de quem ele foi parceiro na banda Os Beatles – pudesse ser usada numa nova música.

A tecnologia, também conhecida como deepfake, é usada com frequência ainda para criar vídeos falsos envolvendo celebridades e figuras políticas.

No caso da propaganda da montadora, a inteligência artificial foi treinada especificamente para reconhecimento facial de Elis Regina, diferentemente do que é feito em projetos de IA que utilizam tecnologia pré-treinada a partir de dados genéricos.

Segundo a empresa, a IA recebeu extensivos treinamentos com diferentes tecnologias, combinando a atuação da dublê com os movimentos e imagens de Elis, para chegar ao resultado do rosto da cantora na propaganda.

Para Arbix, apesar do vídeo da Volkswagen ter sido feito com autorização e participação da filha de Elis Regina, essa tecnologia também pode ser usada para fins perigosos, distorcendo fatos, e até na indústria da pornografia ou pedofilia.

“A pessoa pode ficar sujeita a uma recriação que pode acabar destruindo o seu nome e sua reputação”, diz. “Mas também suscita questões do ponto de vista da integridade da vida familiar.”

Segundo o sociólogo, ainda não há um consenso entre a comunidade médica sobre os efeitos psicológicos de ver ou até conversar por meio da IA com entes queridos que já faleceram.

Diversas empresas de tecnologia, entre elas a americana HereAfter AI, têm desenvolvido tecnologias para criação de uma versão digital de alguém. Dessa forma, seria possível criar um diálogo artificial com uma pessoa falecida usando informações pessoais, ferramentas de voz e inteligência artificial avançada.

“Do ponto de vista da psicologia, há quem diga que pode ajudar a manter a memória e trazer conforto para a família. Mas há também quem seja totalmente contra”, diz Glauco Arbix.

E há até quem já esteja tentando se proteger disso. O ator Robin Williams, que morreu em 2014, impôs uma restrição ao uso de sua imagem por 25 anos após seu falecimento em seu testamento.

Segundo as informações divulgadas, o americano queria evitar que sua figura fosse reproduzida por meio de hologramas ou outras tecnologias para fins comerciais.

Direito de imagem e consentimento

Quando se trata do direito de imagem ou do consentimento, o sociólogo Glauco Arbix afirma acreditar que a lei brasileira já tem todos os conflitos bem resolvidos.

“A legislação e a maneira como nossa sociedade vê isso atualmente já dão conta do dilema. As famílias têm os direitos autorais”, afirma.

“Discutir se, por exemplo, a Elis Regina autorizaria o uso da imagem dela nessa propaganda é ingênuo, porque ela também não autorizou a divulgação de fotos, mas essa questão está prevista na legislação.”

Já para Sara Suárez-Gonzalo, professora da Universidade Aberta da Catalunha e pesquisadora do tema, o debate deve ir mais além. Para ela, o consentimento de familiares não é suficiente em casos como esse.

“Mesmo quando morrem, as pessoas não são meras coisas com as quais os outros podem fazer o que quiserem. É por isso que nossas sociedades consideram errado profanar ou desrespeitar a memória dos mortos. Em outras palavras, temos certas obrigações morais para com os mortos, na medida em que a morte não implica necessariamente que as pessoas deixem de existir de forma moralmente relevante”, afirmou em um artigo publicado no site The Conversation.

Segundo Suárez-Gonzalo, o debate é ainda mais complexo quando envolve bots que coletam dados pessoais para reproduzir conversar com pessoas falecidas, pois replicar a personalidade de alguém “requer grandes quantidades de informações pessoais, como dados de redes sociais que revelam características altamente sensíveis”.

A pesquisadora afirma ainda que outra questão ética envolvida no uso da IA é a responsabilização pelos resultados da tecnologia, especialmente no caso de efeitos nocivos.

Se um bot, vídeo ou imagem criado com a tecnologia, por exemplo, causar danos à saúde mental de um familiar, quem se responsabiliza?

“É essencial abrir um debate público que possa informar melhor os cidadãos e nos ajudar a desenvolver medidas políticas para tornar os sistemas de IA mais abertos, socialmente justos e compatíveis com os direitos fundamentais”, diz no artigo.