Estadão| Opinião| IA e a apropriação da voz humana

Como força transformadora, o avanço da inteligência artificial não deve eclipsar os alicerces constitucionais

Por Lucas Jefferson R. G. Pinto e Mariana Valverde

15/05/2024 | 03h00

Você já imaginou se alguém pudesse recriar a sua voz e usá-la para fins que você não autorizou? Essa é uma possibilidade cada vez mais real com o avanço da inteligência artificial (IA) generativa, capaz de recriar vozes de forma tão realista que se torna difícil discernir entre real ou artificial. Essa tecnologia tem potencial de transformar diversas indústrias, mas traz consigo desafios jurídicos e éticos que precisam ser enfrentados.

Em janeiro de 2024, a Universal Music Group (UMG) rescindiu o licenciamento de músicas com o TikTok devido a divergências nos termos propostos, destacando a necessidade de proteção contra o uso indevido de IA para recriar vozes. Esse episódio, ilustrado pelo caso da música Heart on My Sleeve, criada por IA para imitar as vozes dos artistas The Weeknd e Drake, evidenciou os desafios decorrentes do avanço da inteligência artificial generativa, que pode levar à manipulação e à fraude.

No entanto, em maio de 2024, um novo acordo entre a UMG e o TikTok foi anunciado, abordando essas preocupações ao incluir medidas de proteção como a remoção de músicas geradas por IA sem autorização e o aprimoramento das ferramentas de atribuição de créditos. Essa evolução ressalta a importância de uma regulamentação clara para governar o uso de IA na recriação de vozes, visando a equilibrar a inovação com a proteção dos direitos individuais e a qualidade do conteúdo produzido.

A recriação de vozes humanas pela IA toca nos alicerces do direito à voz e à imagem, princípios resguardados pela Constituição federal. Essa prerrogativa assegura às pessoas o controle sobre a utilização de sua voz e imagem, assim como o direito à remuneração justa quando esses elementos são empregados. No entanto, a IA generativa desafia essa prerrogativa ao recriar vozes sem o consentimento ou conhecimento das partes envolvidas, lançando sombra sobre os fundamentos essenciais da proteção individual.

Essa violação pode causar danos à reputação, à privacidade e à profissão das pessoas afetadas. Por exemplo, se uma IA recria a voz de um cantor famoso para criar uma música ofensiva ou de baixa qualidade, isso prejudica a imagem e a carreira desse cantor. Da mesma forma, se uma IA recria a voz de uma pessoa comum para fins ilícitos, como fraudes ou extorsões, isso viola a privacidade e a segurança dessa pessoa.

A legislação atual não está preparada para lidar com essas questões complexas. A lei de direitos autorais, por exemplo, foi concebida numa época em que a produção de obras era atividade exclusivamente humana. Porém, a IA agindo de forma independente do envolvimento direto humano desafia as concepções tradicionais de autoria e propriedade intelectual. Esse descompasso normativo evidencia a necessidade urgente de revisão para incorporar as nuances que a inteligência artificial traz ao cenário da criação e autoria.

Outro ponto crucial é a responsabilidade civil das plataformas que permitem a criação e o uso de vozes artificiais. Quem deve ser responsabilizado por danos causados pela reprodução indevida de uma voz? A plataforma que hospeda a ferramenta de IA? O desenvolvedor da tecnologia? Ou o usuário que a utiliza? Essas interrogações demandam análise meticulosa e regulamentação transparente que delineie as responsabilidades em cenário em que a fronteira entre criadores, intermediários e usuários se torna cada vez mais sutil.

Iniciativas legislativas procuram abordar lacunas existentes. O Projeto de Lei (PL) 145/2024 propõe alterações no Código de Defesa do Consumidor (Lei 8.078/1990) e visa a regular emprego de ferramentas de IA em atividades publicitárias, para coibir práticas enganosas e assegurar a transparência na interação entre consumidores e anunciantes. Já o PL 146/2024 quer alterar o Código Penal (Decreto-Lei 2.848/1940), estabelecendo aumento de pena para crimes contra a honra e qualificação para o crime de falsa identidade, quando a tecnologia de inteligência artificial é utilizada para alterar a imagem ou voz de uma pessoa.

Diferentes setores da sociedade também estão se mobilizando para chamar a atenção para a necessidade de regulamentação do uso de IA. Um exemplo disso é a campanha Dublagem Viva, liderada por dubladores, que destaca a importância de estabelecer regras claras para o uso da inteligência artificial na dublagem. Sem uma regulamentação adequada, os profissionais desse setor veem suas ocupações ameaçadas, e a dublagem brasileira, reconhecida por sua qualidade e autenticidade, corre o risco de perder sua identidade única. Essa situação evidencia a urgência de medidas regulatórias que preservem empregos e a essência cultural e artística de nossa tradição de dublagem.

Como força transformadora, o avanço da IA não deve eclipsar os alicerces constitucionais. As asas da tecnologia não podem obscurecer nossos princípios. A busca pela harmonia entre benefícios da IA e respeito aos direitos individuais é nosso desafio. Para um futuro ético, a regulamentação deve evoluir, garantindo que coexistam progresso e valores fundamentais da sociedade.

*

ADVOGADOS

Opinião por Lucas Jefferson R. G. Pinto

Advogado

Mariana Valverde

Advogada

• https://www.estadao.com.br/opiniao/espaco-aberto/ia-e-a-apropriacao-da-voz-humana/#:~:text=A%20recria%C3%A7%C3%A3o%20de%20vozes%20humanas,quando%20esses%20elementos%20s%C3%A3o%20empregados.