Família de Christopher Pelkey criou um vídeo com sua imagem direcionado ao homem condenado por seu assassinato durante uma briga de trânsito, em novembro de 2021. Rosto de Christopher Pelkey, vítima de assassinato no Arizona
AP Photo/Matt York
Uma versão de inteligência artificial de uma vítima de homicídio marcou presença em um julgamento no Arizona, nos Estados Unidos, na semana passada.
A família de Christopher Pelkey usou IA para criar um vídeo com sua imagem em um depoimento direcionado ao homem condenado por seu assassinato durante uma briga de trânsito em 2021.
A interação ocorreu durante a audiência onde o condenado, Gabriel Paul Horcasitas, receberia a sentença.
A versão de Pelkey feita com IA disse ao atirador que lamentava que eles tivessem se encontrado no dia do crime, naquelas circunstâncias, e afirmou que, em outra vida, os dois poderiam ter sido amigos.
“Eu acredito no perdão e em um Deus que perdoa. Sempre acreditei e ainda acredito”, disse a versão de Pelkey a Horcasitas. Depois, ela passou a incentivar as pessoas a aproveitarem cada dia ao máximo e a amar umas às outras.
O crime ocorreu na tarde de 13 de novembro de 2021, quando os dois motoristas estavam parados num semáforo. De acordo com os registros, Pelkey foi baleado após sair de sua caminhonete e ir até o carro de Horcasitas.
Pelkey tinha 37 anos na época do assassinato. Horcasitas, de 54, foi condenado por homicídio culposo e sentenciado a 10 anos e meio de prisão.
‘IA do job’: brasileiros ganham dinheiro criando mulheres virtuais para conteúdo adulto
Cursos de ‘IA do job’ prometem dinheiro e ensinam a usar fotos de modelos sem autorização
Caso incomum
Essa é possivelmente a primeira vez que a inteligência artificial está sendo usada para recriar vítimas em julgamentos nos EUA.
Embora o uso de IA no sistema judiciário esteja se expandindo, ela normalmente é utilizada para tarefas administrativas, pesquisa jurídica e preparação de casos. No próprio Arizona, ela ajudou a informar o público sobre decisões judiciais importantes.
Mas o uso de IA para gerar declarações de impacto da vítima é uma nova — e legal, pelo menos no Arizona — ferramenta para compartilhar informações com o tribunal fora das fases probatórias.
O juiz Todd Lang, do Tribunal Superior do Condado de Maricopa, responsável por julgar o caso, afirmou que o vídeo dizia algo sobre a família de Pelkey – que, anteriormente, havia expressado indignação com o assassinato e pedido que Horcasitas recebesse a pena máxima.
Mesmo assim, segundo o juiz, os familiares “permitiram que Chris falasse com o coração, como vocês o viam”.
O advogado de Horcasitas, Jason Lamm, disse à Associated Press que eles apelaram da sentença poucas horas após a audiência. Lamm disse que o tribunal de apelações deve avaliar se o juiz se baseou no vídeo da IA, de forma indevida, ao proferir a sentença.
Christopher Pelkey, vítima de assassinato no Arizona
Tim Wales via AP
Ideia partiu da irmã
A irmã de Pelkey, Stacey Wales, encontrou dificuldades para elaborar seu depoimento. Foi aí que ela teve a ideia de permitir que a vítima “falasse por si”.
Wales escreveu um roteiro para o vídeo gerado por IA, ressaltando que o irmão era uma pessoa que sabia perdoar. Ela, que é consultora de produtos de software, levou a ideia para seu marido, Tim.
Ele e um amigo, que têm experiência profissional na criação de avatares de IA semelhantes a humanos, usaram um videoclipe de Pelkey para replicar sua voz e padrões de fala.
Depois, geraram a imagem de Pelkey por meio de uma única foto dele, manipulando-a digitalmente para remover óculos e o logotipo de um chapéu, além de editar sua roupa e aparar sua barba.
‘IA física’: conheça a aposta de gigante da tecnologia para acelerar criação de robôs humanoides
Entenda a polêmica da trend do ‘Studio Ghibli’
Evidências geradas por IA?
No Arizona, as vítimas podem dar suas declarações em qualquer formato digital, segundo a advogada de direitos das vítimas Jessica Gattuso, que representou a família.
Gary Marchant, membro do comitê e professor de direito na Universidade Estadual do Arizona, disse entender por que a família de Pelkey recorreu ao vídeo de IA. Mas alertou que o uso dessa tecnologia pode abrir caminho para que mais pessoas tentem introduzir evidências geradas por IA nos tribunais.
“Há uma preocupação real entre judiciário e advogados de que evidências deepfake sejam cada vez mais utilizadas”, disse ele.
“É fácil criá-las, e qualquer pessoa pode fazê-las pelo celular. Isso pode ser incrivelmente influente porque juízes e jurados, assim como todos nós, estão acostumados a acreditar no que veem.”
Marchant citou um caso recente em Nova York, no qual um homem sem advogado usou um vídeo gerado por IA como parte de sua defesa. Os juízes levaram apenas alguns segundos para perceber que o homem no vídeo não existia.
No caso do Arizona, Wales disse que o vídeo gerado por IA foi aceito porque o juiz já dispunha de quase 50 cartas de familiares e amigos que ecoavam a mesma mensagem.
“Todos sabiam que Chris perdoaria essa pessoa”, disse Wales.