O violinista chegou a ter um concerto cancelado depois de os organizadores o pesquisarem e se depararem com a IA do Google a dizer de que era um criminoso sexual. A informação era falsa.
O músico canadiano Ashley MacIsaac tornou-se uma vítima inesperada de erros de inteligência artificial depois de o resumo de pesquisa gerado por IA da Google o ter identificado erradamente como um criminoso sexual, levando ao cancelamento de uma atuação agendada na Nova Escócia.
De acordo com o jornal The Globe and Mail, os organizadores da Primeira Nação Sipekne’katik, localizada a norte de Halifax, cancelaram uma atuação de MacIsaac depois de se terem deparado com uma “Visão Geral de IA” da Google que descrevia incorretamente o violinista e cantor como um criminoso sexual. O erro parece ter ocorrido porque a IA misturou a biografia de MacIsaac com a de outra pessoa com o mesmo nome.
MacIsaac, uma figura conhecida na música canadiana há décadas, disse que o erro o colocou numa posição perigosa e profundamente angustiante. “A Google errou e colocou-me numa situação perigosa”, disse ao jornal. Embora a Google já tenha corrigido o resumo gerado por IA, o músico afirmou que o mal pode já estar feito.
Como artista em digressão, MacIsaac depende da sua reputação e da confiança do público para conseguir concertos. O artista disse que não há forma de saber quantos promotores ou salas de espetáculos podem ter decidido não trabalhar com ele depois de verem a informação falsa, ou quantos potenciais fãs podem ter acreditado nela sem nunca terem visto a correção. “As pessoas devem estar cientes de que precisam de verificar a sua presença online para ver se o nome de outra pessoa aparece”, alertou.
Assim que o erro foi identificado, a Primeira Nação Sipekne’katik emitiu um pedido formal de desculpas e estendeu um convite para uma futura apresentação. Numa carta partilhada com o The Globe and Mail, um porta-voz reconheceu os danos causados pelo erro, escrevendo que a comunidade “lamenta profundamente o dano que este erro causou à sua reputação, ao seu sustento e ao seu sentimento de segurança pessoal”. A declaração enfatizou que a situação resultou de um caso de identidade trocada gerado por IA, e não de qualquer ação de MacIsaac.
A Google, por sua vez, defendeu os seus sistemas numa declaração geral, referindo que os resultados de pesquisa, incluindo as Visões Gerais de IA, são “dinâmicos e mudam frequentemente”. Um representante da empresa afirmou que os erros são utilizados para melhorar o sistema e podem levar a ações corretivas de acordo com as políticas da Google.
No entanto, os críticos apontam que os danos na reputação não são facilmente desfeitos, principalmente quando as alegações falsas envolvem crimes graves.
(ZAP)