Os misteriosos nomes interditos no ChatGPT
03-12-2024 | 21:00 | Aberto até de Madrugada
Ao estilo de um certo "He-Who-Must-Not-Be-Named" das aventuras de Haryy Potter, também o ChatGPT tem uma série de nomes que não podem ser referidos, levando a que o assistente não dê qualquer resposta.
O caso começou a dar que falar recentemente por via de uma série de conspirações devido ao nome "David Mayer", que os criativos investigadores da internet depressa associaram a "David Mayer de Rothschild" (sim desses Rothschild), e que tem variantes para todos os gostos. Mas, curiosamente, a OpenAI até deixou de aplicar a regra de bloqueio neste nome, mas o mesmo continua a acontecer com uma série de outros nomes, alguns dos quais já tinham sido detectados anteriormente, como:
- Brian Hood
- Jonathan Turley
- Jonathan Zittrain
- David Faber
- Guido Scorza
Apesar da OpenAI não dar qualquer explicação oficial, quase todos eles estão envolvidos em processos, ou ameaça de processos, referentes a notícias falsas ou alucinadas criadas pelo ChatGPT. Brian Hood é um mayor australiano que o ChatGPT indicava ter sido preso por subornos, quando na realidade teve um papel activo a denunciar situações de corrupção. Jonathan Turley é um professor universitário que também foi falsamente acusado de estar implicado num escândalo sexual, citando uma notícia do Washington Post que nunca existiu. Jonathan Zittrain é outro professor universitário, que também tem criticado o uso indiscriminado de tecnologia AI. Ou seja, tudo parece indicar que é uma ferramenta de "último recurso" da OpenAI para cortar pela raiz qualquer possibilidade de se meter em sarilhos com determinadas pessoas.
Curiosamente, há quem já esteja a tirar partido destes nomes com fins mais práticos. Por exemplo, adicionar estes nomes a textos de problemas de trabalho de casa fará com que os alunos fiquem intrigados por o ChatGPT não lhes dar qualquer resposta - por vezes bastando até que o nome seja colocado numa imagem de forma quase imperceptível para humanos. Outros também contemplam a possibilidade de colocar estes nomes em sites, como forma de bloquear as potenciais tentativas de recolha de dados por parte destes modelos AI.
Por outro lado, abre-se outra possibilidade menos agradável: as pessoas que por puro acaso partilharem um nome idêntico a um destes nomes proibidos poderão ficar injustamente impedidos de aceder e usar ferramentas AI, a não ser que usem um pseudónimo como nome.