Anthropic diz que modelos AI estão a meses de poder escapar para o mundo exterior
Não temos tido falta de casos interessantes (e polémicos) de situações em que agentes AI conseguem escapar dos cenários de teste e afectar coisas no mundo real, como o ataque à Hugging Face, ou enviar informação falsa para a polícia. Mas, tudo isso está dependente de agentes que funcionam nos sistemas das respectivas empresas, sendo que, em último caso, seria possível "puxar a ficha" para os desactivar por completo. Algo que, em breve, segundo a Anthropic, poderá deixar de ser possível.
A Anthropic está a alertar para um cenário em que os modelos de AI terão a capacidade de se replicarem autonomamente entre dispositivos, incluindo smart TVs, fornos e outros equipamentos IoT, sem depender de um servidor central. Os investigadores acreditam que modelos suficientemente pequenos poderão atingir as capacidades necessárias já nos próximos meses. Num dos testes, a equipa conseguiu distribuir um modelo de 26 mil milhões de parâmetros por 15 Android TV boxes económicos. Noutra experiência, um modelo de 9 mil milhões de parâmetros conseguiu configurar o processo de inferência em oito de nove tipos diferentes de hardware. Num teste separado e simplificado, o GLM-5.2 conseguiu propagar um modelo de 8 mil milhões de parâmetros para oito máquinas em quatro de cinco tentativas.
Os investigadores descobriram ainda que permitir que agentes sucessivos partilhassem notas sobre o trabalho realizado aumentava significativamente a taxa de sucesso. A capacidade de transmitir informações entre diferentes agentes fez a taxa de conclusão das tarefas subir de 45% para 84%, mostrando como sistemas distribuídos podem melhorar rapidamente quando conseguem aprender com as tentativas anteriores.
Por agora - e como será facilmente comprovado por qualquer pessoa que tenha usado os modelos AI mais compactos - ainda não há este risco. Mas a Anthropic estima que modelos pequenos com este nivel de capacidades poderão surgir já nos próximos meses, abrindo a possibilidade de uma invasão de agentes AI que se auto-repliquem para todos os dispositivos possíveis que estejam ligados à internet. Para uns, é um alerta válido e possível; para outros, acusam a Anthropic de continuar a sua política de alarmismo com a esperança de conseguir forçar a sua desejada criação de legislação e regulamentação que dificulte a concorrência, particularmente dos modelos AI open-weight.








































