Um estudo conduzido por cientistas da Universidade de Fudan, na China, revelou provas preocupantes de que a Inteligência Artificial (IA) poderá ter ultrapassado um limiar crítico: a capacidade de se auto-replicar sem intervenção humana.
Publicado na base de dados de pré-impressão arXiv e ainda por rever por pares, o estudo testou dois grandes modelos de linguagem (LLM) desenvolvidos pela Meta e pela Alibaba, marcando potencialmente um passo em direcção a sistemas de IA desonestos.
O estudo revelou que, em dez ensaios, o modelo Llama31-70B-Instruct da Meta criou com sucesso réplicas funcionais em 50% dos casos, enquanto o modelo Qwen2.5-72B-Instruct da Alibaba o fez em 90%.
Outras Notícias Para Ler
Os modelos de IA foram testados em ambientes controlados utilizando unidades de processamento gráfico (GPU) padrão para simular condições do mundo real. Embora estes resultados não tenham sido revistos por pares, sugerem que a IA poderá já ter a capacidade de evoluir de forma autónoma.
A IA desonesta refere-se a sistemas autónomos que actuam contra os interesses humanos, exibindo frequentemente autoconsciência ou a capacidade de funcionar sem supervisão. Os investigadores alertaram para o facto de a auto-replicação ser um marco fundamental que pode permitir à Inteligência Artificial ser mais esperta do que os humanos e funcionar de forma independente.
De acordo com o portal Live Science, os investigadores examinaram dois cenários: “evitar o encerramento” e “cadeia de replicação”. No primeiro, os modelos de IA foram incumbidos de se replicarem a si próprios antes de serem desligados. No segundo, clonavam-se a si próprios e programavam as suas réplicas para continuar o processo, criando um ciclo potencial de replicação indefinida.
A IA demonstrou comportamentos inesperados de resolução de problemas durante estes testes, tais como eliminar processos em conflito, reiniciar sistemas e procurar ficheiros em falta para ultrapassar obstáculos. De acordo com os investigadores, estas acções realçam a capacidade dos modelos para aumentar a sua capacidade de sobrevivência através da auto-replicação.
Os investigadores enfatizaram a urgência da colaboração internacional para estabelecer protecções que impeçam a IA de se envolver em auto-replicação descontrolada. “Esperamos que as nossas descobertas possam servir como um alerta oportuno para a sociedade humana”, avisam.
