A Check Point Research (CPR) lançou uma análise inicial do ChatGPT4, explorando cinco cenários que podem permitir aos actores da ameaça racionalizar esforços e preparativos maliciosos mais rapidamente e com mais precisão. Nalguns casos, mesmo os actores “não-técnicos” podem criar ferramentas nocivas.
Os cinco cenários fornecidos abrangem imitações de bancos, shells invertidas, malware C++ e muito mais. Apesar da presença de salvaguardas no ChatGPT4, algumas restrições podem ser facilmente contornadas, permitindo que os actores da ameaça atinjam os seus objectivos sem grandes impedimentos. A CPR adverte sobre o potencial do ChatGPT4 para acelerar a execução de crimes informáticos e continuará a sua análise da plataforma nos próximos dias.
Em certos casos, estes cenários permitem a indivíduos “não-técnicos” criar ferramentas prejudiciais, como se o processo de codificação, construção e embalagem fosse uma receita simples. Apesar da presença de salvaguardas no ChatGPT4, algumas restrições podem ser facilmente contornadas, permitindo que os actores da ameaça atinjam os seus objectivos sem grandes impedimentos.
A CPR está a partilhar cinco cenários de utilização potencialmente maliciosa do ChatGPT4.
- C++ Malware que recolhe ficheiros PDF e os envia para o FTP;
- Phishing: Personificação de um banco;
- Phishing: E-mails aos empregados;
- Concha reversa em PHP;
- Programa Java que descarrega e executa putty que pode ser lançado como um powerhell escondido.
O chefe de Pesquisa de Vulnerabilidades de Produtos na Check Point Software, Oded Vanunu, sobre este assunto, explicou que “depois de encontrarmos várias formas de utilização do ChatGPT pelos hackers, e casos reais em que o mesmo se encontrava, passámos as últimas 24 horas a ver se alguma coisa mudou com a versão mais recente do ChatGPT. Embora a nova plataforma tenha melhorado claramente a muitos níveis, podemos, no entanto, informar que existem cenários potenciais onde os actores mais podem acelerar o cibercrime no ChatGPT4. Este pode capacitar os mesmos, até as pessoas que não estão envolvidas na área de TI, com as ferramentas para acelerar e validar a sua actividade. Os actores maliciosos podem também utilizar as respostas rápidas do ChatGPT4 para superar os desafios técnicos no desenvolvimento de malware. O que estamos a ver é que o ChatGPT4 pode servir tanto o lado bom como o lado mau. Os bons actores podem usar o ChatGPT para elaborar e desenvolver um código útil à sociedade, mas, simultaneamente, os maus actores podem usar esta tecnologia de IA para a rápida execução de crimes cibernéticos. Como a IA desempenha um papel significativo e crescente em ataques e defesa cibernética, esperamos que esta plataforma seja também utilizada por hackers, e passaremos os dias seguintes a compreender melhor como”.
