Análise de segurança do ChatGPT4 aponta cenários potenciais para acelerar o cibercrime

A Check Point Research (CPR) deu uma olhada inicial no ChatGPT4 e encontrou vários cenários que permitem aos cibercriminosos simplificarem preparações maliciosas, levando a resultados mais rápidos e precisos

Imagem ilustrativa - Divulgação Check Point Software

A Check Point Research (CPR), divisão de Inteligência em Ameaças da Check Point Software Technologies, divulga uma análise inicial do ChatGPT4, revelando cinco cenários que podem permitir que os atacantes otimizem esforços e preparações maliciosas com mais rapidez e precisão.

Em alguns casos, mesmo os atacantes não técnicos podem criar ferramentas prejudiciais. Os cinco cenários identificados abrangem representações de bancos, shells reversos, malware C++ e muito mais. Apesar da presença de proteções no ChatGPT4, algumas restrições podem ser facilmente contornadas, permitindo que os atacantes atinjam seus objetivos sem muitos obstáculos. A CPR alerta para o potencial do ChatGPT4 acelerar a execução de crimes cibernéticos; os pesquisadores continuarão analisando a plataforma nos próximos dias.

Os cinco cenários de uso potencialmente malicioso do ChatGPT4 identificados pela CPR são:

1.Malware C++ que coleta arquivos PDF e os envia para FTP.
2.Phishing: representação de um banco.
3.Phishing: e-mails para funcionários.
4.Shell reverso do PHP (Hypertext Preprocessor).
5.Programa Java que baixa e executa o PuTTy (um software de emulação de terminal grátis e de código livre) que pode ser iniciado como um powershell oculto.

De acordo com Oded Vanunu, chefe de Pesquisa de Vulnerabilidade de Produtos da Check Point Software, após descobrir várias maneiras pelas quais o ChatGPT pode ser usado por hackers e casos reais no qual foi aplicado, a equipe da CPR passou as últimas 24 horas observando se algo havia mudado com a versão mais recente do ChatGPT. “Embora a nova plataforma tenha claramente melhorado em muitos níveis, podemos, no entanto, relatar que existem cenários potenciais em que os atacantes podem acelerar o cibercrime no ChatGPT4. Isso porque o ChatGPT4 pode capacitar os cibercriminosos, mesmo aqueles que não são técnicos, com as ferramentas para acelerar e validar suas atividades; eles também podem usar as respostas rápidas do ChatGPT4 para superar desafios técnicos no desenvolvimento de malware. “

Vanunu comenta ainda que o ChatGPT4 pode servir tanto a bons quanto a maus agentes de ameaças. Os bons podem usar o ChatGPT para criar e juntar códigos que sejam úteis para a sociedade; mas, simultaneamente, os maus podem usar essa tecnologia de IA para a execução rápida de crimes cibernéticos. “Como a IA desempenha um papel significativo e crescente nos ataques cibernéticos e na defesa, esperamos que essa plataforma também seja usada por hackers para entender melhor como o fazem”, finaliza Vanunu.

Os detalhes técnicos da análise do ChatGPT4 podem ser lidos no blog da Check Point Research (CPR).