Quebra de segurança em dispositivos móveis por IAs generativas não é motivo para pânico

Embora algumas ferramentas, como o Google Bard e o ChatGPT, possam abrir brechas para criminosos, a orientação sobre boas práticas para as organizações permanece a mesma

Imagem de Freepik

Especialistas da Check Point Software Technologies Ltd. apontaram, em recente pesquisa de segurança sobre o Google Bard e o ChatGPT – aplicativos de Inteligência Artificial (IA) generativa –, que esse tipo de ferramenta facilita a quebra de segurança de dispositivos móveis, de acordo com reportagem publicada pelo portal Tiinside. Os resultados, segundo a matéria, foram alarmantes: o Bard, ao contrário do ChatGPT, apresentou poucas restrições na criação de e-mails de phishing (técnica de engenharia social usada para enganar usuários de internet usando fraude eletrônica para obter informações confidenciais) e foi suscetível à manipulação para desenvolver keyloggers maliciosos (sistemas que registram tudo o que é digitado no teclado e encaminha para criminosos).

O advogado especialista em Direito Digital e Proteção de Dados Rafael Maciel analisa, contudo que, apesar alarmismo chamativo da reportagem, não há necessidade de estimular o desespero, especialmente nas organizações que autorizam o uso de IA generativa por seus colaboradores em dispositivos móveis. “Não é bem assim, pelo menos não em relação ao conteúdo gerado. Não é difícil imaginar que a dificuldade das ferramentas generativas em barrar e-mails phishing se dá justamente porque tais conteúdos tentam se passar por verídicos e, a rigor, não se poderia impedir que tais aplicativos criassem esses conteúdos. Seria o mesmo que pedir que elas parassem de fazer o que foram criadas para fazer: gerar textos”, avalia.

Por outro lado, Rafael pontua que o conhecimento sobre esses usos da IA devem estar na pauta das organizações, não para gerar pânico, mas para guiá-las nas boas práticas. “Orientação e segurança sobre os dados que são inseridos nessas plataformas, sejam eles pessoais ou corporativos confidenciais, sobretudo ao utilizar aplicativos móveis que ofertam tais serviços com base nas principais ferramentas, como o Bard e ChatGPT, devem constar no treinamento e em programas de capacitação de colaboradores das organizações. Isso porque muitos deles, de fato, não apresentam qualquer nível de segurança, além de esconderem códigos maliciosos”, afirma. E acrescenta: “Repasse essa orientação para seu time para que usem as ferramentas de forma segura, extraindo o melhor da tecnologia com segurança”.