Bate-papoGPT
ChatGPT é usado por cibercriminosos para melhorar golpes (Imagem: Vitor Pádua/Tecnoblog)

A Microsoft e a OpenAI publicaram um estudo no qual mostram que o ChatGPT é usado por cibercriminosos para melhorar seus golpes. Segundo o estudo, os grupos hackers transformam a IA generativa em um assistente de produtividade para aprimorar os seus ataques. Para combater esse uso indevido do ChatGPT, a OpenAI deletou as contas ligadas aos cibercriminosos.

As empresas explicam no estudo que esses grupos hackers utilizam a IA generativa não só para melhorar seus malwares. O ChatGPT também é usado para aprimorar as técnicas de phishing e spoofing, práticas nas quais os cibercriminosos utilizam de engenharia social para se passar por outra pessoa ou por empresa. Essa técnica exige um bom texto para convencer as vítimas e o ChatGPT permite que essas mensagens sejam feitas rapidamente.

Continua após a publicidade..

Microsoft e OpenAI removem contas de grupos hackers

OpenAI
OpenAI e Microsoft deletaram contas de grupos hackers (Imagem: Vitor Pádua / Tecnoblog)

Segundo a OpenAI, com a ajuda da Microsoft, as contas de alguns grupos hackers foram deletadas do serviço do ChatGPT. As empresas alegam que essas contas são ligadas aos serviços de inteligência de algumas nações: China, Irã, Rússia e Coreia do Norte.

A investigação das companhias conseguiu detectar quais foram os usos do ChatGPT por esses cibercriminosos. Em sua maioria, os grupos utilizaram a IA generativa para aprimorar scripts e gerar conteúdo para campanhas de phishing. O grupo Forest Blizzard, associado ao órgão de inteligência das forças armadas da Rússia, também usou a IA para analisar códigos abertos de pesquisas por comunicação via satélite.

Continua após a publicidade..

O ChatGPT possui limitações para impedir que usuários criem malwares ou utilizem-no para ações negativas. Pelo que a OpenAI e Microsoft divulgaram, os grupos hackers contavam com a versão paga da IA. O ChatGPT Plus permite que os clientes utilizem outras ferramentas, como a análise e resume de documentos — a versão grátis entrega apenas a opção de digitar prompts com até 4 mil caracteres.

Continua após a publicidade..

A Microsoft comenta que, apesar desse uso mal-intencionado do ChatGPT, nenhum ataque com LLMs foi detectado pela divisão de segurança da empresa.

Com informações: Microsoft, OpenAI e A beira

Microsoft revela que cibercriminosos usam ChatGPT para aprimorar golpes

Share.