A Microsoft tomou uma série de medidas legais para combater atividades ilícitas relacionadas ao uso de suas ferramentas de inteligência artificial baseadas na nuvem. A ação judicial, apresentada em dezembro de 2024 no Tribunal Distrital dos EUA para o Leste da Virgínia, acusa um grupo de cibercriminosos de contornar as salvaguardas de segurança do Azure OpenAI Service para criar conteúdos “ofensivos e prejudiciais”, através do DALL-E.
Contexto e Acusações
A Microsoft descreveu os criadores do domínio como um “foreign-based threat-actor group“, que em interpretação livre, podemos considerar como “grupo de cibercriminosos baseado no exterior”. Eles utilizaram um software personalizado para contornar as proteções do DALL-E.
A denúncia também lista diversas violações legais, incluindo a Lei de Fraude e Abuso de Computadores, a Lei de Copyright do Milênio Digital e legislações federais contra organizações criminosas.
“Os cibercriminosos então usaram esses serviços e revenderam o acesso a outros atores mal-intencionados com instruções detalhadas sobre como usar essas ferramentas personalizadas para gerar conteúdo prejudicial e ilícito”
– Microsoft
Descobertas e Ferramenta “De3u”
A Microsoft descobriu a atividade em julho do ano passado, quando os cibercriminosos acessaram o Azure OpenAI por meio de chaves de API1, incluindo de clientes da própria empresa localizados na Pensilvânia e em Nova Jersey. O grupo estava utilizando uma ferramenta chamada “de3u”, que anteriormente estava disponível no GitHub e no domínio “rentry.org/de3u”, antes de o software ser retirado do ar.
Não está claro que tipo de imagens ofensivas foram geradas. No entanto, a ferramenta “de3u” conseguia contornar as proteções do gerador de imagens por IA da Microsoft ao impedir que o Azure OpenAI revisasse os prompts de texto dos usuários caso contivessem certas palavras-chave que acionariam o filtro de conteúdo. Em resposta, a Microsoft revogou o acesso e entrou com uma ação judicial no mês passado no Tribunal Distrital do Leste da Virgínia para permitir a suspensão do domínio “atism.net”, utilizado para conduzir o esquema de hacking.
Após a suspensão, a Microsoft notou que os cibercriminosos estavam “tomando medidas para encobrir seus rastros, incluindo a tentativa de excluir certas páginas do Rentry.org, o repositório no GitHub da ferramenta ‘de3u’ e partes da infraestrutura de proxy reverso”, disse a empresa em um documento judicial subsequente.
A Microsoft também observou que os supostos criadores da ferramenta “de3u” ainda estavavam discutindo a repressão no fórum 4chan. Portanto, é possível que o grupo tente agir novamente ou mirar em outros geradores de imagens por IA.
Enquanto isso, a Microsoft escreveu em seu blog:
“Com esta ação, estamos enviando uma mensagem clara: a instrumentalização de nossa tecnologia de IA por atores online não será tolerada.”
A empresa também afirmou que implementou novas contramedidas e salvaguardas para impedir novas tentativas de uso malicioso.
Medidas de Segurança e Declarações
A Microsoft anunciou que adicionou contramedidas e reforçou as salvaguardas de segurança no Azure OpenAI Service. Em um comunicado oficial, a empresa afirmou:
“Com esta ação, estamos enviando uma mensagem clara: a instrumentalização de nossa tecnologia de IA por atores online não será tolerada.”
– Microsoft
Além de interromper o esquema, a ação judicial da Microsoft busca compensações financeiras e punições legais para os envolvidos, reforçando a importância de proteger os dados dos usuários e a integridade de suas ferramentas de IA.
Reflexões Finais
O caso destaca os desafios crescentes na segurança de tecnologias avançadas como a inteligência artificial, bem como a necessidade de esforços contínuos para prevenir abusos. A iniciativa da Microsoft pode servir de referência para outras empresas que enfrentam problemas semelhantes, enquanto o cenário global de cibersegurança se adapta à sofisticação das ameaças emergentes.
Nota de rodapé
- API: Uma Application Programming Interface (Interface de Programação de Aplicações) é um conjunto de definições e protocolos que permitem que diferentes softwares ou sistemas se comuniquem entre si. As APIs funcionam como intermediárias, possibilitando que um programa utilize recursos ou funcionalidades de outro de maneira padronizada e controlada. ↩︎