O Google expandiu seu programa de recompensas para incluir bugs e vulnerabilidades encontrados em produtos de IA generativa, como o Google Bard e a IA de contact center do Google Cloud, o Agent Assist. A empresa acredita que isso incentivará a pesquisa em torno da segurança da IA, trazendo à tona possíveis problemas e tornando seus produtos mais seguros.
As recompensas variam de US$ 5 mil a US$ 31 mil, dependendo da gravidade da falha encontrada. A empresa esclareceu que não pagará por bugs relacionados a direitos autorais ou extração de dados públicos.
Quem sabe você pode ser o próximo a levar uma grana…
Em 2022, o Google pagou mais de 12 milhões de dólares em recompensas e o sucesso do programa serviu de base para esta expansão com a chegada de um portfólio vasto de produtos baseados em IA:
“Acreditamos que isso incentivará a pesquisa em torno da segurança e proteção da inteligência artificial e trará à tona possíveis problemas que, em última análise, tornarão a IA mais segura para todos”, disseram Laurie Richardson e Royal Hansen, respectivamente vice-presidente de confiança e segurança e vice-presidente de engenharia de privacidade.
A decisão de expandir o programa de recompensas do Google para abranger a inteligência artificial foi impulsionada por uma descoberta significativa feita por uma equipe interna de hackers da empresa.
Eles identificaram vulnerabilidades na tecnologia de IA que poderiam ser exploradas para alterar o comportamento dos modelos de linguagem. Essas brechas de segurança permitiriam a inserção de comandos maliciosos, forçando os modelos a gerar conteúdos ofensivos ou até mesmo a vazar informações confidenciais.
Como fazer para participar?
Siga estes passos:
- Comece por ler atentamente as regras do v8CTF ou kvmCTF. Esta página contém informações atualizadas sobre os tipos de exploits elegíveis para recompensas, bem como os limites e restrições aplicáveis.
- Depois de identificar uma vulnerabilidade na versão implantada do software, explore-a e capture a bandeira (flag). Não é necessário que seja um exploit inédito (0-day)!
- Preencha o formulário disponível nas regras e a equipe responsável pelo programa de recompensas dará continuidade ao processo.
***
Quer saber mais sobre segurança digital, IA e as últimas novidades tecnológicas? Continue acompanhando o blog Positivo Do Seu Jeito para se manter informado e à frente das tendências.
