Nova Inteligência Artificial da Anthropic pode impactar a cibersegurança - Informações e Detalhes

A empresa Anthropic anunciou o desenvolvimento de um novo modelo de Inteligência Artificial (IA) que visa auxiliar algumas das maiores empresas de cibersegurança e software do mundo. O lançamento desse modelo, chamado Mythos, é uma tentativa de desacelerar a corrida armamentista que a tecnologia pode desencadear nas mãos de hackers. Essa informação foi divulgada pela empresa nesta terça-feira, 9 de outubro.

Entre as empresas que terão acesso ao modelo estão gigantes como Amazon, Apple, Cisco, Google, JPMorgan Chase e Microsoft. O objetivo principal do Mythos é ajudar na identificação de falhas nos softwares dessas companhias e avaliar se técnicas específicas de invasão são eficazes em seus produtos. Essa parceria busca fortalecer a segurança cibernética ao permitir que essas corporações realizem testes mais rigorosos em seus sistemas.

O Mythos, também conhecido como "Claude Mythos Preview", ainda não está pronto para um lançamento público. A Anthropic expressou preocupações sobre como a IA poderia ser utilizada de forma indevida por cibercriminosos e espiões. Esse receio gerou debates significativos em círculos políticos em Washington e no Vale do Silício. Especialistas alertam que a velocidade e a capacidade da IA de identificar vulnerabilidades superam as habilidades humanas, o que representa uma mudança significativa nas dinâmicas de segurança cibernética.

Logan Graham, líder da equipe da Anthropic responsável pelas defesas dos modelos de IA, declarou à CNN que a empresa não se sente confortável em disponibilizar a tecnologia de maneira geral. Ele enfatizou que ainda há um longo caminho a percorrer para implementar as salvaguardas necessárias antes de liberar a IA para o uso amplo. A empresa também comunicou funcionários do governo dos Estados Unidos sobre as capacidades do Mythos, tanto ofensivas quanto defensivas, e se colocou à disposição para auxiliar na avaliação da tecnologia.

Os executivos da Anthropic esperam que a liberação controlada do Mythos para empresas que atendem bilhões de usuários possa equilibrar a situação entre hackers e defensores. A intenção é corrigir falhas de segurança críticas em navegadores e sistemas operacionais amplamente utilizados antes que esses produtos sejam lançados ao público.

Além das empresas mencionadas, outros grupos que terão acesso ao Mythos incluem fabricantes de chips como Broadcom e Nvidia, a Linux Foundation, que apoia o sistema operacional Linux, e fornecedores de cibersegurança como CrowdStrike e Palo Alto Networks. Graham alertou que, se os modelos de IA continuarem a evoluir tão rapidamente, haverá uma necessidade urgente de preparar os sistemas de defesa cibernética.

Um post de blog que vazou no mês passado antecipou as capacidades do Mythos, afirmando que o modelo de IA estava "muito à frente" das capacidades cibernéticas de outros modelos disponíveis atualmente. Essa aplicação é vista como um sinal de que uma nova onda de modelos de IA capazes de explorar vulnerabilidades pode surgir, superando os esforços dos defensores.

Embora algumas das preocupações sobre o uso indevido da plataforma tenham sido consideradas exageradas por especialistas, o vazamento de informações também revelou uma verdade alarmante: sem mudanças significativas nas abordagens de segurança, a lacuna entre hackers e defensores pode se ampliar ainda mais. A Anthropic informou que o Mythos já produziu resultados significativos, identificando milhares de vulnerabilidades de software que antes eram desconhecidas, uma taxa que supera a capacidade de pesquisadores humanos.

Essas falhas de software podem ser difíceis de detectar e são bastante valorizadas por agências de espionagem e cibercriminosos para realizar invasões. Apesar disso, profissionais de cibersegurança já utilizam Inteligência Artificial para se proteger contra fraudes, mesmo antes do surgimento do Mythos. Por exemplo, Gadi Evron e outros pesquisadores lançaram uma ferramenta baseada no modelo Claude em dezembro, capaz de gerar correções para falhas graves de software.

Evron destacou que, enquanto os atacantes estão se beneficiando das novas capacidades de IA, os defensores ainda não têm suporte equivalente. Para que os defensores possam acompanhar o ritmo das ameaças, é crucial que eles também adotem tecnologias de IA em suas práticas de segurança.

Desta forma, a introdução do Mythos pela Anthropic ressalta a importância de uma abordagem proativa na cibersegurança. A velocidade com que novas vulnerabilidades estão sendo descobertas coloca em evidência a necessidade de as empresas investirem em tecnologias avançadas para proteger seus sistemas.

Em resumo, as implicações dessa nova tecnologia são profundas e exigem um debate sério sobre suas aplicações e os riscos associados. A colaboração entre empresas de tecnologia e autoridades governamentais se torna essencial para garantir que a IA seja usada de maneira responsável.

Assim, é vital que o desenvolvimento de ferramentas de defesa acompanhe o avanço das técnicas de ataque. A diferença entre hackers e defensores pode se tornar ainda mais acentuada se não houver uma resposta coordenada e eficaz.

Finalmente, ao mesmo tempo em que celebramos os avanços na cibersegurança, devemos permanecer vigilantes quanto ao uso mal-intencionado dessas tecnologias. A responsabilidade compartilhada entre desenvolvedores e usuários deve ser uma prioridade.

Gostou dessa notícia? Você pode compartilhá-la com seus amigos!