Centro de Pesquisa em Tecnologia de IA: quem somos e o que fazemos

Há quase duas décadas, a Kaspersky está na liderança da integração da inteligência artificial (IA), em particular de machine learning (ML), em seus produtos e serviços. Nosso profundo conhecimento e experiência na aplicação dessas tecnologias à segurança cibernética, além de nossos conjuntos de dados exclusivos, métodos eficientes e infraestrutura avançada de treinamento de modelos formam a base de nossa abordagem para solucionar desafios complexos de ML. O Kaspersky AI Technology Research Center (Centro de Pesquisa em Tecnologia de IA) reúne cientistas de dados, engenheiros de ML, peritos em ameaças e especialistas em infraestrutura para enfrentar as tarefas mais desafiadoras na interseção de IA/ML e segurança cibernética. Isso inclui não apenas o desenvolvimento de tecnologias aplicadas, mas também a pesquisa sobre a segurança de algoritmos de IA, incluindo o uso de abordagens promissoras, como ML neuromórfico, conscientização de risco de IA e muito mais.

Nossas tecnologias e produtos

Na Kaspersky, desenvolvemos várias tecnologias de detecção de ameaças baseadas em IA/ML, principalmente para identificar malware. Isso inclui um algoritmo de rede neural profunda para detectar arquivos executáveis maliciosos com base em recursos estáticos, tecnologia de ML de árvore de decisão para a criação automatizada de regras de detecção que funcionam nos dispositivos do usuário, além de redes neurais para detectar comportamento malicioso de programas durante a execução. Também utilizamos um sistema para identificar recursos on-line maliciosos com base na telemetria anônima recebida de soluções instaladas nos dispositivos do cliente e outras fontes. Leia mais sobre esse assunto em nosso white paper Machine Learning for Malware Detection (Machine Learning para detecção de malware). Outros modelos, como o modelo de ML para detectar sites falsos e o DeepQuarantine para colocar em quarentena e-mails suspeitos de spam, protegem os usuários contra ameaças de phishing e spam. A infraestrutura em nuvem da KSN disponibiliza nossos desenvolvimentos de IA quase instantaneamente para usuários domésticos e corporativos.

Guiados pela promessa da IA generativa, em particular modelos de linguagem de grande escala (LLM), criamos uma infraestrutura para explorar seus recursos e prototipar rapidamente novas soluções. Essa infraestrutura, que implementa ferramentas de LLM semelhantes ao ChatGPT, não só é acessível a funcionários de todos os departamentos para tarefas diárias, mas também serve como base para novas soluções. Por exemplo, o Portal do Kaspersky Threat Intelligence em breve terá um novo recurso OSINT baseado em LLM que fornecerá rapidamente resumos de relatórios de ameaças para IoCs específicos.

Para aumentar a segurança das infraestruturas dos nossos clientes, estamos ativamente desenvolvendo tecnologias de IA adaptadas aos nossos principais produtos e serviços corporativos. Há vários anos, o Analista de IA do Kaspersky Managed Detection and Response vem ajudando a reduzir a carga de trabalho das equipes do SOC filtrando automaticamente falsos positivos. Somente no ano passado, essa tecnologia encerrou mais de 100 mil alertas sem intervenção humana. Isso permite que os especialistas do SOC respondam a ameaças reais mais rapidamente e dediquem mais tempo à investigação de casos complexos e à busca proativa por ameaças. Outra de nossas soluções, a pontuação de risco de host baseada em IA no Kaspersky SIEM (plataforma Kaspersky Unified Monitoring and Analysis) e no Kaspersky XDR, usa algoritmos de ML para procurar comportamento suspeito de host sem a necessidade de transferir dados para fora da empresa.

Outra área importante do desenvolvimento da Kaspersky é o uso de IA/ML em ambientes industriais. Isso inclui o Kaspersky MLAD (Machine Learning for Anomaly Detection), uma solução de software de análise preditiva que reconhece automaticamente sinais precoces (ocultos) de falha iminente do equipamento, interrupção do processo, erro humano ou ataque cibernético em sinais de telemetria. Ao treinar continuamente a rede neural, o MLAD analisa o fluxo de eventos “atômicos” do objeto, estrutura-os em padrões e identifica comportamentos anormais. Outro de nossos projetos é a Kaspersky Neuromorphic Platform (KNP), um projeto de pesquisa e plataforma de software para soluções de IA baseadas em redes neurais de disparo e AltAI, o processador neuromórfico com eficiência energética desenvolvido pela Motive Neuromorphic Technologies (Motive NT) da Rússia em colaboração com a Kaspersky.

A ampla adoção de tecnologias de IA requer controle de segurança, e é por isso que também estabelecemos uma equipe de segurança de IA. Ela oferece diversos serviços destinados a garantir a proteção confiável de sistemas de IA e impedir ameaças potenciais a dados, processos corporativos e infraestrutura de IA.

Nosso pessoal

No passado, as tarefas baseadas em ML eram executadas por departamentos diretamente envolvidos na detecção de ameaças específicas. No entanto, com o número cada vez maior de tarefas e a importância crescente das tecnologias de ML, decidimos transferir nossa experiência em sistemas baseados em IA para um Kaspersky AI Technology Research Center separado. Isso resultou na criação de três equipes principais que impulsionam o uso da IA na Kaspersky:

1. O Detection Methods Analysis Group (Grupo de Análise de Métodos de Detecção) desenvolve algoritmos de ML para detecção de malware em colaboração com a GReAT (Global Research and Analysis Team, Equipe Global de Pesquisa e Análise) e o Threat Research Center (Centro de Pesquisa de Ameaças). Seus sistemas de IA para detecção de malware estático e baseado em comportamento contribuem diretamente para a segurança de nossos usuários.
2. O Technology Research, subordinado ao Future Technologies Department (Departamento de Tecnologias do Futuro), se especializa em: pesquisar tecnologias promissoras de IA; desenvolver o Kaspersky MLAD e KNP; desenvolver o processador neuromórfico de próxima geração AltAI em colaboração com a Motive NT; e fornecer serviços AIST para a segurança de IA.
3. A equipe MLTech é responsável por desenvolver a infraestrutura de ML corporativa para treinar modelos de ML, criar modelos de detecção de ameaças de conteúdo (phishing e spam) e implementar tecnologias de IA, incluindo baseadas em LLM, em nossos serviços e soluções corporativas avançadas, como MDR, Kaspersky SIEM (plataforma Unified Monitoring and Analysis) e Kaspersky XDR.

Isso não significa que nossa experiência em IA esteja limitada às equipes acima. O campo da IA ​​é atualmente tão complexo e multifacetado que é impossível concentrar todo o conhecimento em alguns grupos de pesquisa. Outras equipes também fazem contribuições significativas para o trabalho do Centro e aplicam ML em muitas tarefas: tecnologias de visão de máquina na equipe Antidrone; pesquisa sobre assistentes de codificação de IA nos departamentos CoreTech e KasperskyOS; pesquisa APT na GReAT; e estudo da legislação de IA na equipe de Government Relations (Relações Governamentais).

Nossa pesquisa e patentes

A exclusividade de nossas tecnologias de IA é ressaltada pelas dezenas de patentes que obtivemos em todo o mundo. Em primeiro lugar, essas são patentes para tecnologias de detecção, como detecção de malware com base em logs de comportamento do programa, detecção de servidores maliciosos em telemetria, sites falsos e spam com o auxílio de ML. Mas o portfólio da Kaspersky abrange uma variedade muito maior de tarefas: tecnologias para melhorar conjuntos de dados para ML, detecção de anomalias e até mesmo pesquisa de contatos suspeitos das crianças em sistemas de controle dos pais. E, é claro, patenteamos ativamente nossas tecnologias de IA para sistemas industriais e abordagens exclusivas de rede neural para processar fluxos de eventos.

Além disso, a Kaspersky compartilha ativamente sua experiência em IA com a comunidade. Alguns estudos, como aqueles sobre algoritmos de ML monotônicos ou a aplicação de redes neurais para detecção de spam, são publicados como artigos acadêmicos nas principais conferências de ML. Outros são publicados em portais especializados e em conferências de segurança da informação. Por exemplo, publicamos pesquisas sobre a segurança de nossos próprios algoritmos de IA, em particular ataques a algoritmos de detecção de spam e detecção de malware. Estudamos a aplicação de redes neurais para análise de séries temporais e exploramos o uso de redes neuromórficas em tarefas relevantes para o setor. Nossa Kaspersky Neuromorphic Platform (KNP) é um software de código aberto que estará disponível para uso e desenvolvimento por toda a comunidade de ML.

O tópico de desenvolvimento e aplicação seguros de IA é de fundamental importância para nós, pois precisamos ser capazes de confiar em nossos algoritmos e ter certeza de sua confiabilidade. Outros tópicos que abordamos incluem nossa participação em desafios de segurança cibernética que simulam ataques a sistemas de ML e o uso de tecnologias avançadas, como LLMs, para detectar ameaças em logs do sistema e links de phishing. Também falamos sobre ameaças à IA generativa, inclusive do ponto de vista da privacidade, ataques a vários sistemas baseados em LLM, o uso de IA por invasores e a aplicação de nossas tecnologias em SOCs. Às vezes, abrimos as portas e revelamos nosso funcionamento interno, falando sobre o processo de treinamento de modelos e até mesmo as complexidades de avaliar sua qualidade.

Conscientização

Por fim, a função mais importante do Kaspersky AI Technology Research Center é conscientizar nossos clientes e o público em geral sobre os prós e os contras das tecnologias de IA e as ameaças que elas representam. Nossos especialistas do Centro demonstram os perigos dos vídeos deepfake. Falamos sobre os detalhes mais sutis do uso da IA (por exemplo, como o ChatGPT afeta o processo de contratação de desenvolvedores) e compartilhamos nossas experiências por meio de webinars e mesas redondas.

A equipe FT Technology Research organiza conferências sobre tecnologias neuromórficas com uma parte separada dedicada a questões de segurança de IA, incluindo sistemas baseados na abordagem neuromórfica. Com nosso parceiro, o Instituto de Programação de Sistemas da Academia Russa de Ciências (ISP RAS), pesquisamos vários vetores de ataque em redes neurais nas áreas de visão computacional, LLM e séries temporais, bem como formas de protegê-las. Como parte da parceria industrial da Kaspersky com o ISP RAS, a equipe está testando amostras de estruturas de ML confiáveis.

Também estamos envolvidos no desenvolvimento de cursos educacionais, incluindo um módulo sobre o uso de IA em segurança cibernética na Universidade Técnica Estatal Bauman de Moscou. Outro exemplo é nosso módulo sobre o uso seguro da IA no [KASAP Placeholder]Kaspersky ASAP[/placeholder], nossa solução para aumentar a conscientização dos funcionários sobre ameaças cibernéticas. Por fim, estamos contribuindo para a criação de um conjunto de padrões internacionais para o uso da IA. Em 2023, apresentamos os primeiros princípios para o uso ético de sistemas de IA em segurança cibernética no Fórum de Governança da Internet.

Para resumir, as principais tarefas do Kaspersky AI Technology Research Center são o desenvolvimento de tecnologias de IA, sua aplicação segura em segurança cibernética, monitoramento de ameaças para uso indevido ou malicioso de IA e previsão de tendências. Todas essas tarefas têm um único propósito: garantir o mais alto nível de segurança para nossos clientes.