Até 2028, 50% de todos os esforços de resposta a incidentes de cibersegurança em empresas se concentrarão em incidentes envolvendo aplicações orientadas por Inteligência Artificial (IA) personalizadas, de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
“A IA está evoluindo rapidamente, mas muitas ferramentas – especialmente aplicações de IA personalizadas – estão sendo implementadas antes de serem totalmente testadas. Esses sistemas são complexos, dinâmicos e difíceis de proteger ao longo do tempo. A maioria das equipes de segurança ainda não possui processos claros para lidar com incidentes relacionados à IA, o que significa que os problemas podem levar mais tempo para serem resolvidos e exigir muito mais esforço”, diz Christopher Mixter, Vice-Presidente Analista do Gartner.
O Gartner recomenda que os líderes de segurança se envolvam desde o início em projetos de aplicações de IA personalizadas para garantir que haja tempo suficiente, que os recursos sejam planejados e que as expectativas sejam gerenciadas para controles de segurança adequados.
Esse é um dos principais tópicos relacionados à cibersegurança que serão abordados durante a Conferência Gartner Segurança & Gestão de Risco, que será realizada em 04 e 05 de agosto, em São Paulo (SP). O Gartner recomenda que os líderes de segurança cibernética levem essas previsões em consideração em suas estratégias de segurança nos próximos dois anos.
Até 2028, mais de 50% das empresas utilizarão plataformas de segurança de IA para proteger o uso de serviços de Inteligência Artificial de terceiros e aplicações de IA personalizadas
As plataformas de segurança de IA oferecem às organizações uma maneira unificada de gerenciar os novos riscos associados à rápida adoção dessa tecnologia, como injeção de prompt, uso indevido de dados e muito mais. Ao centralizar a visibilidade e o controle, essas plataformas ajudam os Chief Information Security Officers (CISOs) a aplicar políticas de uso, monitorar as atividades da IA e aplicar medidas de segurança consistentes em aplicações de Inteligência Artificial de terceiros e personalizadas. Os líderes de segurança devem avaliar as plataformas de segurança de IA para garantir que possam proteger ambas as formas de aplicações.
Até 2027, os processos manuais de conformidade de IA irão expor 75% das organizações regulamentadas a multas superiores a 5% de sua receita global
Apesar das diferentes abordagens regulatórias em todo o mundo, as regulamentações de IA convergem para uma demanda universal por uma abordagem sistemática de gerenciamento de riscos. Mesmo que os CISOs consigam se manter à frente das regulamentações e padrões de segurança, privacidade e gerenciamento de riscos cibernéticos, novas regulamentações relativas à segurança da IA colocam tudo em questão. Para maior sucesso, o Gartner recomenda o estabelecimento de governança de risco e conformidade cibernética e a viabilização da conformidade por meio de tecnologia.
Até 2030, 33% do trabalho de TI será dedicado à remediação da dívida de dados de IA para garantir a segurança da Inteligência Artificial
Os dados da maioria das organizações não estão prontos para IA, sendo os dados mal protegidos e não estruturados uma grande barreira para a adoção da Inteligência Artificial. Em resposta, os líderes de cibersegurança estão expandindo a prevenção contra perda de dados para monitorar e restringir os fluxos de informações desencadeados por eventos e solicitações de acesso a dados da Inteligência Artificial Generativa (GenAI) e da IA Agêntica. O Gartner recomenda que eles colaborem com líderes de dados e analytics e de IA para definir um programa estruturado de descoberta de dados, avaliação e correção do controle de acesso.
Até 2027, 30% das organizações precisarão de soberania abrangente sobre seus controles de segurança em nuvem para lidar com a contínua instabilidade geopolítica
A instabilidade geopolítica e as regulamentações locais estão criando riscos insustentáveis aos dados, o que exige que muitas organizações tornem a soberania uma parte fundamental de sua abordagem de resiliência cibernética. Isso exigirá mudanças na seleção de fornecedores para ofertas vinculadas à nuvem e nos esforços de priorização à medida que os requisitos de geopatriação se intensificam. Os líderes de segurança cibernética devem desempenhar um papel ativo na definição dos requisitos de soberania organizacional, incluindo aqueles exigidos pelas regulamentações locais.
Até 2028, 70% dos CISOs utilizarão recursos de visibilidade e inteligência de identidade para reduzir a superfície de ataque de gerenciamento de identidade e acesso (identity and access management – IAM), diminuindo os riscos de comprometimento de credenciais
A identidade tornou-se uma das principais superfícies de ataque, conforme as organizações lutam para gerenciar o rápido crescimento e a complexidade das identidades humanas e de máquinas. Isso deixa lacunas de visibilidade causadas por ferramentas isoladas de gerenciamento de identidade e acesso (IAM) e aumenta o risco de configurações incorretas. O Gartner recomenda que esses pontos cegos sejam resolvidos por meio da integração de plataformas unificadas de visibilidade e inteligência de identidade, impulsionadas por IA, para melhorar a detecção e a correção.
Aprenda a criar uma estratégia de cibersegurança que atenda às necessidades das pessoas e da tecnologia neste guia gratuito do Gartner.
