No cenário em evolução da inteligência artificial (IA), tanto as equipes de segurança cibernética quanto os hackers estão usando a IA a seu favor.
Se você usou recentemente o sistema GPS do seu carro, confiou no corretor automático ao escrever um e-mail ou fez uma pesquisa online, é provável que tenha experimentado a inteligência artificial (IA).
Então, vamos discutir os conceitos básicos da IA, como as equipes de segurança cibernética e os hackers estão usando a IA e como você pode se manter seguro.
O que é IA?
IA é um termo amplo que se refere à ciência de simular a inteligência humana em máquinas com o objetivo de capacitá-las a pensar como nós e imitar nossas ações. Isso permitiria que máquinas de IA realizassem tarefas que antes apenas seres humanos conseguiam lidar. Para algumas tarefas, a IA pode até superar os seres humanos.
Muitas máquinas de IA tentam determinar a melhor maneira de atingir um resultado ou resolver um problema. Elas normalmente fazem isso analisando enormes quantidades de dados de treinamento e, então, encontrando padrões nos dados para replicar em sua própria tomada de decisão.
Embora a IA possa parecer futurista, acredita-se que o conceito por trás dela tenha começado em 1950, quando o matemático e lógico britânico Alan Turing especulou sobre “máquinas pensantes” que poderiam raciocinar de forma semelhante aos humanos. 1 O termo “inteligência artificial” nasceu alguns anos depois.
Como a IA beneficia a segurança cibernética
A inteligência artificial (IA) está remodelando quase todos os setores – e a segurança cibernética não é exceção. Um relatório de pesquisa recente estimou que o mercado global de produtos de segurança cibernética baseados em IA era de cerca de US$ 15 bilhões em 2021 e aumentará para cerca de US$ 135 bilhões até 2030. 3
As organizações de segurança cibernética dependem cada vez mais da IA em conjunto com ferramentas mais tradicionais, como proteção antivírus, prevenção de perda de dados, detecção de fraudes, gerenciamento de identidade e acesso, detecção de intrusão, gerenciamento de risco e outras áreas essenciais de segurança. Devido à natureza da IA, que pode analisar enormes conjuntos de dados e encontrar padrões, a IA é exclusivamente adequada para tarefas como:
Detectar ataques reais com mais precisão do que humanos, criando menos resultados falso-positivos e priorizando respostas com base nos riscos do mundo real;
Identificar e sinalizar o tipo de e-mails e mensagens suspeitos frequentemente empregados em campanhas de phishing;
Simular ataques de engenharia social, que ajudam as equipes de segurança a identificar vulnerabilidades potenciais antes que os criminosos cibernéticos as explorem; e
Analisar grandes quantidades de dados relacionados a incidentes rapidamente, para que as equipes de segurança possam agir rapidamente para conter a ameaça.
Além disso, a IA tem o potencial de ser uma ferramenta revolucionária em testes de penetração — sondando intencionalmente as defesas de software e redes para identificar fraquezas. Ao desenvolver ferramentas de IA para mirar em sua própria tecnologia, as organizações serão mais capazes de identificar suas fraquezas antes que hackers possam explorá-las maliciosamente.
Como os hackers abusam da IA
Infelizmente, os cibercriminosos são implacáveis e engenhosos. Vamos dar uma olhada em várias maneiras pelas quais eles estão usando a IA para seu próprio benefício:
1 Esquemas de engenharia social:
Esses esquemas dependem de manipulação psicológica para enganar indivíduos a revelar informações confidenciais ou cometer outros erros de segurança. Eles incluem uma ampla gama de categorias de atividades fraudulentas, incluindo phishing, vishing e golpes de comprometimento de e-mail comercial.
A IA permite que os cibercriminosos automatizem muitos dos processos usados em ataques de engenharia social, bem como criem mensagens mais personalizadas, sofisticadas e eficazes para enganar vítimas desavisadas. Isso significa que os cibercriminosos podem gerar um volume maior de ataques em menos tempo — e experimentar uma taxa de sucesso maior.
2 Hacking de senha:
Os cibercriminosos exploram a IA para melhorar os algoritmos que usam para decifrar senhas . Os algoritmos aprimorados fornecem adivinhação de senha mais rápida e precisa, o que permite que os hackers se tornem mais eficientes e lucrativos. Isso pode levar a uma ênfase ainda maior na invasão de senhas por cibercriminosos.
3 Falsificações profundas:
Esse tipo de engano aproveita a capacidade da IA de manipular facilmente conteúdo visual ou de áudio e fazê-lo parecer legítimo. Isso inclui usar áudio e vídeo falsos para personificar outro indivíduo. O conteúdo adulterado pode então ser amplamente distribuído online em segundos — inclusive em plataformas de mídia social influentes — para criar estresse, medo ou confusão entre aqueles que o consomem.
Os cibercriminosos podem usar deepfakes em conjunto com engenharia social, extorsão e outros tipos de esquemas.
4 Envenenamento de dados:
Hackers “envenenam” ou alteram os dados de treinamento usados por um algoritmo de IA para influenciar as decisões que ele finalmente toma. Em resumo, o algoritmo está sendo alimentado com informações enganosas, e uma entrada ruim leva a uma saída ruim.
Além disso, o envenenamento de dados pode ser difícil e demorado de detectar. Então, quando for descoberto, o dano pode ser grave.
Ter essa inteligência daria às organizações de segurança cibernética uma vantagem significativa na prevenção de ataques futuros. Interromper violações antes que elas ocorram não só ajudaria a proteger os dados de indivíduos e empresas, mas também reduziria os custos de TI para as empresas.
Permanecendo seguro em um ambiente de IA em mudança
À medida que a IA evolui, as preocupações sobre privacidade de dados e gerenciamento de risco para indivíduos e empresas continuam a crescer. Os reguladores estão considerando maneiras de desenvolver a IA e maximizar seus benefícios, ao mesmo tempo em que reduzem a probabilidade de impactos negativos para a sociedade. No entanto, atualmente não há nenhuma legislação federal abrangente sobre IA nos Estados Unidos.
Então, o que tudo isso significa para você? Como os avanços em IA impactam sua vida de uma perspectiva de segurança?
Felizmente, a resposta é surpreendentemente simples. Você não precisa aprender um novo conjunto de regras de segurança cibernética. Em vez disso, você deve revisar sua proteção de segurança cibernética atual e certificar-se de que ela segue as melhores práticas em áreas críticas, como senhas , privacidade de dados , segurança cibernética pessoal e, especialmente, engenharia social .
Como sempre, é uma boa ideia visitar regularmente nosso Security Center para atualizações sobre IA e nossas últimas dicas de segurança cibernética. Ao permanecer seguro, fica mais fácil para todos nós aproveitarmos as conveniências e outras melhorias em nossas vidas diárias possibilitadas pela IA.
Principais conclusões
- Os cibercriminosos estão usando IA para realizar uma variedade de ataques sofisticados, desde envenenamento de dados até deepfakes.
- As organizações de segurança cibernética também contam cada vez mais com a IA para ajudar a sinalizar dados suspeitos e detectar ou impedir ataques.
- Para ajudar a manter seus dados seguros, revise sua proteção de segurança cibernética atual e certifique-se de que ela siga as práticas recomendadas.
Fonte: Morgan Stanley
https://www-morganstanley-com.translate.goog/articles/ai-cybersecurity-new-era?_x_tr_sl=en&_x_tr_tl=pt&_x_tr_hl=pt-BR&_x_tr_pto=sc
