A IA Generativa e a Segurança da Informação.

#IA Generativa

Introdução:

Olá, eu sou @venelouis, e neste artigo vou abordar um pouco sobre:

Como utilizar a IA Generativa na minha área que é a da Segurança da Informação.

Neste artigo você lerá:

Informações importantes
Polêmicas
Curiosidades
Possibilidade de novas conexões :)

Embora termos como: "segurança da informação" e "inteligência generativa" possam parecer recentes, são termos que realmente remontam ao início da civilização humana, a "geração de inteligência" por exemplo entendemos que se dá através da transmissão da informação segura e confiável, de outro modo seria: "ignorância generativa" (embora sempre houve também este tipo, e a qual chamamos de "alucinações" no caso das IAs).

A tríade CIA (Confidentiality, Integrity and Availability ou CID: Confidencialidade, Integridade e Disponibilidade)

O modelo fundamental para a segurança da informação, fornecendo um conjunto de princípios essenciais para proteger dados confidenciais e garantir a confiabilidade e acessibilidade dos sistemas. A compreensão e aplicação desses princípios são cruciais para proteger informações valiosas em um mundo cada vez mais digitalizado.

Mas por que essa tríade é importante em nosso mundo?

Confidencialidade
Integridade
Disponibilidade

A informação, em termos gerais, é o recurso que mais valioso do mundo, e proteger este recurso é muito importante, pois se algumas dessas informações cairem em mãos erradas podem causar um grande mal, e por isso muitas informações devem ser confidenciais, já imaginou se alguém mal intencionado tivesse o poder de saber os seus pensamentos a qualquer instante? Não seria um pesadelo?

Agora que abordamos a questão da confidencialidade, os outros dois pilares: integridade e disponibilidade parecem ser óbvios não é mesmo?

Contudo a integridade da informação é cada vez mais crucial neste mundo cada vez mais "digital", diversos tipos de narrativas sendo produzidas a todo momento inclusive com a ajuda das IAs generativas de texto, som, áudio, imagens e vídeos, transformando o mundo em um campo de batalha para guerras de níveis inimagináveis contra: desinformação, falsificação, fakenews, deepfakes, etc.

O exemplo mais notável e próximo que tivemos em nosso contexto brasileiro com a recente tragédia das chuvas no Rio Grande do Sul, onde voluntários estavam tentando ajudar os necessitados, mas houveram diversos relatos em que burocracia do governo estava impedindo e ainda aplicando multas, contudo a emissora rede Globo (a qual é a que está recebendo mais verbas publicitárias do governo, veja nas referências abaixo) veio a público para tentar "desmentir" e apontou que a origem desta "fakenews" seria do suposto coach: "Pablo Marçal", contudo o mesmo respondeu com mostrando uma reportagem do SBT que se defendeu dizendo que a emissora não espalha fakenews. Além do mais a pŕopria ANTT disse que iria anular multas (veja link nas referências).

Agora que abordamos um pouco sobre a importância da integridade na segurança da informação, falta apenas abordamos a disponibilidade, que é tão importante ou até mais do que os outros dois pilares, por que? Vivemos em um mundo onde tudo é organizado através de sistemas computacionais, inclusive os recursos vitais como: água e eletricidade; e que lugares como hospitais onde pessoas dependem de certos equipamentos que podem fazer a diferença entre a vida e a morte uma vez que a disponibilidade de conexão é afetada pode causar inúmeras tragédias não é mesmo?Agora que abordamos os três pilares da Segurança da Informação e suas relações com a IA e sua influência, vamos citar mais alguns exemplos de como a IA está influenciando nesta área, e para isso pedimos para o Copilot da Microsoft através do Bing nos informar com o prompt: "como a IA influencia a Segurança da Informação nos dias de hoje" e resposta foi a seguinte:

A Inteligência Artificial (IA) tem um papel crucial na segurança da informação nos dias de hoje. Aqui estão algumas maneiras pelas quais a IA influencia a segurança da informação atualmente:

Esses são apenas alguns exemplos de como a IA pode melhorar a segurança da informação. É importante notar que, embora a IA possa oferecer muitos benefícios, também é essencial considerar os riscos potenciais e garantir que as práticas adequadas de segurança da informação estejam em vigor.

Saiba mais:1varonis.com 2zendesk.com.br 3itforum.com.br

Conclusão

Embora as IAs estejam cada dia mais avançadas, é importante que estejam sempre sendo supervisionadas por humanos para que não "saiam da linha em alucinações" e produzam grandes prejuízos para a humanidade, por isso embora já estejam sendo muito adotadas nas mais diversas áreas, as IAs estão podem ser divididas em diversos tipos de modelos diferentes, vemos isso principalmente em modelos geradores de imagens como Leonardo.ai pois para quem ainda não sabe a IAs generativas nada mais são do que uma base dados que podem ser misturadas com base nos prompts que ordenamos através de estatística para que a próxima resposta em sua saída traga um resultado satisfatório baseado em um tipo de predição, por exemplo, ao pedir: "complete a frase escolhendo uma das opções abaixo> "O cachorro...:

a) late.

b) voa.

c) dirige.

As IAs tendem a escolher a resposta da letra "a" (dependendo do ajuste de sua "temperatura") porque é estatisticamente o mais "comum", "normal" dentre as outras opções de ações para cachorros.

Assim modelos onde são alimentados apenas com respostas para determinadas situações podem ter menos erros dependendo dos casos, mas assim como sistemas podem ser hackeados, as IAs podem também ter seus comandos, ordem ou prompts hackeados se um usuário for muito habilidoso e pedir uma requisição inusitada. Portanto é importante que cada vez nós humanos estudantes estejamos cada vez buscando avançar na qualificação dos nossos conhecimentos para conseguir solucionar os grandes problemas que possam vir a acontecer.

Este foi um breve artigo sobre o tema proposto, quem quiser me acompanhar ou se conectar comigo, estas são as midias sociais que mais utilizo atualmente:

GitHub: https://github.com/venelouis
Linkedin: https://www.linkedin.com/in/venelouis/

Hasta la vista labies!

Referências: