IA generativa: inimiga ou aliada?

26 de fevereiro de 2024 - 6h00

Estamos vivendo um momento em que a inteligência artificial (IA) tem ultrapassado fronteiras convencionais, consolidando-se nos mais variados setores da sociedade e causando impactos notáveis no dia a dia das pessoas. Agora, mais do que interações com humanos, a tecnologia evoluiu a ponto de criar elementos, dos simples aos mais complexos, a partir de interações muito simples, passíveis de serem realizadas por qualquer pessoa, mesmo que não possua conhecimentos técnicos.

A IA generativa, como foi batizada, surge como uma força transformadora, prometendo redefinir nossa interação com a tecnologia e moldar o mundo ao nosso redor. Diante do impulsionamento de pesquisas e desenvolvimento contínuo, essa tecnologia promete um crescimento bastante significativo, com crescimento anual estimado de 80% entre 2022 e 2027, alcançando mais de US$ 33 bilhões.

Apesar de sua ascensão meteórica e dos avanços promissores do ponto de vista tecnológico, a IA generativa ainda enfrenta desafios consideráveis, especialmente críticas ligadas à compreensão dos modelos, que ainda colocam em “xeque” sua eficácia em interpretar significados e contextos de maneira semelhante aos humanos, fator que pode impactar diretamente na segurança dos usuários. Isso ocorre porque os cibercriminosos seguem aprimorando suas técnicas de invasão constantemente, considerando o uso de novas tecnologias, como a própria IA generativa.

Atualmente, ainda existem riscos de possíveis vieses nos dados de treinamento, que são as informações apresentadas ao algoritmo de machine learning para a criação de determinado modelo, além dos desafios relacionados à privacidade. Afinal, à medida que a IA generativa lida com informações, muitas vezes, sensíveis, surge a necessidade de garantir a transparência nos processos decisórios desses sistemas, evitando uma “irresponsabilidade” automatizada.

Acredito, ainda, que temos o desafio não apenas em superar essas barreiras, mas também em dar um passo atrás e estabelecer frameworks éticos, robustos e seguros, que garantam o desenvolvimento e uso responsável da tecnologia.

Mas é claro que o tema não é cercadas apenas de pontos de preocupação, as IAs generativas tem se tornado grandes “parceiras” no campo da cibersegurança, uma vez que essa abordagem também se mostra relevante para o desenvolvimento de novas ferramentas, que a utilizam para identificar comportamentos maliciosos e detectar possíveis ataques.

Ela é capaz de apoiar na análises de logs; detecção de anomalias; recursos de triagem; anonimização de dados; detecção phishing; monitoramento de atividades suspeitas em rede e análise de dados, por exemplo. Além disso, pode identificar ameaças criadas a partir de construções feitas também com apoio de inteligência artificial.

Isso significa que a boa utilização da ferramenta pode torná-la uma grande aliada, da mesma forma em que a negligência de aprimoramento pode torná-la uma inimiga e abrir brechas para agentes mal-intencionados. Neste contexto, entendo que as empresas devam se preparar para essa alternativa já tão presente nos dias de hoje, afinal, a colaboração entre humanos e modelos generativos vem auxiliando a impulsionar avanços significativos nos mais diversos segmentos e o caminho dessa colaboração é muito promissor!

Para abordar este e outros assuntos relacionados à segurança em ambiente mobile, a ESET conta com um estande dedicado no MWC 2024. A empresa estará no hall 7, estande 7F41.