A Inteligência Artificial na Vida Cotidiana: Vantagens e Riscos
A inteligência artificial (IA) tornou-se uma ferramenta cada vez mais presente em nossa vida cotidiana. Um exemplo disso é o ChatGPT, um modelo de linguagem generativa desenvolvido pela OpenAI que é usado para manter conversas online. Apesar da OpenAI ter garantido que não tem acesso às conversas individuais, é crucial lembrar que não devemos compartilhar informações confidenciais através dessas plataformas.
Vulnerabilidade da IA: O Caso do ChatGPT
Um estudo recente da Universidade Ben-Gurion em Israel revelou um cenário de vulnerabilidade em que um ciberataque poderia comprometer a segurança do ChatGPT. Este cenário ocorre quando o ChatGPT é usado em uma rede WiFi pública, permitindo que um invasor intercepte o tráfego da vítima, filtre os pacotes para encontrar respostas do ChatGPT, revele o comprimento dos tokens e, finalmente, infira a resposta do ChatGPT usando um modelo de linguagem de máquina (LLM).
O processo de ataque é bastante complexo. O ChatGPT transmite tokens de maneira sequencial, o que permite um ataque do tipo Side-channel para inferir informações. O invasor pode interceptar esses dados por meio de um ataque Man-in-the-Middle, filtrar o tráfego e analisar os pacotes para detectar padrões. Uma vez identificado o comprimento dos tokens, o invasor pode usar um LLM para interpretar os tokens e inferir as respostas.
Os resultados do ataque são surpreendentes. O LLM foi capaz de prever as respostas do ChatGPT com um alto grau de precisão. Em alguns casos, a precisão foi perfeita, o que significa que o invasor conseguiu inferir a resposta exata do ChatGPT.
A Importância da Segurança na IA
Essas descobertas nos lembram da necessidade de considerar a exposição de nossos dados ao usar tecnologias de IA. Embora este estudo tenha se concentrado no ChatGPT, a técnica de ataque poderia ser aplicada a outros bots de inteligência artificial. No entanto, existem exceções, como o Gemini do Google, cuja arquitetura diferente o torna imune a esse tipo de ataques.
Em conclusão, embora a IA ofereça muitas vantagens, também pode apresentar risco de segurança. É importante estar ciente desses riscos e tomar as precauções necessárias para proteger nossas informações.
Susana é uma profissional destacada em marketing e comunicação, criadora de conteúdo e especialista em SEO. Ela é formada em Psicologia pela Universidade de Santiago de Compostela e tem um mestrado em Marketing e Comportamento do Consumidor pela Universidade de Granada e Universidade de Jaén. Além disso, compartilhou seus conhecimentos através de conferências e workshops. Com ampla experiência em estratégias de marketing e comunicação, Susana conseguiu otimizar a visibilidade e o posicionamento das marcas através de técnicas de SEO.
