Episode Details

Ajude o Segurança Legal a continuar existindo. Visite nossa campanha de financiamento coletivo e nos apoie!

Neste episódio falamos sobre a crise de cybersegurança na inteligência artificial, onde você irá descobrir os riscos da sua adoção desenfreada e os principais ataques baseados em linguagem natural.​ Guilherme Goulart e Vinícius Serafim analisam as vulnerabilidades críticas da inteligência artificial, discutindo o artigo “Cyber Security Crisis of artificial intelligence”. O debate aprofunda-se em ataques como o prompt injection e o envenenamento de modelo (model poisoning), que exploram falhas em grandes modelos de linguagem como o ChatGPT da OpenAI. Abordamos os perigos da rápida integração da IA sem a devida análise de riscos, o que pode gerar uma crise sistêmica em segurança da informação. A discussão também explora a ética da IA, a necessidade de transparência dos provedores e a importância da proteção de dados em um cenário de inovação acelerada. Assine, siga e avalie o nosso podcast para não perder nenhuma análise sobre tecnologia e segurança.

ShowNotes:

• Artigo: The Cybersecurity Crisis of Artificial Intelligence: Unrestrained Adoption and Natural Language-Based Attacks por Andreas Tsamados, Luciano Floridi e Mariarosaria Taddeo
• Open IA Security Portal

Imagem do episódio gerada pelo ChatGPT e Dall-e