https://cuicaihao.github.io/zh/tags/google-gemini/Recent content in Google Gemini on C.CUI's LogHugozh-HansMon, 24 Aug 2026 07:00:00 +1000https://cuicaihao.github.io/zh/posts/2026-08-24-unmasking-ai-vulnerabilities-the-challenge-of-llm-safety-and-jailbreaking/Mon, 24 Aug 2026 07:00:00 +1000https://cuicaihao.github.io/zh/posts/2026-08-24-unmasking-ai-vulnerabilities-the-challenge-of-llm-safety-and-jailbreaking/本文探讨了安全研究员 David Kuszmar 如何通过实验绕过 Google Gemini 等主流大模型的内容安全规则，使 AI 角色讨论违禁话题。文章深入分析了大模型安全规则的根本挑战，对比了 AI 的概率性判断与传统软件的确定性权限。它强调了在处理知识双重用途和防止模型越狱方面，需要多层防御而非仅仅依赖数据过滤。