讯享网

                <p class="f_center"><img src="http://dingyue.ws.126.net/2024/1107/5d8e3d8cg00sml1ea0082d200hs002sg00hs002s.gif"/><br/></p><p id="35D9RFUS">整理 | 燕珊</p><p id="35D9RFUT">谷歌的研究人员日前声称，他们首次利用大语言模型发现了一个重要漏洞。</p><p id="35D9RFUU">在一篇博客文章中，谷歌表示，他们相信这是 AI agent在广泛使用的现实软件中发现此前未知的、可利用的内存安全问题的首个公开案例。具体来说，它在 SQLite 中发现了一个可被利用的堆栈缓冲区下溢漏洞。</p><p id="35D9RFUV">这个漏洞在 10 月就被谷歌报告给 SQLite 开发团队，后者在同一天已经修复了它。由于漏洞在官方发布之前就被消除了，因此并没有影响到 SQLite 的用户。</p><p id="35D9RFV0">1 利用大模型发现漏洞：或致程序崩溃甚至执行任意代码</p><p id="35D9RFV1">这款基于大语言模型的漏洞挖掘 AI agent 名为“Big Sleep”，是谷歌的 Project Zero 和 DeepMind 合作的成果。据称，它是今年 6 月宣布的早期项目“Project Naptime”的延伸。</p><p id="35D9RFV2">谷歌指出，在 8 月份的 DEFCON 安全会议上，负责创建 AI 辅助漏洞研究工具的网络安全研究人员在 SQLite 中发现了另一个问题，这激发了他们的团队去尝试看能否找到更严重的漏洞。</p><p id="35D9RFV3">，堆栈缓冲区下溢漏洞可能允许攻击者导致程序崩溃，甚至执行任意代码。进一步地说，崩溃或代码执行会发生在 SQLite 可执行文件（而非库）中，原因是在代码的某个地方，特殊值 -1 被意外地用作数组索引。</p><pre></pre><br/></p><p id="35D9RFV4">这种模式会产生一个潜在的边缘情况。但函数 seriesBestIndex 未能正确处理这个边缘情况，导致在处理对 rowid 列有约束的查询时，将负索引写入栈缓冲区。在团队提供给 agent 的构建中，启用了调试断言，这个条件在第 706 行的断言中得到了检查：</p><pre></pre><br/></p><p id="35D9RFV5">然而，在发布版本中，这个断言不存在。因此，在谷歌的测试中（这会因编译器和优化级别而异），在第 718 行的后续写入操作会破坏指向 pConstraint 的指针的最低有效 32 位，这将在下一次循环迭代中导致取消引用。这种漏洞可能会被利用。</p><p id="35D9RFV6">不过，谷歌的研究人员也承认，这个漏洞的利用难度不小。</p><p id="35D9RFV7">“Big Sleep”目前仍处于研究阶段，到目前为止，它使用带有已知漏洞的小型程序来评估其查找漏洞的能力。这是它的在真实世界环境中的首次实验。</p><p id="35D9RFV8">在测试中，团队收集了 SQLite 代码库最近的几次提交。“在手动删除了琐碎的和仅用于文档的修改后，我们调整了 prompt，向 agent 提供了提交消息和更改的差异，并要求 agent 审查当前的代码库（在 HEAD）中是否存在可能未被修复的相关问题，”谷歌在博文中写道。</p><p id="35D9RFV9">基于 Gemini 1.5 Pro 的大模型最终发现了这个漏洞。在博文中，“Big Sleep”团队还详细介绍了代理评估代码、发现漏洞、导致系统崩溃以及生成根本原因分析的步骤要点。详情可查看：https://googleprojectzero.blogspot.com/2024/06/project-naptime.html</p><p id="35D9RFVA">2 AI 是模糊测试的未来？</p><p id="35D9RFVB">像谷歌这样的许多公司使用一种称为“模糊测试”（Fuzzing）的过程，通过向软件提供随机或无效的数据来测试软件，以识别漏洞、触发错误或使程序崩溃。</p><p id="35D9RFVC">但谷歌表示，模糊测试在“帮助防御者找到那些难以（或不可能）通过模糊测试发现的漏洞”方面做得还不够，并补充说，他们“<strong>希望 AI 能缩小这一差距</strong>”。</p><p id="35D9RFVD">“我们认为这项工作具有巨大的防御潜力，”“Big Sleep”团队博客文章中宣称。“这个漏洞本身非常有趣，而且现有的 SQLite 测试基础设施（通过 OSS-Fuzz 和项目自己的基础设施）都没有发现这个问题，因此我们做了一些进一步的调查。”</p><p id="35D9RFVE">值得注意的是，在 10 月，总部位于西雅图的 Protect AI 公司宣布了一款免费、开源的工具，声称可以<strong>在 Anthropic 的 Claude AI 模型的帮助下，在 Python 代码库中发现零日漏洞</strong>。这个工具名为 VulnHunter，根据其开发人员的说法，它已经在大型开源 Python 项目中发现了十多个零日漏洞。</p><p id="35D9RFVF">根据谷歌的说法，这两个工具的目的不同。谷歌的一位发言人在接受《The Register》采访时强调，“我们在博客文章中的声明是，‘Big Sleep’在广泛使用的真实软件中发现了首个未知的、可被利用的内存安全问题。”“Python 的 LLM 发现的不是与内存安全相关的漏洞，而是不同类型的缺陷。”</p><p id="35D9RFVG">“然而，<strong>我们想重申，这些都是高度实验性的结果，</strong>”谷歌团队写道。“‘Big Sleep’团队的立场是，Big Sleep Agent 目前针对特定目标的模糊测试工具在（发现漏洞）方面至少同样有效。”</p><p id="35D9RFVI">https://www.theregister.com/2024/11/05/google_ai_vulnerability_hunting/</p><p id="35D9RFVJ">https://googleprojectzero.blogspot.com/2024/06/project-naptime.html</p><p id="35D9RFVK">https://www.forbes.com/sites/daveywinder/2024/11/05/google-claims-world-first-as-ai-finds-0-day-security-vulnerability/</p><p id="35D9RFVP">AI 时代如何重塑团队成员能力，以赋能业务持续增长？极客时间企业版精选了来自平安证券、华润集团、东亚中国、东风岚图等 6 个行业 20+ 数字化转型标杆企业的数字化人才培养实践经验，希望能在制定 2025 年技术团队培养规划之际，为您提供经验和参考。扫码立即领取</p>