洞源实验室 | 网络安全实践与AI安全探索

引言为什么需要关注OSS供应链安全？ 在现代软件开发中，开源软件（Open Source Software, OSS）扮演着不可替代的角色。无论是互联网巨头，还是初创公司，几乎所有的软件工程项目都依赖于开源组件来加快开发节奏、降低研发成本。然而，开源组件带来的不仅是便利，也可能成为攻击者渗透整个软件供应链的突破口。 近年来，针对开源生态系统的攻击手法层出不穷，例如依赖混淆（Dependency C

前言随着大语言模型（LLM）技术的不断发展，其强大的推理能力正被应用于各类任务，从代码生成、漏洞修复（建议生成）到复杂流程的自动化，这其中也包括AI Agent，AI Agent实际上是从智能化考虑的自动化，它利用了大语音模型的能力，能够具备感知、记忆、决策和行动的能力，大大丰富了基于大语言模型的应用场景。这些场景中自然也包括漏洞利用的能力，长远来看，攻防对抗（无论是热战争还是网络战争）都在朝着无

几天之前（2025年3月21日），Next.js开发框架被爆出存在一个身份验证绕过检查的漏洞，漏洞编号是CVE-2025-29927，漏洞的报告者是Allam Rachid（zhero;）和Allam Yasser（inzo_），且漏洞影响的版本较大。 影响版本>=11.1.4，<=13.5.6 >=14.0，<14.2.25 >

在漏洞研究中，缺乏公开的PoC（Proof of Concept）或Exp（Exploit）的Nday漏洞往往成为安全分析的难点，这类漏洞可能因未公开细节、修复迅速或利用条件苛刻而被忽视，比如面对大量的CVE漏洞，而又对漏洞的简短描述一头雾水，但其中许多漏洞的潜在风险不容小觑。本文旨在系统化拆解无PoC/Exp漏洞的分析方法，尤其是开源软件的安全漏洞分析，覆盖漏洞挖掘、补丁逆向、PoC构

在半个多月前，来自VS Code团队的成员在Hacker News中发帖称，VS Code的社区成员向微软汇报说有一个VS Code的扩展程序有安全风险和隐患，并且经过微软的安全研究人员分析和确认，在这个扩展程序中发现了可疑的代码，于是团队很快禁用了VS Code扩展市场中这个扩展程序的作者账户，同时移除了这个作者发布的所有扩展程序，也从VS Code的运行实例中卸载了正在运行的这个扩展（是的，微

自从ChatGPT问世，其创造能力让世人震惊，甚至其能力也让设计和开发它的人感到不可思议。当大家娱乐的劲头散去，自然而然会想到利用大语言模型来解决专业的问题，其中一项就是写代码，于是ChatGPT问世不久微软就推出了Copilot，毕竟这家公司不仅给OpenAI投资了130亿美金，旗下还拥有GitHub这样规模最庞大的代码托管平台，2023年，Cursor问世，这款代码编辑器相当于是一款AI版的V

软件工程师兼安全工程师Shrivu Shankar在两周前发布了一篇《How to Backdoor Large Language Models》（https://substack.com/home/post/p-156746809 ），文章源起是DeepSeek R1的开源让许多人担心这个大模型会存在后门或监控，于是作者介绍了一个自己训练的带有后门的大模型BadSeek，该模型是基于开源的Qwe

从2016年至今，每年在不同地域都会举办网络安全攻防演练，起初只是小规模的试点项目，到如今它已经发展成为一场大规模的红蓝对抗演练。随着演练规模不断扩大，红队攻击手段也在不断升级，攻击面也在持续扩大，对于蓝队而言，防护工作也面临越来越大的挑战。 总结过去几年的攻防演练，我们可以发现红队在攻击手段上的几个趋势： 首先，供应链攻击成为红队的重点手段。攻击方开始将目光转向软件供应链的系统或平台，尤其是已经

这段时间，B站的知名UP主“老师好我叫何同学”因为一则《我用36万行备忘录做了个动画…》的视频备受争议，将这名UP主再次推上了舆论的风口浪尖，视频内容主要介绍利用备忘录的功能，手动输入字符，并通过下滑功能制造动画效果，结合多部手机来协同做出惊艳的动画短片，主要目的当然还是做某款手机的软广。 说是争议其实不合适，因为这次舆论的焦点几乎是一边倒地指责何同学犯下的低级错误，因为在这则视频的原始版本的5

什么是AI安全自ChatGPT问世以来，市场上涌现出了众多大型语言模型和多样化的AI应用。这些应用和模型在为我们的生活带来便利的同时，也不可避免地面临着安全挑战。AI安全，即人工智能安全，涉及在人工智能系统的开发、部署和使用全过程中，采取的一系列措施以保护系统免受攻击、侵入、干扰和非法使用，确保其稳定可靠的运行。 在当前的讨论中，我们通常提到的AI安全实际上涵盖了两个主要方面：大型语言模型（LLM