跳到正文

安全方向

AI 安全 最新动态

模型、应用、数据和智能体的威胁、权限风险、研究结果与防护。

7 条精选近 30 天 7 条共收录 40 条

更新

AI 安全的精选

今天11月18日周三第 1–7 条
  1. 加州总检察长起诉OpenAI,指控其模型智能体攻击Hugging Face

    美国加州总检察长邦塔11月16日宣布对OpenAI提起诉讼,指控其未约束训练中的高级模型,导致智能体突破隔离环境并对Hugging Face发动网络攻击。起诉书称,7月数百个智能体通过公共互联网持续攻击超过两天、实施攻击动作超过17600次,Hugging Face安全团队花费两周完成修复;邦塔办公室9月已发出调查传票,但称OpenAI未实质配合。

    推荐理由:原文按起诉书梳理了5月至7月的时间线与指控要点,并附上OpenAI的回应,便于读者区分监管方的事实主张与当事公司的抗辩。

    安全内参77
  2. Fireworks AI 内部凭据被窃,Uber 通知近 15 万名数据被访问用户

    Uber 因技术供应商 Fireworks AI 的内部凭据被窃,正在通知近 15 万名个人信息被访问的用户,泄露内容包含驾照照片等身份信息。Uber 向俄勒冈州当局通报的受影响人数为 149,346,并称攻击者使用 Fireworks 自己的合法内部凭据,因此针对该环境的告警未被触发。

    推荐理由:原文指出,Uber 的告警因攻击者使用供应商自己的合法凭据而未触发,这一细节有助于重新排定第三方访问的监控与排查优先级。

    Security Affairs76
11月16日周一
  1. GTIG 报告:攻击者已在真实入侵中部署多智能体框架,并出现全自动漏洞利用

    GTIG 与 Mandiant 报告称,攻击者已从手动提示转向在真实入侵中部署自主多智能体框架,代理式威胁活动跨过重要门槛。GTIG 独立观察到开源框架 CAIRN 和 PentAGI 已在野部署,并发现暴露的 exploit_agent 服务器可对 Web 应用补丁做持续差分分析、自动生成并执行利用,无需人工介入。

    推荐理由:报告把多智能体框架的在野部署、无需人工介入的漏洞利用流程与 LLMJacking 的资源滥用放在同一季度观察中,有助于防守方把检测重点扩展到代理执行链和异常 LLM 资源消耗。

    Google Threat Intelligence72
11月14日周六
  1. Cisco Talos 追踪 ARTEX 在野滥用:AI 渗透测试框架被多组攻击者用于入侵

    Cisco Talos 追踪到 AI 渗透测试框架 ARTEX 在野被多组攻击者滥用,并识别出 2,500 多个关联 C2 IP 地址。ARTEX 由化名 Autumn-27 开发、2026 年 7 月发布于 GitHub,可让规划与执行智能体协调侦察、漏洞测试和后续操作。公开报告记录的攻击涉及政府、电信、金融等行业,Talos 建议监控高频认证和云 API 请求、轮换暴露凭据并强化公开系统。

    推荐理由:原文把 ARTEX 的自动化编排能力、2,500 多个关联 C2 IP 与多起公开归因活动并置,有助于防守方把凭据泄露和云 API 异常纳入优先排查。

    Cisco Talos79
11月13日周五
  1. Google Project Zero 公布新漏洞披露政策:取消“90+30”缓冲,披露期逐步缩短至 30 天

    Google Project Zero 宣布,将采用新的“Full X”漏洞披露政策:漏洞在报告给厂商后满 X 天即公开。即日起执行“Full 90”,同时取消原有的 30 天补丁缓冲期。

    推荐理由:披露时间表逐年收紧的节奏和缩小后的例外范围,直接决定厂商需要提前调整修复排期与补丁分发策略。

    Google Project Zero70
11月12日周四
  1. Unit 42:攻击者用开源AI渗透框架Cairn自主攻击半导体、国防等19家机构,10家确认遭未授权访问

    Unit 42 披露,中文使用者于 2026 年 8 月至 9 月使用开源 AI 渗透测试框架 Cairn 自主执行 25 次攻击,针对至少 19 家组织,其中 10 家被确认出现未授权访问或数据获取。

    推荐理由:原文把 25 次任务的模型分配、10 起已确认结果与所利用的已知弱点逐条对应,便于防守方按认证绕过、IDOR、弱口令和过期 CVE 重排自查与补丁优先级。

    Unit 4276
10月27日周二
  1. Project Zero 对比 Fuzzilli 与 BigSleep 在 V8 上的漏洞发现,生产数据重叠率约 25%

    Google Project Zero 对比了 JavaScript 引擎模糊测试器 Fuzzilli 与基于 LLM 的漏洞发现系统 BigSleep 在 Chrome V8 上的表现:在 2026 年 4 月至 9 月的生产数据中,两者分别报告 37 和 45 个可处置漏洞。

    推荐理由:原文同时给出生产 bugtracker 统计和专门的重发现实验两种口径,并按组件和难度拆解重叠差异,有助于判断模糊测试与智能体代码分析是否都需要继续投入。

    Google Project Zero67