GPU 成了共享基础设施

GPU 成了共享基础设施

人工智能基础设施不仅仅是成本中心。现在它是一个安全边界。

2026 年 8 月 27 日,Hacker News 报道了 GPUThor,这是针对配备 GDDR6 内存的 NVIDIA 工作站 GPU 的 Rowhammer 攻击。公开报道称,该攻击可能会破坏 ECC 保护,并在特定条件下导致拒绝服务或特权升级到 root shell。

本文使用公共报告和学术研究背景。它不包含任何受影响公司的私人信息。

业主级课程很简单。共享 GPU 系统应被视为具有敏感租赁、遥测和隔离要求的共享计算。 GPU 不再只是桌子下的快速卡。

公开报道的内容

Hacker News 报道称,学术安全研究员测试了 Ampere 级 NVIDIA 工作站 GPU,发现它们容易受到 GPUThor 的攻击。报告称,攻击需要能够在目标 GPU 上启动非特权 CUDA 内核,无论是作为共享卡上的共同租户,还是作为单租户计算机上的不受信任代码。

这个条件很重要。这并不是每家公司都感到恐慌的理由。这是运行共享 GPU 基础设施、不受信任的工作负载、AI 实验室、托管笔记本、推理平台、研究集群和客户计算的团队检查隔离的原因。

ECC 很有帮助。这不是一个完整的风险故事。

为什么这对业主很重要

GPU 基础设施已从专业实验室转移到正常业务中。

公司使用 GPU 进行人工智能推理、训练、图像处理、模拟、视频分析、欺诈模型、搜索、数据管道和面向客户的自动化。许多团队还跨租户、部门、实验、承包商或客户工作负载共享 GPU。

当硬件共享时,隔离就成为一种产品承诺。如果一个工作负载可以影响另一个工作负载、导致系统崩溃、泄漏状态或升级权限,那么即使错误存在于应用程序层以下,企业也要承担该风险。

对于销售人工智能基础设施、托管工具、受监管的工作负载、客户特定模型或敏感数据分析的公司来说,这种风险尤其重要。

实际问题

拥有者不需要成为记忆安全研究员。他们确实需要提出更好的问题。

我们运行哪些 GPU?哪几代?哪些内存类型?哪些驱动程序?哪个固件?哪些内核模块?哪个虚拟化层?哪个调度程序?哪些租户共用一张卡?

不受信任的用户可以运行 CUDA 内核吗?客户代码可以在其他客户的工作负载附近运行吗?内部实验可以接近生产推理吗?笔记本电脑是否与发布系统隔离? GPU 错误计数器是否受到监控?崩溃是作为安全事件进行调查还是仅作为可靠性噪音进行调查?

这些问题定义了风险是理论上的、可控的还是紧急的。

团队现在应该检查哪些内容

创建 GPU 库存。包括模型、内存类型、驱动程序版本、固件、主机操作系统、容器运行时、编排层、租户和工作负载类。

单独的信任级别。客户工作负载、第三方笔记本、研究代码、生产推理和内部批处理作业不应自动共享相同的 GPU 边界。

限制不受信任的内核。如果用户可以运行任意CUDA代码,则平台需要更强的隔离故事和清晰的监控。

观察 ECC 和机器检查信号。硬件错误计数器、突然重置、无法解释的 GPU 故障和重复崩溃值得在共享环境中进行安全审查。

检查调度程序策略。 GPU 共享、MIG 配置、容器权限、设备插件设置、主机访问和驱动程序接口应记录在案。

计划优雅的失败。如果 GPU 类需要隔离、退役或转移到单租户使用,企业应该了解成本、时间表和客户影响。

保留证据。保留已审查的硬件、受影响的工作负载、租户边界、缓解措施和监控更改的记录。

买家问什么

人工智能系统的买家越来越多地询问他们的数据在哪里运行。他们询问模型、提示、嵌入、日志和工件是否可以跨越租户边界。他们询问基础设施是否共享。他们问隔离意味着什么。

答案应包括硬件边界、租赁模型、驱动程序/运行时控制、监控、事件响应和更改触发器。

这个答案可以建立信任,因为它将底层现实与业务承诺联系起来。

Hacker News 适合的地方

SToFU Systems 回顾了低级人工智能基础设施,仅靠应用程序安全性是不够的。我们连接 GPU 硬件、驱动程序、内核、容器、调度程序、模型服务、日志、租户边界和操作证据。

对于所有者来说,输出应该是实用的:

  • GPU 和驱动程序清单。
  • 租赁地图。
  • 不受信任的代码暴露。
  • 隔离间隙。
  • 监控信号。
  • 缓解选项。
  • 客户就绪的风险语言。

快速的基础设施仍然需要证明。特别是当多个团队或客户共享它时。

来源

  • Hacker News
Philip P.

Philip P., CTO

返回博客

联系方式

开始对话

几条清晰的线条就足够了。描述一下系统、压力、被阻碍的决策。或者直接写信给midgard@stofu.io。

0 / 10000
未选择文件