什么是 HAMi？
HAMi: 异构 AI 计算虚拟化中间件
异构 AI 计算虚拟化中间件（HAMi），前称为 k8s-vGPU-scheduler，是一个设计用于管理 k8s 集群中异构 AI 计算设备的“全合一”图表。它可以提供在任务之间共享异构 AI 设备的能力。
HAMi 是一个云原生计算基金会的沙箱项目和景观项目以及CNAI 景观项目。
为什么选择 HAMi
-
设备共享
- 支持多种异构 AI 计算设备
- 支持多设备容器的设备共享
-
设备显存控制
- 容器内的硬限制
- 支持动态设备显存分配
- 支持按 MB 或百分比分配内存
-
设备规格
- 支持指定某种类型的异构 AI 计算设备
- 支持使用设备 UUID 指定某个异构 AI 计算设备
-
易于尝试
- 对容器内的任务透明
- 使用 helm 安装/卸载，简单且环保
-
开放和中立
- 由互联网、金融、制造、云服务提供商等共同发起
- 目标是与 CNCF 进行开放治理
下一步
以下是一些推荐的下一步操作：