调度策略

┌─────────────────────────────────────────────┐
│           节点级策略（Node Policy）            │
│   控制 Pod 在不同节点间的分布                  │
│   策略：binpack | spread                     │
├─────────────────────────────────────────────┤
│           GPU 卡级策略（GPU Policy）           │
│   控制 Pod 在同一节点上的不同 GPU 卡间分布     │
│   策略：binpack | spread | topology          │
└─────────────────────────────────────────────┘

3 张 GPU 当前使用情况：
  GPU-0: ████████░░ 80% 使用
  GPU-1: ████░░░░░░ 40% 使用
  GPU-2: ░░░░░░░░░░  0% 使用

BinPack 选择：GPU-0（使用率最高，剩余空间仍可容纳新 Pod）

# values.yaml
scheduler:
  policy:
    nodeSchedulerPolicy: binpack    # 节点级 binpack
    gpuSchedulerPolicy: binpack     # 卡级 binpack

# 或通过 Pod 注解指定
metadata:
  annotations:
    hami.io/node-scheduler-policy: "binpack"
    hami.io/gpu-scheduler-policy: "binpack"

3 张 GPU 当前使用情况：
  GPU-0: ████████░░ 80% 使用
  GPU-1: ████░░░░░░ 40% 使用
  GPU-2: ░░░░░░░░░░  0% 使用

Spread 选择：GPU-2（使用率最低，有最多可用空间）

# values.yaml
scheduler:
  policy:
    nodeSchedulerPolicy: spread     # 节点级 spread
    gpuSchedulerPolicy: spread      # 卡级 spread

GPU 拓扑示例：
  GPU-0 ←→ GPU-1 : NVLink（高带宽）
  GPU-2 ←→ GPU-3 : NVLink（高带宽）
  GPU-0 ←→ GPU-2 : PCIe（低带宽）

需要 2 卡的训练任务 → 优先选择 GPU-0 + GPU-1（NVLink 互联）

# values.yaml
scheduler:
  policy:
    gpuSchedulerPolicy: topology    # 卡级拓扑感知

# values.yaml
devicePlugin:
  nvidia:
    migStrategy: "mixed"   # 启用 MIG

# Pod 使用 MIG 实例
apiVersion: v1
kind: Pod
metadata:
  name: mig-inference
spec:
  containers:
  - name: serving
    image: vllm:latest
    resources:
      limits:
        nvidia.com/mig-2g.20gb: 1

# 训练集群：节点分散 + 拓扑感知
scheduler:
  policy:
    nodeSchedulerPolicy: spread
    gpuSchedulerPolicy: topology

---
# 推理集群：节点聚集 + 卡级分散
scheduler:
  policy:
    nodeSchedulerPolicy: binpack
    gpuSchedulerPolicy: spread

// ScoreNode 接口定义
type Devices interface {
    ScoreNode(
        node string,
        podDevices PodDevices,
        previous float32,
        policy string,
    ) float32
}