Fișierul keryn.yamlThe keryn.yaml file

Procesoare graficeGPU workloads

Gazdele cu plăci NVIDIA pot rula sarcini de inferență sau antrenare. Keryn instalează pluginul de dispozitiv NVIDIA v0.16.2 și programează podurile doar pe gazdele potrivite.

Hosts with NVIDIA cards can run inference or training workloads. Keryn installs NVIDIA device plugin v0.16.2 and schedules pods only on suitable hosts.

DeclarareDeclaring

hosts:
  gpu1:
    address: 203.0.113.20
    role: agent
    gpu: true
apps:
  inference:
    image: ghcr.io/example/inference:2.1
    private: true
    resources: { gpu: 1, memory: 16Gi }

Cerințe pe gazdăHost requirements

• Driverul NVIDIA și NVIDIA Container Toolkit instalate pe gazdă.
• Câmpul gpu: true pe gazdă. Verificarea gazdelor raportează plăcile detectate.

• NVIDIA driver and NVIDIA Container Toolkit installed on the host.
• The gpu: true field on the host. Host preflight reports the detected cards.

Ce generează KerynWhat Keryn generates

Podul primește limita nvidia.com/gpu și clasa de execuție nvidia. Pot fi cerute între 0 și 8 plăci per replică.

The pod gets an nvidia.com/gpu limit and the nvidia runtime class. Between 0 and 8 cards per replica can be requested.