NVIDIA ha annunciato la disponibilità open source dell’intera piattaforma Run:ai, dedicata all’orchestrazione dei carichi AI e delle risorse GPU su Kubernetes. L’iniziativa rientra nella piattaforma NVIDIA DSX AI Factory e consente a clienti, sviluppatori e partner di accedere al codice, contribuire al progetto o integrarne le funzionalità nei propri servizi. Il rilascio non riguarda soltanto un componente isolato: comprende lo stack completo e quattro moduli utilizzabili anche separatamente, lasciando ai team la scelta fra adozione integrata e inserimento mirato nella propria infrastruttura.
Una piattaforma completa, con percorsi di adozione diversi
Secondo il blog tecnico NVIDIA, Run:ai gestisce l’allocazione dinamica delle GPU lungo il ciclo di vita dei carichi, dalla preparazione dei dati all’addestramento fino all’inferenza. Il codice completo è disponibile nel repository Run:ai dell’organizzazione GitHub NVIDIA DSX AI Factory. La piattaforma viene distribuita anche su NVIDIA NGC come Community Product, con un Helm chart per installare lo stack integrato.
È importante distinguere disponibilità del codice, condizioni della distribuzione e supporto. Il sorgente è disciplinato dalle rispettive licenze open source; il download del Community Product da NGC richiede l’accettazione degli accordi NVIDIA applicabili. Non occorrono un abbonamento Run:ai a pagamento o un diritto al supporto NVIDIA, ma il supporto enterprise non è incluso. Restano disponibili offerte commerciali supportate, con condizioni variabili secondo il canale e il prodotto.
Quattro moduli per scheduling, condivisione e governo
KAI Scheduler è il motore di scheduling nativo Kubernetes alla base di Run:ai. NVIDIA ricorda di averlo rilasciato con licenza Apache 2.0 e contribuito alla CNCF come progetto Sandbox. Può essere adottato in un cluster esistente senza installare l’intera piattaforma, per gestire carichi GPU con accesso equo alle risorse e posizionamento consapevole della topologia.
GPU Fractioning Operator porta invece su Kubernetes il frazionamento nativo delle GPU di CUDA 13.4. Il driver impone un limite alla memoria GPU disponibile per ciascun carico, mentre l’operatore offre l’integrazione nel cluster e metriche per pod. Può collaborare con KAI Scheduler, ma non dipende da un solo scheduler. NVIDIA lo propone per notebook, sessioni di sviluppo e modelli più piccoli che non richiedono tutta la memoria di una GPU.
KAI Resource Management aggiunge progetti, dipartimenti, quote e pool di nodi per ripartire la capacità secondo l’organizzazione dei team. Workload Map descrive invece struttura, componenti e ruoli dei diversi carichi Kubernetes attraverso un contratto comune. È una libreria Go utilizzabile offline: non svolge autonomamente scheduling, accodamento o autoscaling. La separazione dei compiti evita di attribuire a ogni modulo le funzioni dell’intero stack.
Il valore operativo dipende dal problema da risolvere
L’apertura permette ai partner di costruire servizi differenziati, ma non rende obbligatoria una sostituzione completa della piattaforma esistente. Un team può concentrarsi sulla condivisione della capacità inutilizzata, sulla gestione delle quote oppure sulla comprensione uniforme di carichi eterogenei. NVIDIA presenta anche progetti complementari: Model Streamer accelera il caricamento dei pesi dei modelli, mentre Grove orchestra carichi con più componenti e necessità di scalare insieme.
In sintesi: Run:ai diventa una base aperta per l’orchestrazione AI, con adozione modulare o integrata. Prima di scegliere il percorso, conviene identificare il collo di bottiglia concreto e verificare compatibilità, licenze applicabili e requisiti di supporto, senza confondere open source e assistenza enterprise inclusa.
Lascia un commento