Le GPU diventano più accessibili grazie a un modello flessibile che consente di ridurre i costi e passare all’on-demand quando il progetto richiede continuità
L’intelligenza artificiale e il machine learning richiedono una crescente capacità di calcolo, in particolare attraverso l’utilizzo di GPU, processori progettati per eseguire grandi quantità di operazioni in parallelo e oggi diventati essenziali per l’addestramento degli algoritmi, il rendering avanzato, le simulazioni e le applicazioni ad alta intensità computazionale.
Per ottimizzare i costi, Seeweb propone le Istanze Spot per i Cloud Server GPU (Spot Instances), una nuova modalità di utilizzo delle risorse cloud che consente di accedere alla stessa configurazione hardware delle tradizionali istanze on-demand a un prezzo più conveniente. Il cliente utilizza quindi la capacità di calcolo disponibile beneficiando di uno sconto, accettando però che l’istanza possa essere revocata qualora quelle risorse diventino necessarie per le configurazioni on-demand. La revoca avviene con un preavviso di due minuti, lasciando quindi il tempo di gestire correttamente il processo in corso.
Lo sconto viene definito al momento della creazione dell’istanza e rimane invariato per tutta la durata della macchina in modalità Spot. La fatturazione segue il normale consumo orario del server, senza introdurre un sistema separato di gestione dei costi. Restano invece escluse, finché l’istanza rimane in modalità Spot, alcune funzionalità avanzate come Template, Snapshot e piani Reserved, che tornano disponibili dopo l’eventuale promozione a istanza on-demand.
«Con le Istanze Spot vogliamo mettere a disposizione dei nostri clienti uno strumento aggiuntivo per ottimizzare il rapporto tra prestazioni e costi, in particolare nei progetti di AI e nell’high performance computing – spiega Marco Cristofanilli, Head of Cloud AI di Seeweb «Molti workload moderni sono infatti progettati per essere distribuiti, resilienti e in grado di tollerare eventuali interruzioni. In questi contesti è possibile ottenere un risparmio significativo, continuando ad avere accesso alle stesse risorse hardware delle istanze on-demand e mantenendo la possibilità di convertirle in qualsiasi momento, quando diventano necessarie per attività critiche».
Un modello adatto ai workload che possono essere interrotti
Il valore delle Istanze Spot emerge soprattutto nei contesti in cui la continuità della singola macchina non è un requisito indispensabile. Un esempio è rappresentato dall’addestramento dei modelli di AI. Si tratta di attività che possono durare molte ore o giorni e prevedono normalmente salvataggi periodici dello stato di avanzamento, i cosiddetti checkpoint. In caso di interruzione, il lavoro può ripartire dall’ultimo punto salvato senza dover ricominciare l’elaborazione.
Lo stesso approccio si applica alle batch e alle code di lavoro, come encoding, rendering, ETL e analisi dei dati, che possono essere eseguite in sequenza o distribuite su più risorse, sfruttando la capacità di calcolo disponibile. Le Istanze Spot possono inoltre essere utilizzate nelle pipeline CI/CD per lo sviluppo software, negli ambienti temporanei di test e staging e nei sistemi basati su worker stateless, dove i singoli nodi possono essere sostituiti senza compromettere il funzionamento complessivo dell’applicazione.
Dalla protezione dei dati alla trasformazione in on-demand
La possibilità che un’istanza venga revocata non significa quindi perdere il lavoro svolto. Attraverso lo storage persistente è possibile mantenere al sicuro dataset, modelli, risultati delle elaborazioni e altri contenuti anche nel caso in cui il server venga terminato. Un elemento che consente alle aziende di combinare convenienza economica e continuità operativa, utilizzando le Istanze Spot per attività temporanee o sperimentali senza rinunciare alla protezione dei dati.
Un ulteriore elemento di flessibilità è la possibilità di promuovere in qualsiasi momento un’Istanza Spot a istanza on-demand. Se un progetto diventa più importante o un’elaborazione assume carattere critico, la risorsa può essere trasformata in una macchina permanente, non più soggetta a revoca.
Con l’introduzione delle Istanze Spot, Seeweb punta ad ampliare la propria proposta rivolta a sviluppatori, data scientist, aziende e organizzazioni che necessitano di elevate capacità di calcolo.La novità riguarda quindi la disponibilità di maggiore potenza elaborativa, ma soprattutto il modo in cui viene utilizzata. Il cloud evolve infatti verso modelli sempre più flessibili, in cui le aziende possono scegliere differenti livelli di continuità, prestazioni e costo in base alle caratteristiche dei propri progetti.
