NVIDIA – Data Manager Online https://www.datamanager.it Il portale dell'ICT professionale Mon, 02 Mar 2026 13:30:37 +0000 it-IT hourly 1 https://wordpress.org/?v=5.8.13 https://www.datamanager.it/wp-content/uploads/2020/04/dmo-favicon3.png NVIDIA – Data Manager Online https://www.datamanager.it 32 32 Red Hat AI Factory con NVIDIA accelera il percorso verso un’AI scalabile in produzione https://www.datamanager.it/2026/03/red-hat-ai-factory-con-nvidia-accelera-il-percorso-verso-unai-scalabile-in-produzione/ Mon, 02 Mar 2026 13:30:37 +0000 https://www.datamanager.it/?p=251281 La nuova offerta co‑ingegnerizzata combina Red Hat AI Enterprise e il software di calcolo accelerato di NVIDIA per fornire una base unificata su cui costruire, distribuire e scalare applicazioni abilitate all’intelligenza artificiale Red Hat, il fornitore leader mondiale di soluzioni open source, ha annunciato la disponibilità Red Hat AI Factory con NVIDIA, una piattaforma software […]

L'articolo Red Hat AI Factory con NVIDIA accelera il percorso verso un’AI scalabile in produzione proviene da Data Manager Online.

]]>
La nuova offerta co‑ingegnerizzata combina Red Hat AI Enterprise e il software di calcolo accelerato di NVIDIA per fornire una base unificata su cui costruire, distribuire e scalare applicazioni abilitate all’intelligenza artificiale

Red Hat, il fornitore leader mondiale di soluzioni open source, ha annunciato la disponibilità Red Hat AI Factory con NVIDIA, una piattaforma software co-ingegnerizzata dalle due aziende che combina Red Hat AI Enterprise e NVIDIA AI Enterprise per fornire una soluzione AI end-to-end ottimizzata per le organizzazioni che intendono implementare l’AI su larga scala. Red Hat AI Factory con NVIDIA rappresenta solo il più recente tassello della profonda collaborazione tra le due aziende, mirata a portare più rapidamente le recenti innovazioni AI ai clienti enterprise di oggi, offrendo al contempo supporto Day 0 per le architetture hardware NVIDIA.

Con previsioni di una spesa aziendale per l’AI che supererà 1 trilione di dollari entro il 2029, trainata in gran parte dalle applicazioni di agentic AI, le organizzazioni stanno orientando le loro strategie verso workflow agentici ad alta densità e cercano di affrontare le crescenti esigenze che questi modelli impongono all’inferenza dell’AI e all’infrastruttura. Red Hat AI Factory con NVIDIA supporta le aziende in questo percorso, consentendo ai team operativi IT di semplificare la gestione dell’infrastruttura tradizionale e delle esigenze in evoluzione dello stack AI.

Red Hat AI Factory con NVIDIA accelera il percorso verso l’intelligenza artificile in produzione e fornisce la piattaforma software per le AI factory, in esecuzione su un’infrastruttura di elaborazione accelerata che garantisce prestazioni più elevate per i modelli e le GPU NVIDIA che gestiscono lo stack di inferenza. La piattaforma è supportata dall’infrastruttura di fabbrica di intelligenza artificiale dei principali produttori di sistemi, tra cui Cisco, Dell Technologies, Lenovo e Supermicro, cosa che consente agli amministratori IT e ai team di operations di scalare e gestire le implementazioni AI con lo stesso rigore operativo e la stessa prevedibilità di qualsiasi workload aziendale.

Chris Wright, chief technology officer e senior vice president, Global Engineering, Red Hat, spiega: “Il passaggio dalla sperimentazione AI alla produzione su scala industriale e a livello aziendale richiede un cambiamento profondo nel modo in cui gestiamo lo stack di calcolo AI. Con Red Hat AI Factory con NVIDIA, stiamo accelerando il percorso di implementazione del l’AI per passare rapidamente alla produzione. Sulla base delle nostre comprovate offerte in tema di hybrid cloud, la piattaforma fornisce una base stabile e ad alte prestazioni che consente ai nostri clienti di avere un reale controllo della propria strategia AI e di scalare con lo stesso rigore che applicano alle altre piattaforme IT”.

Red Hat AI Factory con NVIDIA integra la collaborazione open source, l’ingegneria e l’esperienza di supporto di Red Hat e NVIDIA per fornire una soluzione affidabile di livello enterprise, altamente scalabile per le implementazioni AI in qualsiasi ambiente: on-premise, nel cloud o all’edge. La piattaforma include le principali funzionalità di inferenza AI ad alte prestazioni e per la messa a punto dei modelli, la personalizzazione e l’implementazione e la gestione degli agenti, con un focus sulla sicurezza.

Ciò consente alle organizzazioni di mantenere il controllo della propria architettura dal data center al cloud pubblico, fornendo:

  • Accelerazione del time-to-value: accelerazione dell’AI in produzione con flussi di lavoro semplificati e accesso istantaneo a modelli preconfigurati, inclusa la famiglia IBM Granite e i modelli aperti NVIDIA Nemotron e NVIDIA Cosmos, forniti come microservizi NVIDIA NIM. Inoltre, le organizzazioni possono allineare ulteriormente i modelli ai dati aziendali utilizzando NVIDIA NeMo, riducendo i tempi e i costi di messa a punto.
  • Ottimizzazione di costi e prestazioni: massimizzazione dell’utilizzo dell’infrastruttura e aumento delle prestazioni di inferenza con uno stack di servizio unificato e ad alte prestazioni. Red Hat AI Factory con NVIDIA offre funzionalità di osservabilità integrate e sfrutta le capacità di inferenza di Red Hat AI alimentate da vLLM, NVIDIA TensorRT-LLM, e NVIDIA Dynamo soddisfare rigorosi obiettivi di livello di servizio AI. Ciò aiuta le organizzazioni a ridurre il costo totale di proprietà (TCO) per l’AI ottimizzando la connessione tra modelli e GPU NVIDIA.
  • Orchestrazione intelligente della GPU: possibilità di accedere on-demand alle risorse della GPU tramite orchestrazione intelligente e infrastruttura in pool, con checkpoint automatici per proteggere i processi di lunga durata e mantenere costi di elaborazione più prevedibili in ambienti dinamici.
  • Rafforzamento della postura aziendale: sfruttando la base flessibile e stabile di Red Hat Enterprise Linux, le organizzazioni beneficiano di funzionalità avanzate di sicurezza e conformità già integrate che aiutano a ridurre i rischi, a risparmiare tempo e a mitigare i tempi di inattività. Ciò fornisce una base rafforzata per la sicurezza per i carichi di lavoro AI mission-critical che richiedono isolamento e verifica continua. I microservizi NVIDIA DOCA si basano su questa base, creando un’architettura zero-trust e garantendo la sicurezza runtime dell’intelligenza artificiale in tutta l’infrastruttura.

 

L'articolo Red Hat AI Factory con NVIDIA accelera il percorso verso un’AI scalabile in produzione proviene da Data Manager Online.

]]>
Dassault Systèmes e NVIDIA collaborano per creare una piattaforma di AI per l’industria che potenzia i Virtual Twin https://www.datamanager.it/2026/02/dassault-systemes-e-nvidia-collaborano-per-creare-una-piattaforma-di-ai-per-lindustria-che-potenzia-i-virtual-twin/ Wed, 04 Feb 2026 14:09:01 +0000 https://www.datamanager.it/?p=250705 L’architettura industriale condivisa basata sull’intelligenza artificiale combina Virtual Twins e infrastrutture AI implementabili su larga scala Dassault Systèmes e NVIDIA hanno annunciato una partnership strategica di lungo periodo per definire un’architettura industriale condivisa per un’intelligenza artificiale mission-critical, applicabile a diversi settori industriali. L’integrazione delle tecnologie Virtual Twin di Dassault Systèmes con l’infrastruttura AI di NVIDIA, i […]

L'articolo Dassault Systèmes e NVIDIA collaborano per creare una piattaforma di AI per l’industria che potenzia i Virtual Twin proviene da Data Manager Online.

]]>
L’architettura industriale condivisa basata sull’intelligenza artificiale combina Virtual Twins e infrastrutture AI implementabili su larga scala

Dassault Systèmes e NVIDIA hanno annunciato una partnership strategica di lungo periodo per definire un’architettura industriale condivisa per un’intelligenza artificiale mission-critical, applicabile a diversi settori industriali.

L’integrazione delle tecnologie Virtual Twin di Dassault Systèmes con l’infrastruttura AI di NVIDIA, i modelli open e le librerie software accelerate consentirà la creazione di World Model industriali validati scientificamente, oltre a nuovi modi di lavorare attraverso companion virtuali specializzati sulla piattaforma agentica 3DEXPERIENCE, in grado di fornire ai professionisti nuove competenze.

“Stiamo entrando in un’era in cui l’intelligenza artificiale non si limita a prevedere o generare contenuti, ma comprende il mondo reale. Quando l’AI è fondata sulla scienza, sulla fisica e su conoscenze industriali validate, diventa un moltiplicatore dell’ingegno umano”, ha dichiarato Pascal Daloz, CEO di Dassault Systèmes. “Insieme a NVIDIA stiamo costruendo World Model industriali che uniscono Virtual Twin e calcolo accelerato per aiutare l’industria a progettare, simulare e gestire sistemi complessi nei settori della biologia, della scienza dei materiali, dell’ingegneria e della produzione manifatturiera con piena affidabilità. Questa partnership getta le basi di una nuova AI industriale, affidabile per la progettazione e capace di scalare l’innovazione nell’economia generativa”.

“La Physical AI rappresenta la nuova frontiera dell’intelligenza artificiale, fondata sulle leggi del mondo fisico”, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Insieme a Dassault Systèmes uniamo decenni di leadership industriale con le piattaforme AI e Omniverse di NVIDIA per trasformare il modo in cui milioni di ricercatori, progettisti e ingegneri costruiscono le più grandi industrie del mondo”.

Dassault Systèmes e NVIDIA collaborano per accelerare ogni settore industriale.

Dassault Systèmes, attraverso il brand OUTSCALE, sta implementando AI factory nell’ambito della propria strategia cloud sostenibile e sovrana. Le AI factory OUTSCALE utilizzeranno le più recenti infrastrutture AI di NVIDIA su tre continenti, offrendo funzionalità avanzate per l’esecuzione di modelli AI sulla piattaforma 3DEXPERIENCE e garantendo al contempo la protezione dei dati, della proprietà intellettuale e la sovranità dei clienti di Dassault Systèmes.

NVIDIA adotterà l’approccio di model-based systems engineering (MBSE) di Dassault Systèmes per progettare le AI factory, a partire dalla piattaforma NVIDIA Rubin e con integrazione nel blueprint NVIDIA Omniverse DSX per il deployment su larga scala delle AI factory.

Questa infrastruttura alimenterà i Virtual Twin industriali di Dassault Systèmes utilizzando modelli e librerie open di NVIDIA, aprendo nuove opportunità nei settori della biologia, della scienza dei materiali, dell’ingegneria e della produzione manifatturiera:

  • Avanzamento della ricerca in biologia e nei materiali: la piattaforma NVIDIA BioNeMo™ combinata con i World Model validati scientificamente di BIOVIA accelererà la scoperta di nuove molecole e materiali di nuova generazione.
  • Progettazione e ingegneria guidate dall’AI: il comportamento fisico dei Virtual Twin basato sull’AI SIMULIA, sfruttando le librerie NVIDIA CUDA-X™ e le librerie di fisica AI, consentirà a progettisti e ingegneri di prevedere risultati in modo immediato e accurato.
  • Virtual Twin per ogni fabbrica: le librerie di Physical AI di NVIDIA Omniverse integrate nei Virtual Twin DELMIA dei sistemi produttivi globali permetteranno la creazione di sistemi di produzione autonomi e software-defined.
  • Companion virtuali che potenziano gli utenti Dassault Systèmes: la piattaforma agentica 3DEXPERIENCE, che combina le tecnologie AI di NVIDIA e i modelli open NVIDIA Nemotron con gli Industry World Model di Dassault Systèmes, alimenta companion virtuali capaci di accedere a un contesto industriale profondo, offrendo intelligence affidabile e operativa con un’efficienza su scala industriale.

La partnership eleva la collaborazione esistente tra Dassault Systèmes e NVIDIA a una visione condivisa di lungo periodo su come l’AI industriale sarà costruita, validata e distribuita su larga scala, grazie a una combinazione unica delle Virtual Twin Factory di Dassault Systèmes e delle tecnologie AI di NVIDIA per tutti i settori industriali.

I leader globali costruiscono il futuro dell’industria con Dassault Systèmes e NVIDIA

“Bel Group sta costruendo un futuro alimentare sostenibile attraverso formulazioni e packaging responsabili. Grazie alla collaborazione tra NVIDIA e Dassault Systèmes, otteniamo la potenza di calcolo necessaria per modellare e ottimizzare i nostri prodotti su larga scala, accelerando l’innovazione e rispettando al contempo i nostri impegni di sostenibilità”, ha dichiarato Cécile Béliot, CEO di Bel Group.

“Per affrontare la crescente complessità della produzione moderna, l’industria deve evolvere verso sistemi produttivi completamente autonomi e digitalmente validati”, ha dichiarato Motohiro Yamanishi, President of Industrial Automation di OMRON. “Combinando i framework di Physical AI di NVIDIA con la Virtual Twin Factory di Dassault Systèmes e le tecnologie di automazione di OMRON, i produttori possono passare dalla progettazione alla messa in opera con maggiore sicurezza e rapidità”.

“L’ingegneria e la tecnologia pluripremiate di Lucid continuano a stabilire nuovi standard nel settore automotive e Dassault Systèmes resta un partner chiave che ci consente di rimanere all’avanguardia nell’ingegneria dei veicoli e dei powertrain”, ha dichiarato Vivek Attaluri, Vice President of Vehicle Engineering di Lucid. “Agilità, velocità di innovazione e rapida iterazione sono al centro dei nostri flussi di lavoro e l’esplorazione della fisica dei Virtual Twin basata su AI, alimentato dai modelli di intelligenza artificiale open source di NVIDIA basati sulla fisica, ha il potenziale di consentire ai nostri team di passare dal concept alla produzione più velocemente che mai, senza sacrificare l’accuratezza predittiva. Attendiamo con interesse di proseguire la collaborazione e di sfruttare questi nuovi strumenti a supporto delle future innovazioni di Lucid”.

“NIAR potenzia la prossima generazione di aeromobili. Dalla digitalizzazione delle risorse alla creazione e alla convalida della progettazione e della produzione, la tecnologia Virtual Twin introduce capacità ed efficienza senza precedenti. I Virtual Companion di Dassault Systèmes per l’ingegneria, che sfruttano la piattaforma agentica 3DEXPERIENCE utilizzando i modelli aperti NVIDIA Nemotron e i modelli Dassault Systèmes Industry World, accelerano la sintesi conforme alla progettazione dei Virtual Twin degli aeromobili. L’utilizzo della piattaforma per allineare il Virtual Twin alle misure di conformità riduce gli sforzi di certificazione, preservando al contempo la sovranità delle informazioni”, ha affermato Shawn Ehrstein, Direttore, Tecnologie emergenti e CAD/CAM, National Institute for Aviation Research, Wichita State University.

La partnership è stata annunciata in occasione di 3DEXPERIENCE World, l’evento annuale di Dassault Systèmes dedicato alle comunità della progettazione e dell’ingegneria. Daloz e Huang sono saliti sul palco per discutere del futuro dell’industria alimentata dall’AI martedì 3 febbraio alle 9:00 (CT). La registrazione dell’incontro sarà disponibile su YouTube.

L'articolo Dassault Systèmes e NVIDIA collaborano per creare una piattaforma di AI per l’industria che potenzia i Virtual Twin proviene da Data Manager Online.

]]>
CrowdStrike collabora con NVIDIA per dare impulso allo sviluppo dell’agentic AI in ambito cybersecurity https://www.datamanager.it/2025/03/crowdstrike-collabora-con-nvidia-per-dare-impulso-allo-sviluppo-dellagentic-ai-in-ambito-cybersecurity/ Wed, 19 Mar 2025 16:15:03 +0000 https://www.datamanager.it/?p=244071 Alimentata dai microservizi NVIDIA NIM – con modelli di ragionamento in fase di test – Charlotte AI di CrowdStrike offre un triage di rilevamento 2 volte più veloce con il 50% in meno di risorse computazionali, massimizzando l’efficienza dei SOC CrowdStrike ha annunciato innovazioni rivoluzionarie nell’agentic AI, basate sul software AI di NVIDIA, stabilendo un […]

L'articolo CrowdStrike collabora con NVIDIA per dare impulso allo sviluppo dell’agentic AI in ambito cybersecurity proviene da Data Manager Online.

]]>
Alimentata dai microservizi NVIDIA NIM – con modelli di ragionamento in fase di test – Charlotte AI di CrowdStrike offre un triage di rilevamento 2 volte più veloce con il 50% in meno di risorse computazionali, massimizzando l’efficienza dei SOC

CrowdStrike ha annunciato innovazioni rivoluzionarie nell’agentic AI, basate sul software AI di NVIDIA, stabilendo un nuovo standard per la cybersecurity alimentata dall’intelligenza artificiale. Eseguendo internamente microservizi NVIDIA NIM, Charlotte AI Detection Triage di CrowdStrike ha consentito, in media, un triage automatizzato della rilevazione raddoppiando la velocità rispetto al suo lancio iniziale, utilizzando il 50% in meno di risorse computazionali, riducendo l’alert fatigue e massimizzando l’efficienza dei SOC.

La collaborazione tra CrowdStrike e NVIDIA sta aprendo la strada alla prossima era della cybersecurity con modelli di ragionamento avanzati, per offrire un’automazione ancora più intelligente, e abilitare decisioni critiche in tempo reale con maggiore precisione, per aiutare i team di sicurezza a rispondere alle minacce con una velocità e un’accuratezza senza precedenti.

Secondo il Global Threat Report 2025 di CrowdStrike, gli avversari ora riescono a passare dall’accesso iniziale alla compromissione in appena 51 secondi. Gli strumenti di sicurezza tradizionali non riescono a tenere il passo, sommergendo gli analisti con un’ondata di avvisi e lasciando le organizzazioni in preda alle vulnerabilità. Continuando a testare e innovare con il computing accelerato dall’AI di NVIDIA full-stack, i clienti di CrowdStrike continueranno a beneficiare dell’automazione, dell’intelligenza e della scalabilità necessarie per superare le minacce moderne.

Questa collaborazione strategica passa anche per una serie di test sui modelli di ragionamento NVIDIA Llama Nemotron per migliorare l’accuratezza del rilevamento, con l’obiettivo di dare ai team di sicurezza strumenti utili per fermare gli attacchi con una velocità e una precisione ancora maggiori.

“Il futuro della cybersecurity è l’agentic AI—in cui modelli di ragionamento avanzati alimentano un’automazione intelligente, interagendo perfettamente con analisti umani, per fermare le violazioni più rapidamente che mai”, ha dichiarato Daniel Bernard, Chief Business Officer di CrowdStrike. “Combinando la piattaforma AI-native Falcon di CrowdStrike con l’AI di NVIDIA, stiamo lavorando per offrire la prossima evoluzione nelle operazioni di sicurezza. Questo è solo l’inizio—insieme, stiamo ridefinendo il modo in cui le organizzazioni scalano, proteggono e accelerano le loro difese con la potenza dell’agentic AI”.

Potenziare le operazioni di sicurezza alimentate dall’AI

Le più recenti innovazioni e iniziative AI di CrowdStrike, accelerate dal software e dagli strumenti AI di NVIDIA, stanno offrendo progressi rivoluzionari per il SOC in termini di:

·         Triage più veloce ed efficiente: Charlotte AI Detection Triage, basato sui microservizi NVIDIA NIM e parte della piattaforma software NVIDIA AI Enterprise, ha permesso ai team di sicurezza interni di CrowdStrike di elaborare le rilevazioni con una velocità doppia rispetto al suo lancio iniziale, utilizzando il 50% in meno di GPU, ottimizzando i tempi di risposta e riducendo i costi operativi.

·         Rilevamento delle minacce più smart e accurato: CrowdStrike sta collaborando con NVIDIA per testare modelli di ragionamento che migliorino la precisione del rilevamento, riducano i falsi positivi e consentano ai team di sicurezza di concentrarsi sulle minacce reali con maggiore accuratezza.

·         Automazione della sicurezza guidata dall’AI: CrowdStrike e NVIDIA stanno guidando l’innovazione nelle operazioni SOC autonome, sviluppando agenti di AI che assistono gli analisti nel triage, nella risposta e nell’analisi, su larga scala, ponendo le basi per il futuro dell’automazione della sicurezza.

“Le aziende hanno bisogno di un’AI che non si limiti a reagire, ma che anticipi—sistemi intelligenti con capacità di ragionamento avanzato che si adattino, decidano e rispondano in tempo reale”, ha dichiarato Kari Briski, Vice President of Generative AI Software for Enterprise, di NVIDIA. “La nostra collaborazione con CrowdStrike porta nella cybersecurity il computing accelerato e il ragionamento avanzato, offrendo un’intelligenza artificiale agentica capace di automatizzare le risposte dei sistemi, migliorare le operazioni di sicurezza e aiutare le aziende a rimanere resilienti in un panorama digitale dinamico”.

 

L'articolo CrowdStrike collabora con NVIDIA per dare impulso allo sviluppo dell’agentic AI in ambito cybersecurity proviene da Data Manager Online.

]]>
Accelerare lo sviluppo dell’IA con le GPU NVIDIA RTX PRO Blackwell e i microservizi NIM https://www.datamanager.it/2025/03/accelerare-lo-sviluppo-dellia-con-le-gpu-nvidia-rtx-pro-blackwell-e-i-microservizi-nim/ Wed, 19 Mar 2025 10:34:47 +0000 https://www.datamanager.it/?p=244043 Una nuova linea di GPU professionali e developer tool IA per PC e workstation presentati alla NVIDIA GTC; inoltre, l’aggiornamento di ChatRTX introduce il supporto a NVIDIA NIM, RTX Remix esce dalla beta e i driver NVIDIA Studio di marzo sono disponibili per il download Con l’evoluzione dell’IA generativa, NVIDIA offre agli sviluppatori tool per […]

L'articolo Accelerare lo sviluppo dell’IA con le GPU NVIDIA RTX PRO Blackwell e i microservizi NIM proviene da Data Manager Online.

]]>
Una nuova linea di GPU professionali e developer tool IA per PC e workstation presentati alla NVIDIA GTC; inoltre, l’aggiornamento di ChatRTX introduce il supporto a NVIDIA NIM, RTX Remix esce dalla beta e i driver NVIDIA Studio di marzo sono disponibili per il download

Con l’evoluzione dell’IA generativa, NVIDIA offre agli sviluppatori tool per integrare l’intelligenza artificiale in progetti creativi, applicazioni e giochi, ampliando le possibilità su PC e workstation NVIDIA RTX AI.

Alla conferenza globale NVIDIA GTC di questa settimana, l’azienda ha svelato la serie NVIDIA RTX PRO Blackwell, una nuova generazione di GPU per workstation e server, progettate per gestire workload complessi di IA, calcolo tecnico e grafica ad alte prestazioni.

Oltre al nuovo hardware, NVIDIA ha presentato una suite di strumenti basati sull’IA, librerie e software development kit per accelerare l’innovazione su PC e workstation. Le librerie NVIDIA CUDA-X per la data science permettono di velocizzare l’elaborazione dei dati e il machine learning senza modifiche al codice, migliorando l’analisi esplorativa e la creazione di modelli. I microservizi NVIDIA NIM, invece, semplificano lo sviluppo di assistenti IA, plug-in di produttività e workflow avanzati per la creazione di contenuti, garantendo prestazioni ottimali.

IA alla massima velocità con le GPU RTX PRO

La serie RTX PRO Blackwell è progettata per affrontare i workflow IA più complessi, supportando applicazioni avanzate come agenti intelligenti, simulazione, realtà estesa, progettazione 3D ed effetti visivi di alto livello.

Dalla progettazione di sistemi complessi alla creazione di contenuti immersivi, le GPU RTX PRO garantiscono prestazioni elevate, efficienza e scalabilità per i professionisti.

La nuova gamma include:

  • GPU desktop: RTX PRO 6000 Blackwell Workstation Edition, RTX PRO 6000 Blackwell Max-Q Workstation Edition, RTX PRO 5000 Blackwell, RTX PRO 4500 Blackwell, RTX PRO 4000 Blackwell
  • GPU per laptop: RTX PRO 5000 Blackwell, RTX PRO 4000 Blackwell, RTX PRO 3000 Blackwell, RTX PRO 2000 Blackwell, RTX PRO 1000 Blackwell, RTX PRO 500 Blackwell
  • GPU per data center: RTX PRO 6000 Blackwell Server Edition

Con l’avanzare dell’intelligenza artificiale e della data science, la capacità di elaborare rapidamente enormi volumi di informazioni diventa cruciale per l’innovazione in ogni settore.

Le librerie NVIDIA CUDA-X, basate su CUDA, offrono prestazioni nettamente superiori rispetto alle soluzioni basate solo su CPU. Con cuML 25.02, ora in open beta, data scientist e ricercatori possono accelerare algoritmi come scikit-learn, UMAP e HDBSCAN senza modifiche al codice, migliorando significativamente l’efficienza nel machine learning.

Questa versione amplia il concetto di accelerazione senza modifiche al codice introdotto da cuDF-pandas, riducendo i tempi di elaborazione da ore a pochi secondi nelle operazioni su DataFrame.

L’IA ottimizzata offre ancora più possibilità. I microservizi NVIDIA NIM sono modelli di IA preconfigurati e ottimizzati per GPU NVIDIA, disponibili su PC, workstation RTX e cloud. Gli sviluppatori possono usarli per creare assistenti basati sull’IA, tool di produttività e workflow per la creazione di contenuti, integrandoli perfettamente con le GPU RTX PRO. Questo rende l’IA più accessibile e potente che mai.

I microservizi NVIDIA NIM integrano modelli avanzati sviluppati sia dalla community che da NVIDIA, coprendo casi d’uso chiave per PC e workstation. Supportano LLM, generazione di immagini, sintesi vocale e RAG (Retrieval-Augmented Generation), offrendo strumenti potenti per l’IA generativa.

Presentati al CES di gennaio, gli NVIDIA AI Blueprints sono workflow di riferimento basati su NIM, pensati per accelerare lo sviluppo dell’IA. Con questi blueprint, gli sviluppatori possono trasformare documenti PDF in podcast, generare immagini 4K guidate da scene 3D e integrare esseri umani digitali in progetti di intelligenza artificiale.

Disponibili prossimamente su build.nvidia.com, i blueprint sono completamente personalizzabili e includono codice sorgente, dati di esempio, una demo applicativa e documentazione.

Dall’hardware all’avanguardia ai modelli ottimizzati e ai workflow avanzati, la serie RTX PRO sta ridefinendo il computing basato sull’IA, offrendo a professionisti e creatori strumenti per superare i limiti della creatività e della produttività. Scopri tutti gli annunci del GTC e le nuove GPU RTX PRO Blackwell per laptop e workstation.

Creare chatbot NIMble AI con ChatRTX

I chatbot IA stanno rivoluzionando il modo in cui le persone interagiscono con i propri contenuti. ChatRTX è un’app demo che personalizza un LLM con documenti, note, immagini e altri dati dell’utente. Grazie al RAG, alla libreria NVIDIA TensorRT-LLM e all’accelerazione RTX, consente di interrogare un chatbot personalizzato per ottenere risposte contestualmente rilevanti. Tutto avviene localmente su PC Windows RTX o workstation RTX PRO, garantendo velocità e privacy.

L’ultima versione di ChatRTX introduce il supporto per i microservizi NVIDIA NIM, offrendo accesso a nuovi modelli avanzati. NIM sarà presto integrato in altre applicazioni AI di alto livello.

Scarica ChatRTX.

L'articolo Accelerare lo sviluppo dell’IA con le GPU NVIDIA RTX PRO Blackwell e i microservizi NIM proviene da Data Manager Online.

]]>
Cogliere le opportunità offerte dall’AI generativa grazie alle workstation Lenovo AI e l’Accelerated Computing di NVIDIA https://www.datamanager.it/2024/03/cogliere-le-opportunita-offerte-dallai-generativa-grazie-alle-workstation-lenovo-ai-e-laccelerated-computing-di-nvidia/ Tue, 26 Mar 2024 16:23:59 +0000 https://www.datamanager.it/?p=236002 A cura di Rob Herman, Vice President e General Manager, Workstation e Client AI Group di Lenovo È sempre bello ritornare al GTC di NVIDIA! Siamo fieri di proseguire la partnership con NVIDIA ed essere continuamente stimolati dalle possibilità che siamo in grado di proporre insieme agli esperti del settore e ai data scientist impegnati […]

L'articolo Cogliere le opportunità offerte dall’AI generativa grazie alle workstation Lenovo AI e l’Accelerated Computing di NVIDIA proviene da Data Manager Online.

]]>
A cura di Rob Herman, Vice President e General Manager, Workstation e Client AI Group di Lenovo

È sempre bello ritornare al GTC di NVIDIA! Siamo fieri di proseguire la partnership con NVIDIA ed essere continuamente stimolati dalle possibilità che siamo in grado di proporre insieme agli esperti del settore e ai data scientist impegnati a esplorare le immense opportunità offerte dal desktop Lenovo ThinkStation e dalle workstation mobile ThinkPad, dall’AI e dall’AI generativa.

L’evoluzione dei flussi di lavoro della Data Science e della Gen AI, in particolare con modelli linguistici di grandi dimensioni (LLMs), richiede potenti GPU NVIDIA come la NVIDIA A800 40GB Active, progettata specificamente per i flussi di lavoro AI, o la NVIDIA RTX 6000 Ada Generation per prestazioni polivalenti mai vista prima. Disponibili nei sistemi Lenovo ThinkStation e ThinkPad, queste GPU consentono di creare ambienti di supercomputing sicuri e personali adatti alle organizzazioni che lavorano con tutti i tipi di workflow AI. Ad esempio, il ThinkPad P16 Gen 2 con NVIDIA RTX 5000 Ada Generation Laptop GPU rappresenta un esempio di tecnologia innovativa adatta ai carichi di lavoro professionali più impegnativi. Questi potenti laptop sono progettati per migliorare lo sviluppo dell’AI mobile e offrono una messa a punto LLM con prestazioni senza precedenti per le attività che richiedono una notevole potenza di calcolo.

Frutto della collaborazione con NVIDIA, qui alcune delle novità che siamo lieti di condividere all’NVIDIA GTC.

Workstation Lenovo conformi all’AI generativa

Dalle workstation mobili della serie P ThinkPad, perfette per i data scientist in movimento, alla ThinkStation PX, la più veloce, potente e avanzata workstation al mondo per flussi di lavoro AI, il portafoglio di workstation Lenovo è la più ampia gamma di prodotti AI-Ready presente sul mercato in grado di offrire soluzioni altamente diversificate per gli attuali carichi di lavoro AI. Inoltre, l’impegno di Lenovo a favore dello sviluppo di sistemi operativi open-source è continuo e ogni anno investe risorse nello sviluppo e nelle certificazioni Linux. L’impegno di Lenovo è dimostrato dalla gamma di workstation certificate Linux più ampio del settore, supportato da servizi Linux completi pre e post-vendita. L’approccio proattivo di Lenovo non solo evidenzia la sua competenza tecnica, ma sottolinea anche il suo impegno a soddisfare le esigenze di una clientela eterogenea sempre alla ricerca di soluzioni affidabili e personalizzabili.

Al fine di aiutare gli sviluppatori di AI ad incrementare la produttività attraverso flussi di lavoro automatizzati, Lenovo è orgogliosa di annunciare le workstation Lenovo con NVIDIA AI Enterprise e NVIDIA AI Workbench – basate sulla piattaforma di calcolo NVIDIA CUDA e sfruttando le librerie CUDA-X per accelerare l’elaborazione dei dati per una varietà di tipi di dati. Tra queste vi è la libreria NVIDIA RAPIDS cuDF, che utilizzando una NVIDIA RTX 6000 Ada Generation GPU può accelerare il lavoro di circa 10 milioni di data scientist che usano il software pandas fino a 110x, senza richiedere alcuna modifica del codice.

RAPIDS cuDF, NVIDIA AI Workbench e NVIDIA AI Enterprise saranno disponibili all’interno del portafoglio di soluzioni Lenovo per l’AI, offrendo una piattaforma software per sviluppatori di AI full stack di classe enterprise, in grado di migliorare la produttività e l’efficienza della Data Science, della formazione di AI generativa e LLM e della messa a punto dei flussi di lavoro, indipendentemente da dove e quando vengono eseguiti.

Grazie a NVIDIA AI Enterprise, le workstation Lenovo supportano ora anche i microservizi NVIDIA NIM e NeMo Retriever per l’inferenza e la generazione aumentata dal recupero (RAG).  Questo permette agli sviluppatori di lavorare su applicazioni di IA generativa direttamente sui loro potenti sistemi locali.

ThinkStation PX per data scientists

Oggi molte organizzazioni si stanno spostando verso modelli LLM e small-language (SLM) sviluppati e gestiti privatamente, specialmente a causa dei problemi di sicurezza legati allo sfruttamento di dati proprietari in questi modelli e all’aumento dei costi associati ai dati di formazione e agli LLM. Molte aziende stanno scoprendo che, se si vuole iniziare a lavorare con l’AI generativa, è più facile e vantaggioso sfruttare i modelli esistenti e aumentarli con i propri dati in un ambiente sandbox più sicuro. Sfruttando le workstation Lenovo con NVIDIA AI Enterprise, i professionisti dell’AI e i data scientist possono contare su raccomandazioni proattive di LLM e SLM basate sui casi d’uso migliori, come la creazione di chatbot, voice to text, manipolazione di immagini o altre applicazioni emergenti.

L’attenzione di Lenovo verso il potenziamento delle tecnologie open-source si manifesta attraverso investimenti consistenti che confermano l’impegno incondizionato di Lenovo nei confronti di processi di certificazione e qualificazione particolarmente rigorosi su un’ampia gamma di piattaforme certificate NVIDIA, che includono workstation, server e dispositivi edge del suo vasto assortimento. Espandendo attivamente il supporto alle iniziative Linux e Open-source, Lenovo dimostra un approccio lungimirante volto a promuovere il progresso tecnologico e a soddisfare le mutevoli esigenze dei propri clienti.

La gestione proattiva delle configurazioni ad alte prestazioni, adattate alle diverse esigenze dell’AI generativa, sottolinea l’attenzione che Lenovo riserva all’innovazione. Grazie alle collaborazioni strategiche con NVIDIA AI Enterprise e NVIDIA AI Workbench per la propria rinomata linea di desktop ThinkStation e di workstation mobili della serie P ThinkPad, Lenovo si distingue nell’offrire risultati rivoluzionari in ambito AI. Queste configurazioni sono state progettate in modo meticoloso per aumentare le prestazioni ed evidenziare l’impegno che Lenovo ha dedicato nell’anticipare e soddisfare le richieste degli utenti impegnati in numerose applicazioni di AI generativa e in complessi set di dati. La collaborazione con NVIDIA evidenzia la leadership di Lenovo nelle soluzioni di alto livello destinate a progetti di AI all’avanguardia, confermandone il ruolo di pioniere del settore.

Soluzioni Digital Twin “chiavi in mano” per iniziare subito il proprio viaggio nel mondo del Digital Twin

I Digital Twin sono molto esigenti in termini di prestazioni e le strutture hardware esistenti non sono in grado di supportare i requisiti di performance richiesti da queste applicazioni. Per aiutare i clienti a realizzare appieno il potenziale delle soluzioni di digital twin, Lenovo ha stretto una partnership con NVIDIA creando soluzioni “chiavi in mano” che consentono ai consumatori di avviare il loro percorso con NVIDIA Omniverse Enterprise e il digital twin.

La combinazione di potenza, prestazioni e capacità esclusive della Lenovo ThinkStation PX con un massimo di 4 GPU NVIDIA RTX 6000 Ada Generation e il networking ad alte prestazioni NVIDIA ConnextX-6 consente ai clienti di semplificare il loro percorso di trasformazione digitale con NVIDIA Omniverse Enterprise, riducendo le complessità, i costi e le preoccupazioni aziendali legate alla digitalizzazione dei flussi di lavoro. Questa piattaforma di digital twin offre ai consumatori la possibilità di raggiungere risultati di business rapidamente e di grande impatto in un vasto numero di settori verticali, consentendo ai clienti di cominciare da realtà piccole e di espandersi velocemente e semplicemente fino a progetti di digital twin più ampi e complessi su un’unica workstation. La soluzione Lenovo ThinkStation Digital Twin può essere avviata dalla propria scrivania e, essendo completamente montabile su rack, può essere estesa fino al datacenter, grazie a NVIDIA OVX, il modello di distribuzione di NVIDIA per i digital twin su larga scala.

Realizzare un calcolo digitale end-to-end

La digitalizzazione di alcuni settori sta procedendo a un ritmo rapidissimo e le aziende sono alla ricerca di metodi per digitalizzare le proprie attività. Tuttavia, diverse organizzazioni di un ampio numero di settori verticali faticano ad adottare le soluzioni di digital twin con lo spatial computing, a causa dei complicati strumenti hardware e software richiesti dai diversi fornitori.

La tecnologia spatial computing può essere definita come il processo di digitalizzazione delle attività che coinvolgono macchine, persone, oggetti e i loro ambienti attraverso tecnologie immersive come AR, VR, MR e AI e ML al fine di offrire un ambiente e una piattaforma completamente interattivi e collaborativi per visualizzare i digital twin. L’elaborazione spaziale può essere molto intensiva in termini di CPU, GPU e risorse di sistema, richiedendo una grande quantità di core fisici di CPU, GPU, memoria e larghezza di banda di rete. Sebbene l’unione di questi requisiti si sia dimostrata difficile, il portafoglio di workstation e realtà virtuale di classe enterprise di Lenovo offre le funzionalità necessarie per una soluzione ad alte prestazioni. La ThinkStation PX, l’HMD ThinkReality VRX e il software ThinkReality MDM sono la ricetta perfetta per il computing spaziale in azienda.

Configurati in abbinamento a software leader come NVIDIA Omniverse Enterprise (OVE) e NVIDIA CloudXR, Lenovo e NVIDIA sono in grado di offrire un’architettura di riferimento completa e convalidata per lo spatial computing:

  • ThinkStation PX Workstation
  • ThinkReality VRX HMD
  • ThinkReality MDM Software
  • NVIDIA Cloud XR
  • NVIDIA Omniverse Enterprise

La soluzione end-to-end, Lenovo Spatial Computing Appliance, può davvero consentire alle imprese di concretizzare le possibilità offerte dalla tecnologia digital twin. La workstation indipendente può essere montata in un ambiente in rack nell’ufficio di un’azienda e, avvalendosi di software professionali come Autodesk VRED o NVIDIA Omniverse Enterprise, le esperienze VR di collaborazione tra più utenti possono essere facilmente trasmesse in pixel-streaming da una singola workstation ThinkStation PX a quattro distinte cuffie ThinkReality VRX in simultanea – creando una piattaforma facile da gestire e da utilizzare per la revisione dei progetti tra diversi settori, tra cui l’aerospaziale, l’automobilistico, l’architettonico, l’ingegneristico, l’edile, il manifatturiero e il design del prodotto. La disponibilità di un’unica risorsa centralizzata in loco in grado di offrire esperienze immersive riduce la latenza e offre al cliente finale un’esperienza di maggiore qualità e riproducibilità. In più, con le esperienze VR riprodotte in streaming sulle cuffie ThinkReality VRX tramite NVIDIA CloudXR, gli utenti non dovranno più essere vincolati a una workstation fissa.

La macchina supporterà quattro cuffie ThinkReality VRX, e ciascuna di esse avrà libero accesso a una GPU NVIDIA RTX6000 Ada dedicata, assicurando un’esperienza VR professionale di altissimo livello, indipendentemente dalle dimensioni o dalla complessità del progetto.

 

L'articolo Cogliere le opportunità offerte dall’AI generativa grazie alle workstation Lenovo AI e l’Accelerated Computing di NVIDIA proviene da Data Manager Online.

]]>
Lenovo presenta con NVIDIA soluzioni di Hybrid AI per portare la potenza dell’AI generativa a ogni azienda e nel cloud https://www.datamanager.it/2024/03/lenovo-presenta-con-nvidia-soluzioni-di-hybrid-ai-per-portare-la-potenza-dellai-generativa-a-ogni-azienda-e-nel-cloud/ Tue, 19 Mar 2024 13:20:40 +0000 https://www.datamanager.it/?p=235769 La nuova fase della collaborazione con NVIDIA sull’approccio di Hybrid AI porta l’AI trasformativa in ogni azienda In occasione di NVIDIA GTC, la conferenza globale sull’AI e del metaverso, Lenovo ha annunciato nuove soluzioni di Hybrid AI in collaborazione con NVIDIA che offrono la potenza delle applicazioni di AI generativa (GenAI) su misura a tutte […]

L'articolo Lenovo presenta con NVIDIA soluzioni di Hybrid AI per portare la potenza dell’AI generativa a ogni azienda e nel cloud proviene da Data Manager Online.

]]>
La nuova fase della collaborazione con NVIDIA sull’approccio di Hybrid AI porta l’AI trasformativa in ogni azienda

In occasione di NVIDIA GTC, la conferenza globale sull’AI e del metaverso, Lenovo ha annunciato nuove soluzioni di Hybrid AI in collaborazione con NVIDIA che offrono la potenza delle applicazioni di AI generativa (GenAI) su misura a tutte le aziende e nel cloud, dando impulso all’innovazione in tutti i settori. Frutto dell’ampliamento della collaborazione ingegneristica con NVIDIA annunciata durante il Lenovo Tech World, le novità presentate oggi aiutano le imprese e i cloud provider a disporre delle capacità di elaborazione critiche necessarie per avere successo nell’era dell’AI, portando l’AI dall’idea alla realtà e consentendo alle aziende di sviluppare e distribuire in modo efficiente nuovi casi d’uso che favoriscono l’innovazione, la digitalizzazione e la crescita.

Le nuove soluzioni ibride, grazie ad una collaborazione ingegneristica, sono progettate appositamente per portare in modo efficiente l’AI ai dati dei clienti, dove e quando gli utenti ne hanno più bisogno – dal pocket al cloud – sostenendo l’ambizione di Lenovo di abilitare l’AI for All e offrendo il supporto time to market della rivoluzionaria architettura NVIDIA per la prossima generazione di GenAI su larga scala. Le soluzioni ibride di Lenovo, già ottimizzate per l’esecuzione del software NVIDIA AI Enterprise per un’AI di produzione sicura, supportata e stabile, oggi offrono agli sviluppatori anche l’accesso ai microservizi NVIDIA appena annunciati, fra cui NVIDIA NIM e NeMo Retriever.

“Insieme, Lenovo e NVIDIA stanno allargando i confini dell’intelligenza aumentata per le aziende di tutto il mondo, portando l’elaborazione dell’intelligenza artificiale alla fonte dei dati con un portafoglio completo di soluzioni di AI ibride e all’avanguardia che consentiranno di utilizzare la GenAI praticamente ovunque, sostenendo al contempo l’impegno per la sostenibilità”, commenta Kirk Skaugen, Presidente Lenovo Infrastructure Solutions Group. “Siamo a un punto di svolta con nuovi casi d’uso AI che stanno arrivando sul mercato grazie a miglioramenti nell’elaborazione in tempo reale, nell’efficienza energetica e nella facilità di implementazione. Grazie a una stretta collaborazione, Lenovo e NVIDIA stanno offrendo progressi rivoluzionari in termini di efficienza, prestazioni e costi che accelerano le applicazioni AI in tutti i settori e aiutano le aziende a utilizzare immediatamente gli insight dei propri set di dati, sia che si tratti di migliorare l’esperienza in ambito retail, di re-immaginare le nostre città o di raggiungere un livello più avanzato di produzione intelligente.”

“L’AI è una vera potenza che aiuta le aziende ad acquisire nuovi insight dai propri dati e a migliorare la produttività”, ha dichiarato.” Bob Pette, Vice President of Enterprise Platforms NVIDIA. “Le nuove soluzioni AI enterprise di Lenovo, integrate con la tecnologia NVIDIA, rappresentano una pietra miliare nel potenziamento delle prestazioni di calcolo per l’IA offrendo sistemi ibridi su cui le aziende possono contare per alimentare la GenAI praticamente ovunque.”

Mentre le imprese in tutto il mondo cercano di utilizzare l’AI per analizzare vaste quantità di dati, l’efficienza energetica rimane fondamentale per rendere accessibile a tutte le aziende l’introduzione di questi carichi di lavoro ad alta intensità di calcolo. Lenovo è sempre stata all’avanguardia nel rendere possibile una capacità di calcolo efficiente e ad alta potenza senza compromessi, introducendo per prima la tecnologia di raffreddamento a liquido Lenovo Neptune e posizionandosi al primo posto nella classifica Green500 grazie al design all’avanguardia abilitato dalle GPU NVIDIA che accelerano le capacità di computing assicurando il raffreddamento dei sistemi anche in ambienti caratterizzati da elevate temperature e multi-GPU.

Lenovo ThinkSystem AI Servers: un balzo in avanti per l’inferenza e l’efficienza dell’intelligenza artificiale generativa con NVIDIA

Segnando una pietra miliare nel campo della sovralimentazione efficiente dei carichi di lavoro AI su larga scala, Lenovo ha presentato l’espansione del portfolio Lenovo ThinkSystem AI, con due nuovi potenti sistemi di GPU NVIDIA a 8 vie, costruiti appositamente per offrire enormi capacità di calcolo con un’efficienza energetica senza compromessi per accelerare l’implementazione dell’AI.

Il nuovo porfolio Lenovo è progettato per la GenAI, l’elaborazione del linguaggio naturale (NLP) e lo sviluppo di modelli linguistici di grandi dimensioni (LLM), con supporto time-to-market per la piattaforma di supercomputing NVIDIA HGX AI, che include le GPU NVIDIA H100 e H200 Tensor Core e il nuovissimo Superchip NVIDIA Grace Blackwell GB200, nonché le piattaforme di rete NVIDIA Quantum-X800 InfiniBand e Spectrum-X800 Ethernet, avanzate e di nuova generazione.

Il nuovo Superchip GB200 Grace Blackwell è il fiore all’occhiello dell’architettura Blackwell, che catapulta la GenAI su una scala di trilioni di parametri. Oberon GB200 fornisce un’inferenza di modelli linguistici di grandi dimensioni (LLM) 45 volte più veloce in tempo reale, nonché un TCO e un consumo energetico 40 volte inferiori. In stretta collaborazione con NVIDIA, Lenovo offrirà i sistemi rack Oberon GB200 che potenziano l’addestramento dell’intelligenza artificiale, l’elaborazione dei dati, la progettazione e la simulazione ingegneristica.

I server Lenovo ThinkSystem AI con GPU NVIDIA B200 Tensor Core sono pronti a aprire la nuova era della GenAI. Il motore di intelligenza artificiale generativa dell’architettura NVIDIA Blackwell, insieme all’interconnessione NVIDIA NVLink ancora più veloce e alle funzionalità di sicurezza migliorate, portano i data center in una nuova era. Grazie a un’inferenza in tempo reale fino a 25 volte superiore per accelerare modelli linguistici da un trilione di parametri, le GPU B200 sono progettate per i carichi di lavoro più impegnativi di AI, analisi dei dati e HPC.

Con un’efficienza energetica (PUE) di 1.1., il nuovo Lenovo ThinkSystem SR780a V3 è un sistema 5U che utilizza il raffreddamento a liquido Lenovo Neptune. Grazie all’utilizzo del raffreddamento ad acqua diretto di CPU e GPU e della tecnologia NVIDIA NVSwitch, il sistema è in grado di sostenere le massime prestazioni senza raggiungere i limiti termici. Da oltre un decennio, la soluzione di raffreddamento diretto ad acqua Lenovo Neptune, leader di settore, ricicla cicli di acqua calda per raffreddare i data center, consentendo ai clienti di ottenere una riduzione del consumo energetico fino al 40% e un miglioramento dell’efficienza termica di 3,5 volte rispetto ai tradizionali sistemi raffreddati ad aria.

Secondo l’”Uptime Institute Annual Global Data Center Survey 2021.”, il PUE e il consumo energetico sono tra i metodi di sostenibilità più utilizzati per determinare l’efficienza energetica di un data center. Dato che il raffreddamento a liquido offre un’alternativa più efficiente dal punto di vista energetico rispetto all’aria, è possibile ottenere prestazioni costantemente più elevate consumando meno energia. Inoltre, il ThinkSystem SR780a può essere alloggiato in un package compatto 5U, contribuendo a preservare spazio prezioso all’interno dei data center.

Il nuovo Lenovo ThinkSystem SR680a V3 è un sistema a due socket con raffreddamento ad aria progettato per la massima accelerazione dell’AI complessa con processori Intel e una gamma di GPU NVIDIA. I sistemi ad alta accelerazione offrono un’enorme capacità di calcolo e utilizzano server rack da 19 pollici da standard di settore, che consentono configurazioni hardware dense che massimizzano l’efficienza senza occupare troppo spazio o richiedere scaffalature.

Lenovo ha anche presentato un nuovo Lenovo PG8A0N – il nodo 1U di ultima generazione per l’AIche dispone di raffreddamento a liquido ad anello aperto per gli acceleratori e supporta il Superchip NVIDIA GB200 Grace Blackwell. Il nuovo GB200 è destinato ad inaugurare una nuova era del computing. Il superchip offre un’inferenza di modelli linguistici di grandi dimensioni (LLM in tempo reale) 45 volte più veloce, un TCO 40 volte inferiore e un consumo energetico 40 volte più basso. In stretta collaborazione con NVIDIA, Lenovo offrirà sistemi rack GB200 che potenzieranno la formazione sull’AI, l’elaborazione dei dati, la progettazione e la simulazione.

I clienti possono eseguire NVIDIA AI Enterprise, una piattaforma software cloud-nativa end-to-end per lo sviluppo e la distribuzione di applicazioni AI di livello produttivo, sul portafoglio di sistemi certificati NVIDIA di Lenovo. Per ottenere inferenze ad alte prestazioni sui modelli di AI più diffusi di NVIDIA e del suo ecosistema, i clienti possono eseguire i microservizi di inferenza NVIDIA NIM inclusi in NVIDIA AI Enterprise sull’infrastruttura aziendale di Lenovo.

La nuova offerta include anche Lenovo XClarity Systems Management, che offre alle aziende un sistema di gestione delle risorse semplificato e centralizzato, e Lenovo Intelligent Computing Orchestration (LiCO), una piattaforma unificata che ottimizza l’uso delle risorse di elaborazione in cluster per lo sviluppo e l’addestramento di modelli AI e per i carichi di lavoro HPC. Il portfolio supporta anche la quarta e quinta generazione di processori Intel Xeon Scalable e offre spazio termico per le future GPU a più alta potenza.

Soluzioni MGX co-progettate: AI, Omniverse e HPC personalizzati per cloud service provider e imprese

Lenovo è il principale fornitore di supporto workstation-to-cloud per la progettazione, l’ingegnerizzazione e l’alimentazione di NVIDIA OVX e NVIDIA Omniverse. Per aiutare le aziende a creare e distribuire rapidamente un’ampia gamma di applicazioni di AI, HPC e omniverse progettate ad hoc, Lenovo collabora con NVIDIA per realizzare più rapidamente modelli accelerati utilizzando l’architettura di riferimento modulare NVIDIA MGX. Grazie a questo design, i provider di servizi cloud possono acquisire più rapidamente modelli personalizzati e quindi sono in grado di offrire un computing accelerato per l’AI e per i carichi di lavoro omniverse a costi contenuti e su larga scala. Grazie al supporto time-to-market di NVIDIA H200, i sistemi permetteranno a scienziati e ricercatori di affrontare le sfide scientifiche globali accelerando le applicazioni AI e HPC complesse che eseguono terabyte di dati.

Le nuove offerte di Lenovo realizzate con NVIDIA MGX includono:

  • Lenovo HG630N – MGX 1U – un server open standard con raffreddamento a liquido diretto Lenovo Neptune per ridurre il consumo energetico e supportare le GPU più performanti.
  • Lenovo HG650N – MGX 2U – un sistema altamente modulare e ottimizzato per le GPU, raffreddato ad aria, in grado di supportare i rack standard del settore e di abilitare le implementazioni GH200 Grace Hopper Superchip di NVIDIA.
  • Lenovo HG660X V3 – MGX 4U – un sistema che supporta fino a 8 GPU NVIDIA DW da 600W in un ambiente raffreddato ad aria. Ideale per i carichi di lavoro NVIDIA Omniverse e AI, Lenovo è il partner di progettazione NVIDIA per MGX 4U.
  • Lenovo HR650N – MGX 2U – un server con CPU ARM ad alte prestazioni con più core e flessibilità per l’archiviazione e l’I/O frontale, che sfrutta il superchip ad alta efficienza energetica NVIDIAGrace e supporta DPU.

Workstation Lenovo ThinkStation con NVIDIA RTX: GenAI a portata di mano

In collaborazione con NVIDIA, Lenovo migliora le proprie workstation per la data science e rende disponibili fino a 4 GPU RTX 6000 Ada Generation di NVIDIA per l’addestramento, la messa a punto, l’inferenza e i carichi di lavoro accelerati ad alta intensità grafica dell’AI I nuovi dispositivi offrono una maggiore produttività agli sviluppatori di intelligenza artificiale grazie a flussi di lavoro automatizzati:

  • Le nuove workstation Lenovo con NVIDIA AI Workbench sono uno strumento software che consente lo sviluppo e l’implementazione di potenti soluzioni di intelligenza artificiale per l’inferenza, la simulazione su larga scala e i più impegnativi flussi di lavoro industriali e scientifici. NVIDIA AI Workbench semplifica lo sviluppo della GenAI e dell’apprendimento automatico per tutti gli sviluppatori.
  •  Ora disponibile nelle workstation Lenovo ThinkStation e ThinkPad, la nuova GPU NVIDIA A800, progettata specificamente per l’AI, consente di creare ambienti di data science e GenAI sicuri e personali per le organizzazioni che lavorano con tutti i tipi di flussi di lavoro AI

Lenovo ThinkStation PX con doppia CPU e grafica professionale NVIDIA RTX fino a 4 volte più veloce è la workstation più potente attualmente sul mercato. L’offerta di workstation desktop AI-Ready ThinkStation e mobile ThinkPad dispone di un’ampia gamma di potenti workstation per affrontare lo sviluppo delle soluzioni di AI più intensive in tempo reale.

Servizi professionali Lenovo: accelerare il percorso dell’intelligenza artificiale e il progresso del settore

Le soluzioni in tempo reale di Lenovo e NVIDIA utilizzano l’intelligenza artificiale e l’infrastruttura Lenovo per aiutare i clienti ad accelerare la trasformazione digitale e a cogliere nuove potenzialità in tutti i segmenti di mercato. Nel settore retail, le soluzioni Lenovo e NVIDIA analizzano i movimenti e i comportamenti dei clienti per migliorare il flusso del traffico e gestire meglio l’inventario in tempo reale.  Nel settore manifatturiero, le soluzioni integrate di Lenovo e NVIDIA aiutano a migliorare la sicurezza dei dipendenti e delle macchine perfezionando i processi di ispezione delle catene di montaggio. Nelle città, le soluzioni integrate Lenovo Edge AI aiutano a ottenere il massimo dai dati ottimizzando l’utilizzo di spazi, infrastrutture e risorse per aiutare i cittadini in caso di picchi di traffico e ridurre il consumo energetico.

L’AI Services Center Of Excellence (COE) di Lenovo, annunciato di recente, integra consulenti aziendali, data scientist e infrastrutture ottimizzate per l’AI as-a-service per massimizzare i risultati, supportando i clienti nel loro percorso verso l’AI. Seguendo la collaudata metodologia di Lenovo per la preparazione all’AI, che comprende sicurezza, persone, processi e tecnologia, l’AI COE possiede le competenze e le capacità che consentono alle aziende di accelerare il percorso verso l’implementazione di un’AI potente, responsabile e sostenibile.  Le nuove offerte di servizi professionali di Lenovo per l’AI includono:

  • Nuovo AI Discover – aiuta i clienti a scoprire “l’arte del possibile” per l’AI. Grazie a workshop e valutazioni interattive, l’esame dell’intero ecosistema e la mappatura della strategia AI, Lenovo definisce un progetto per implementare con successo l’AI.
  • Nuovi servizi di GenAI Fast Start con NVIDIA – consentono di valorizzare i potenti insight sui dati per ottenere un vantaggio competitivo grazie alla GenAI. Lenovo offre soluzioni full-stack per supportare l’intero ciclo di vita del prodotto, oltre a servizi per l’implementazione, l’adozione e la scalabilità delle soluzioni di GenAI.
  • Nuovo TruScale GenAI As-A-Service – fornisce funzionalità AI attraverso un modello as a service che aumenta la flessibilità, la scalabilità e la prevedibilità. Grazie a Lenovo TruScale l’infrastruttura ha sempre le dimensioni giuste per acquistare, distribuire e gestire l’innovazione AI.
  • Servizi professionali avanzati per l’AI – aiutano i clienti ad accelerare la trasformazione dell’AI mettendo a loro disposizione consulenti aziendali, data scientist e un’infrastruttura ottimizzata per l’AI as-a-service, garantendo un utilizzo continuo dell’AI sostenibile.

L'articolo Lenovo presenta con NVIDIA soluzioni di Hybrid AI per portare la potenza dell’AI generativa a ogni azienda e nel cloud proviene da Data Manager Online.

]]>
Nvidia accusata di infrangere il copyright per la sua IA https://www.datamanager.it/2024/03/nvidia-accusata-di-infrangere-il-copyright-per-la-sua-ia/ Fri, 15 Mar 2024 13:40:25 +0000 https://www.datamanager.it/?p=235693 Una serie di autori afferma che il colosso ha sfruttato le loro opere senza pagarli Sta diventando difficile tenere il passo con le cause legali sul copyright contro l’intelligenza artificiale generativa. Una nuova proposta di azione collettiva intende portare in tribunale Nvidia per la sua piattaforma AI NeMo, un modello linguistico che consente alle aziende […]

L'articolo Nvidia accusata di infrangere il copyright per la sua IA proviene da Data Manager Online.

]]>
Una serie di autori afferma che il colosso ha sfruttato le loro opere senza pagarli

Sta diventando difficile tenere il passo con le cause legali sul copyright contro l’intelligenza artificiale generativa. Una nuova proposta di azione collettiva intende portare in tribunale Nvidia per la sua piattaforma AI NeMo, un modello linguistico che consente alle aziende di creare e addestrare i propri chatbot. I fautori affermano che la società ha addestrato il modello su un set di dati controverso che ha utilizzato illegalmente i loro libri senza consenso. Gli autori Abdi Nazemian, Brian Keene e Stewart O’Nan hanno chiesto un processo chiedendo a Nvidia di pagare i danni e distruggere tutte le copie del set di dati Books3 utilizzato per alimentare i modelli linguistici di grandi dimensioni (LLM) di NeMo. Per gli utenti ritenuti danneggiati, il set di dati ha copiato una libreria ombra chiamata Bibliotek composta da 196.640 libri piratati.

“In sintesi, Nvidia ha ammesso di aver addestrato i suoi modelli NeMo Megatron su una copia del set di dati di The Pile” si legge nella causa. “Pertanto, Nvidia ha addestrato i suoi modelli NeMo Megatron su una copia di Books3, che fa parte di The Pile. Alcuni libri scritti dai querelanti fanno parte di Books3, comprese le opere violate, e quindi Nvidia si sarebbe basata su più opere violate, andando contro i diritti d’autore dei querelanti. In risposta, Nvidia ha sottolineato al Wall Street Journal di “rispettare i diritti di tutti i creatori di contenuti e credere di aver creato NeMo nel pieno rispetto delle leggi sul copyright”. L’anno scorso, OpenAI e Microsoft hanno dovuto fronteggiare una causa sul copyright da parte di autori di saggistica, sostenendo che le società guadagnavano dai loro lavori ma si rifiutavano di pagarli. Una causa simile è stata avviata all’inizio di quest’anno. Si ricorda poi una causa intentata da testate giornalistiche come The Intercept e Raw Story e l’azione legale che ha dato il via al “trend” attuale, attuata dal New York Times.

L'articolo Nvidia accusata di infrangere il copyright per la sua IA proviene da Data Manager Online.

]]>
Nvidia lancia il chatbot che gira sul PC https://www.datamanager.it/2024/02/nvidia-lancia-il-chatbot-che-gira-sul-pc/ Tue, 20 Feb 2024 13:42:37 +0000 https://www.datamanager.it/?p=234894 Lanciata una demo gratuita di quello che può fare Chat con RTX Nvidia entra nel mercato consumer dell’IA generativa con il lancio di una versione demo gratuita di un chatbot che viene eseguito localmente sul PC. Questo dà al programma l’accesso ai file e documenti personali, con un occhio alla privacy. È possibile fornire a […]

L'articolo Nvidia lancia il chatbot che gira sul PC proviene da Data Manager Online.

]]>
Lanciata una demo gratuita di quello che può fare Chat con RTX

Nvidia entra nel mercato consumer dell’IA generativa con il lancio di una versione demo gratuita di un chatbot che viene eseguito localmente sul PC. Questo dà al programma l’accesso ai file e documenti personali, con un occhio alla privacy. È possibile fornire a “Chat con RTX” una selezione di dati personali e fargli creare riepiloghi basati su tali informazioni ma anche porre domande, proprio come qualsiasi chatbot, e approfondire i dati per trovare risposte. L’azienda afferma che il progetto consente agli utenti di “connettere rapidamente e facilmente file locali su un PC come set di dati a un modello linguistico di grandi dimensioni open source come Mistral o Llama 2”. Nvidia fornisce l’esempio di un utente che chiede al chatbot informazioni su un ristorante consigliato dal suo partner mentre si trovava a Las Vegas. Il software esegue la scansione dei file locali per trovare la risposta. Supporta, a tal proposito, una vasta gamma di file, inclusi .txt, .pdf, .doc/.docx e .xml. L’azienda afferma che caricherà i file rilevanti nel suo set di dati “in pochi secondi”.

Chat con RTX integra anche video e playlist di YouTube per aggiungere un URL video nel set e integrare la conoscenza contenuta nella clip per query contestuali. Nvidia afferma che ciò sarà utile quando si chiederanno consigli di viaggio “basati sui contenuti dei video degli influencer preferiti” o quando si cercheranno tutorial e riepiloghi derivati ​​da risorse educative. The Verge ha avuto un po’ di tempo pratico con il chatbot e ne è rimasto impressionato, scrivendo che è possibile considerarlo come “una parte preziosa della ricerca di dati per giornalisti o chiunque abbia bisogno di analizzare una raccolta di documenti”. Sembra un grande passo verso qualcosa che assomigli a un vero assistente digitale che funziona nel quadro contestuale dei dati personali. Con la maggior parte dei chatbot, i dati vengono inviati al cloud, ma Chat with RTX “consente agli utenti di elaborare dati sensibili su un PC locale senza la necessità di condividerli con terzi o di disporre di una connessione Internet”. Quindi è più sicuro e contestualmente più consapevole.

L'articolo Nvidia lancia il chatbot che gira sul PC proviene da Data Manager Online.

]]>
Cisco e NVIDIA: insieme per nuove soluzioni di infrastrutture sicure di IA https://www.datamanager.it/2024/02/cisco-e-nvidia-insieme-per-nuove-soluzioni-di-infrastrutture-sicure-di-ia/ Fri, 09 Feb 2024 14:17:43 +0000 https://www.datamanager.it/?p=234652 Nuove soluzioni di infrastruttura IA per il data center semplici da implementare e gestire, e capaci in particolare di fornire la potenza di calcolo di cui le imprese hanno bisogno per essere competitive e al passo con le sfide che l’IA sta lanciando. E’ questo l’ultimo impegno preso da Cisco e NVIDIA, e annunciato in […]

L'articolo Cisco e NVIDIA: insieme per nuove soluzioni di infrastrutture sicure di IA proviene da Data Manager Online.

]]>
Nuove soluzioni di infrastruttura IA per il data center semplici da implementare e gestire, e capaci in particolare di fornire la potenza di calcolo di cui le imprese hanno bisogno per essere competitive e al passo con le sfide che l’IA sta lanciando.

E’ questo l’ultimo impegno preso da Cisco e NVIDIA, e annunciato in occasione di Cisco Live 2024 in programma ad Amsterdam fino al 9 febbraio prossimo.

“L’intelligenza artificiale sta modificando radicalmente il modo in cui lavoriamo e viviamo e la storia ha dimostrato che un cambiamento di questa portata richiederà alle aziende lo sforzo di ripensare e riprogettare le proprie infrastrutture”, ha dichiarato Chuck Robbins, Presidente e CEO di Cisco. “Il consolidamento della nostra partnership con NVIDIA permetterà alle aziende di disporre della tecnologia e dell’esperienza necessarie per creare, distribuire, gestire e proteggere le soluzioni di intelligenza artificiale su larga scala”.

“Le aziende di tutto il mondo stanno rapidamente trasformando le loro attività con l’IA generativa”, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Lavorando a stretto contatto con Cisco, forniamo alle aziende l’infrastruttura necessaria per trarre vantaggio dall’IA, la risorsa tecnologica più potente della nostra epoca.”

Una potente partnership

Cisco, grazie alla sua eccellenza nel settore delle reti Ethernet e all’ampio ecosistema di partner, insieme a NVIDIA, inventrice della GPU che ha dato il via all’era dell’IA, condividono la visione e l’impegno di supportare i clienti nell’affrontare le transizioni verso l’IA con un’infrastruttura basata su Ethernet altamente sicura.

Negli ultimi anni, Cisco e NVIDIA hanno offerto un’ampia gamma di soluzioni integrate tra i dispositivi di collaborazione Webex e gli ambienti di calcolo dei data center per consentire alla forza lavoro ibrida di disporre di spazi di lavoro flessibili e di infrastrutture desktop virtuali, nonché di organizzare riunioni basate sull’IA. Oggi le due aziende stanno intensificando la loro partnership in ambito data center affinché i clienti aziendali possano usufruire di una gestione scalabile e automatizzata dei cluster IA, di una risoluzione automatizzata dei problemi, di un’esperienza cliente di prim’ordine e molto altro ancora.

Le soluzioni integrate per data center di Cisco e NVIDIA disponibili includono:

  • Le nuovissime GPU Tensor Core di NVIDIA: disponibili nella generazione M7 di server UCS rack e blade di Cisco, tra cui Cisco UCS X-Series e UCS X-Series Direct, forniscono  prestazioni ottimali per un’ampia gamma di carichi di lavoro IA ad alta intensità e di dati nel data center e nell’edge.
  • NVIDIA AI Enterprise:  include framework software, modelli preaddestrati e strumenti di sviluppo per un’IA di produzione più sicura, stabile e supportata. Oggi è disponibile sul listino globale di Cisco.
  • Le architetture di riferimento convalidate congiuntamente attraverso i Cisco Validated Designs (CVD) semplificano l’implementazione e la gestione di cluster AI in un’ampia gamma di casi d’uso che comprendono ambienti virtualizzati e containerizzati, con opzioni convergenti e iperconvergenti. I CVD per FlexPod e FlashStack per Generative AI Inferencing con NVAIE saranno disponibili questo mese e altri ne seguiranno.
  • Supporto per Cisco Networking Cloud: Cisco ha semplificato la gestione e le operations dell’infrastruttura IA attraverso la gestione on-premise e basata su cloud con Cisco Nexus Dashboard e Cisco Intersight.
  • Monitoraggio dell’esperienza digitale: in presenza di carichi di lavoro e dati AI nel cloud pubblico, in sede e in più data center, ThousandEyes offre il monitoraggio dell’esperienza digitale per fornire analisi basate sull’AI e la risoluzione automatica dei problemi che si verificano ovunque, dal cloud alle reti in sede.
  • La piattaforma Cisco Observability utilizza funzionalità di intelligenza artificiale per contestualizzare e correlare la telemetria in tempo reale tra i vari domini, in modo che le aziende possano ottenere visibilità, informazioni dettagliate e azioni per migliorare le esperienze digitali.
  • Il supporto dei partner per ridurre i rischi: quando le aziende pianificano l’adozione dell’intelligenza artificiale e dell’automazione, si potranno rivolgere all’ecosistema globale di partner di Cisco per ottenere consulenza, supporto e guida.

“La creazione di ambienti basati su elaborazione IA è un compito impegnativo per le aziende e sottolinea la necessità di un’infrastruttura di data center semplice e adattabile che offra prestazioni ottimizzate”, ha dichiarato Vladimir Ester, Chief Technology Officer e cofondatore di ClusterPower. “Cisco e NVIDIA stanno combinando le innovazioni necessarie per aiutare le aziende a sostenere la domanda di maggiore potenza di calcolo nel data center e a gestire le transizioni verso l’IA con un’infrastruttura sicura e osservabile”.

“World Wide Technology (WWT) è entusiasta della partnership tra NVIDIA e Cisco per portare sul mercato soluzioni di IA basate su Ethernet di comprovata efficacia. L’Ethernet è la soluzione più diffusa nella nostra base di clienti e questa partnership e le offerte che ne derivano velocizzeranno la nostra capacità di offrire soluzioni di IA ai nostri clienti. Sia Cisco che NVIDIA sono già parte integrante del lab AI Proving Ground di WWT, dove aiutiamo i clienti a selezionare e rendere operative le architetture IA in modo che possano trasformare più rapidamente i loro dati in informazioni e azioni”.

“Le imprese che intendono trasformare le proprie aziende con l’intelligenza artificiale devono comprendere le esigenze specifiche che i carichi di lavoro dell’IA pongono all’infrastruttura del data center”, ha dichiarato Vijay Bhagavath, Vice President, Cloud & Data Center Networks di IDC Research. “La partnership tra Cisco e NVIDIA riunisce due brand di grande affidabilità con tecnologie complementari per consentire ai clienti di sfruttare appieno il potenziale dell’IA con un’ampia gamma di infrastrutture basate su Ethernet e pensate per ottimizzare le prestazioni”. ”

Le soluzioni saranno disponibili nel corso del secondo quadrimestre dell’anno e saranno vendute tramite i partner di canale Cisco.

L'articolo Cisco e NVIDIA: insieme per nuove soluzioni di infrastrutture sicure di IA proviene da Data Manager Online.

]]>
Nvidia batte il record di training per l’IA https://www.datamanager.it/2023/11/nvidia-batte-il-record-di-training-per-lia/ Wed, 15 Nov 2023 08:43:01 +0000 https://www.datamanager.it/?p=232295 Il sistema può addestrare un modello GPT-3 da 175 miliardi di parametri in meno di quattro minuti Di norma, l’addestramento di un modello linguistico IA di grandi dimensioni può richiedere settimane, mesi o addirittura anni. Una fascia temporale lunga, che Nnvidia vuole ridurre drasticamente. Qualche giorno fa, l’azienda ha presentato la più recente iterazione del […]

L'articolo Nvidia batte il record di training per l’IA proviene da Data Manager Online.

]]>
Il sistema può addestrare un modello GPT-3 da 175 miliardi di parametri in meno di quattro minuti

Di norma, l’addestramento di un modello linguistico IA di grandi dimensioni può richiedere settimane, mesi o addirittura anni. Una fascia temporale lunga, che Nnvidia vuole ridurre drasticamente. Qualche giorno fa, l’azienda ha presentato la più recente iterazione del suo supercomputer Eos, alimentato da oltre 10.000 GPU H100 Tensor Core e in grado di addestrare un modello GPT-3 da 175 miliardi di parametri su 1 miliardo di token in meno di quattro minuti. È tre volte più veloce del precedente benchmark sullo standard di settore MLPerf AI, stabilito dalla stessa Nvidia solo sei mesi fa. Eos sfrutta 10.752 GPU collegate insieme utilizzando la rete Infiniband di Nvidia (capace di spostare un petabyte di dati al secondo) e 860 terabyte di memoria a larghezza di banda elevata (aggregata di 36 PB/sec e 1,1 PB di interconnessi) per fornire 40 exaflop di potenza di elaborazione IA. L’intera architettura cloud è composta da 1344 nodi: server individuali a cui le aziende possono affittare l’accesso per circa 37.000 dollari al mese per espandere le proprie capacità di intelligenza artificiale senza costruire un’infrastruttura di proprietà. 

Ad oggi, Nvidia ha stabilito sei record in nove test benchmark: il notch di 3,9 minuti per GPT-3, un limite di 2,5 minuti per addestrare un modello a diffusione stabile utilizzando 1.024 GPU Hopper, un minuto per addestrare DLRM, 55,2 secondi per RetinaNet, 46 secondi per 3D U-Net. Infine, il modello BERT-Large ha richiesto solo 7,2 secondi per l’addestramento. Nvidia si è affrettata a notare che la versione da 175 miliardi di parametri di GPT-3 utilizzata nel benchmark non è l’iterazione a grandezza naturale del modello (né lo era il modello Stable Diffusion). Il GPT-3 più grande offre circa 3,7 trilioni di parametri ed è semplicemente troppo grande e ingombrante per essere utilizzato come test di benchmarking. Servirebbero 18 mesi per addestrarlo sul vecchio sistema A100 con 512 GPU, mentre Eos richiede solo otto giorni. Il miglioramento delle prestazioni deriva dal fatto che il recente ciclo di test ha utilizzato 10.752 GPU H100 rispetto alle 3.584 GPU Hopper usate dall’azienda nelle prove di benchmarking di giugno. Nvidia sottolinea che, nonostante abbia triplicato il numero di GPU, è riuscita a mantenere un aumento delle prestazioni pari a 2,8 volte, ovvero un tasso di efficienza del 93%, grazie alla sua ottimizzazione del software.

L'articolo Nvidia batte il record di training per l’IA proviene da Data Manager Online.

]]>