Η Nvidia φέρνει την ισχύ ενός AI cluster πάνω στο γραφείο με 512 GB μνήμης

Η Nvidia παρουσίασε στο συνέδριο υπερυπολογιστών SC26 στο Σικάγο το DGX Spark HPC Developer Kit, ένα νέο σύστημα που συνδυάζει τέσσερις μικρούς υπολογιστές AI σε ένα ενιαίο cluster, προσφέροντας συνολικά 512 GB μνήμης και 20 TB αποθηκευτικού χώρου NVMe. Η νέα πλατφόρμα επιτρέπει σε ερευνητές και developers να εκτελούν τοπικά μεγάλα μοντέλα τεχνητής νοημοσύνης, επιστημονικές προσομοιώσεις και εφαρμογές AI agents, χωρίς να χρειάζονται αποκλειστική πρόσβαση σε ένα μεγάλο data center.

Το DGX Spark HPC Developer Kit ανακοινώθηκε και βασίζεται σε τέσσερα συστήματα DGX Spark με επεξεργαστές GB10 Grace Blackwell Superchip. Σύμφωνα με τη Nvidia, η τετραπλή διαμόρφωση μπορεί να υποστηρίξει την τοπική εκτέλεση AI μοντέλων έως 700 δισεκατομμυρίων παραμέτρων, χρησιμοποιώντας την τεχνολογία κβαντοποίησης NVFP4. Η δυνατότητα αυτή αφορά τη φόρτωση και εκτέλεση κατάλληλα βελτιστοποιημένων μοντέλων και δεν σημαίνει ότι το σύστημα μπορεί να εκπαιδεύσει από την αρχή ένα μοντέλο αντίστοιχου μεγέθους.

Η Nvidia φέρνει την ισχύ ενός AI cluster πάνω στο γραφείο με 512 GB μνήμης
Photo by nvidia

Τέσσερις υπολογιστές DGX Spark λειτουργούν ως ένα cluster

Η βασική καινοτομία του DGX Spark HPC Developer Kit βρίσκεται στον τρόπο σύνδεσης των τεσσάρων συστημάτων.

Κάθε DGX Spark συνδέεται απευθείας με δύο γειτονικούς υπολογιστές μέσω του δικτύου Nvidia ConnectX-7, δημιουργώντας μια τοπολογία δακτυλίου. Με αυτή τη διάταξη, οι τέσσερις μονάδες μπορούν να επικοινωνούν μεταξύ τους χωρίς να απαιτείται ξεχωριστό network switch.

Η συνολική μνήμη φτάνει τα 512 GB, καθώς κάθε σύστημα διαθέτει 128 GB, ενώ ο αποθηκευτικός χώρος NVMe ανέρχεται συνολικά στα 20 TB.

Η μνήμη αυτή είναι κατανεμημένη στους τέσσερις κόμβους και δεν λειτουργεί ως ένας ενιαίος χώρος RAM με τις ίδιες επιδόσεις πρόσβασης από κάθε επεξεργαστή. Το λογισμικό πρέπει να κατανέμει τα δεδομένα και τις εργασίες μεταξύ των συστημάτων, λαμβάνοντας υπόψη την επικοινωνία μέσω δικτύου.

Η προσέγγιση αυτή επιτρέπει στην πλατφόρμα να υποστηρίζει μεγαλύτερα workloads από εκείνα που μπορεί να αναλάβει ένας μεμονωμένος DGX Spark.

Η Nvidia φέρνει την ισχύ ενός AI cluster πάνω στο γραφείο με 512 GB μνήμης
Photo by nvidia

AI μοντέλα έως 700 δισεκατομμυρίων παραμέτρων

Ένα από τα σημαντικότερα χαρακτηριστικά του νέου cluster είναι η δυνατότητα εκτέλεσης μεγάλων AI μοντέλων σε τοπική υποδομή.

Η Nvidia αναφέρει ότι τα τέσσερα DGX Spark μπορούν να φιλοξενήσουν μοντέλα έως 700 δισεκατομμυρίων παραμέτρων, φέρνοντας ως παράδειγμα το DeepSeek V4.1.

Για να επιτευχθεί αυτό, χρησιμοποιείται η μορφή NVFP4, η οποία επιτρέπει την αναπαράσταση των βαρών των μοντέλων με χαμηλότερη αριθμητική ακρίβεια, περιορίζοντας σημαντικά τις απαιτήσεις μνήμης.

Η κβαντοποίηση είναι ιδιαίτερα σημαντική όταν ένα μοντέλο περιλαμβάνει εκατοντάδες δισεκατομμύρια παραμέτρους, καθώς η αποθήκευσή τους με υψηλότερη ακρίβεια μπορεί να απαιτεί πολύ μεγαλύτερη χωρητικότητα.

Το όριο των 700 δισεκατομμυρίων παραμέτρων δεν αποτελεί, πάντως, εγγύηση συγκεκριμένης ταχύτητας εκτέλεσης. Η απόδοση εξαρτάται από την αρχιτεκτονική του μοντέλου, το μέγεθος του context, τη διαθέσιμη μνήμη και την επιβάρυνση της επικοινωνίας μεταξύ των τεσσάρων συστημάτων.

Η Nvidia φέρνει την ισχύ ενός AI cluster πάνω στο γραφείο με 512 GB μνήμης
Photo by nvidia
Επιστημονικές προσομοιώσεις χωρίς αναμονή σε υπερυπολογιστές

Η Nvidia δεν προορίζει το DGX Spark HPC Developer Kit αποκλειστικά για γενετική AI.

Ένας βασικός στόχος είναι να επιτρέψει σε επιστημονικές ομάδες να αναπτύσσουν και να δοκιμάζουν εφαρμογές υψηλών υπολογιστικών απαιτήσεων στο δικό τους εργαστήριο.

Στα παραδείγματα που παρουσίασε η εταιρεία περιλαμβάνονται το LAMMPS με Kokkos για προσομοιώσεις υλικών και το NAMD για προσομοιώσεις μοριακής δυναμικής.

Παράλληλα, η κοινότητα του DGX Spark έχει δοκιμάσει επιστημονικά εργαλεία όπως το GROMACS για μοριακές προσομοιώσεις, το OpenFOAM για υπολογιστική ρευστοδυναμική και το WRF για μοντέλα καιρικών φαινομένων.

Η δυνατότητα εκτέλεσης τέτοιων εργασιών τοπικά επιτρέπει στους ερευνητές να προετοιμάζουν τα πειράματά τους, να εντοπίζουν σφάλματα και να βελτιστοποιούν τον κώδικα πριν χρησιμοποιήσουν μεγαλύτερες υπολογιστικές εγκαταστάσεις.

Αυτό είναι ιδιαίτερα χρήσιμο σε πανεπιστήμια και ερευνητικά κέντρα όπου η πρόσβαση σε κοινόχρηστα GPU clusters απαιτεί συχνά αναμονή.

Η Nvidia φέρνει την ισχύ ενός AI cluster πάνω στο γραφείο με 512 GB μνήμης

Νέα εργαλεία για προγραμματιστές και AI agents

Η Nvidia ανακοίνωσε ότι θα διαθέσει σύντομα ειδικό οδηγό εγκατάστασης και ρύθμισης του Nvidia HPC SDK για τη νέα πλατφόρμα.

Το SDK περιλαμβάνει compilers για C, C++ και Fortran με υποστήριξη GPU acceleration, καθώς και βιβλιοθήκες και εργαλεία επικοινωνίας MPI για εφαρμογές που εκτελούνται σε πολλούς υπολογιστικούς κόμβους.

Με αυτά τα εργαλεία, οι προγραμματιστές θα μπορούν να ελέγχουν πώς κατανέμονται οι εργασίες μεταξύ των τεσσάρων DGX Spark και να αντιμετωπίζουν προβλήματα επικοινωνίας πριν μεταφέρουν την εφαρμογή τους σε μεγαλύτερους υπερυπολογιστές.

Η εταιρεία εξετάζει επίσης τη χρήση AI agents που προετοιμάζουν δεδομένα επιστημονικών προσομοιώσεων, εκκινούν υπολογιστικές εργασίες και συνοψίζουν τα αποτελέσματα, με τους ερευνητές να διατηρούν την ευθύνη για τον έλεγχο των υπολογισμών και των συμπερασμάτων.

Εφαρμογές στην έρευνα φαρμάκων και στη βιολογία

Στην παρουσίαση του DGX Spark, η Nvidia ανέδειξε και πραγματικά παραδείγματα αξιοποίησης της πλατφόρμας από ερευνητικές ομάδες.

Ερευνητές του University of California, Berkeley χρησιμοποιούν το DGX Spark σε συνδυασμό με το μοντέλο Evo 2 για την πρόβλεψη χαρακτηριστικών βακτηρίων από γενετικά δεδομένα.

Σύμφωνα με τα αποτελέσματα που παρουσίασε η εταιρεία, η αποφυγή αναμονής 11 ωρών για την πρόσβαση σε κοινόχρηστο cluster επέτρεψε στην ομάδα να λάβει αποτελέσματα 15 φορές νωρίτερα.

Άλλη ερευνητική ομάδα του ίδιου πανεπιστημίου χρησιμοποιεί ένα DGX Spark για LoRA fine-tuning του Nemotron 3 Super 120B-A12B σε εργασίες υπολογιστικής χημείας.

Η Nvidia αναφέρεται επίσης σε εφαρμογές όπως το OpenFold3 και το Boltz-2, που χρησιμοποιούνται για την πρόβλεψη βιομοριακών δομών και μπορούν να υποστηρίξουν έρευνα σχετική με την ανακάλυψη φαρμάκων.

Σχέδιο επιστροφής του Jensen Huang στη Nvidia με μοχλό Silicon Valley και παρέμβαση στον Λευκό Οίκο

Η στρατηγική πίσω από το νέο DGX Spark

Με το DGX Spark HPC Developer Kit, η Nvidia επιχειρεί να φέρει ένα μέρος των δυνατοτήτων των μεγάλων υπολογιστικών clusters πιο κοντά στις ομάδες που αναπτύσσουν λογισμικό και πραγματοποιούν επιστημονική έρευνα.

Το σύστημα δεν αντικαθιστά έναν υπερυπολογιστή μεγάλης κλίμακας. Προσφέρει όμως ένα περιβάλλον ανάπτυξης και δοκιμών που χρησιμοποιεί παρόμοια εργαλεία προγραμματισμού και παράλληλης επεξεργασίας.

Η δυνατότητα να πραγματοποιείται μεγάλο μέρος της προετοιμασίας τοπικά μπορεί να μειώσει την εξάρτηση από κοινόχρηστους πόρους, ενώ επιτρέπει σε οργανισμούς να διατηρούν ευαίσθητα ερευνητικά δεδομένα στις δικές τους εγκαταστάσεις.

Το νέο DGX Spark HPC Developer Kit δείχνει επίσης την κατεύθυνση που ακολουθεί η Nvidia: την ανάπτυξη μικρότερων, επεκτάσιμων υποδομών AI που μπορούν να λειτουργούν σε εργαστήρια και γραφεία, συμπληρώνοντας τα μεγάλα συστήματα των data centers.