Η NVIDIA Nemotron επεκτείνεται με τρία νέα μοντέλα τεχνητής νοημοσύνης που φιλοδοξούν να μεταφέρουν τους αυτόνομους AI agents από τα μεγάλα εταιρικά data centers στους προσωπικούς υπολογιστές. Η NVIDIA παρουσίασε το Nemotron 3.5 Super VL των 120 δισεκατομμυρίων παραμέτρων και δύο μικρότερα μοντέλα Bolt, σχεδιασμένα για συστήματα που μπορούν να εκτελούν εργασίες τεχνητής νοημοσύνης τοπικά, χωρίς διαρκή εξάρτηση από υπηρεσίες cloud.
Η ανακοίνωση αποκαλύπτει μια ευρύτερη στρατηγική της NVIDIA, η οποία δεν περιορίζεται πλέον στην πώληση πανίσχυρων επεξεργαστών για την εκπαίδευση μεγάλων μοντέλων AI. Η εταιρεία θέλει να προσφέρει και τα ίδια τα μοντέλα που θα χρησιμοποιούν επιχειρήσεις, προγραμματιστές και μελλοντικά οι απλοί χρήστες. Ιδιαίτερη σημασία έχει η επιλογή των ανοιχτών βαρών, που επιτρέπει στους οργανισμούς να προσαρμόζουν την τεχνητή νοημοσύνη στις ανάγκες τους και να τη λειτουργούν στις δικές τους υποδομές.
Nemotron 3.5 Super VL με 120 δισεκατομμύρια παραμέτρους
Το ισχυρότερο νέο μοντέλο είναι το Nemotron 3.5 Super VL, το οποίο διαθέτει συνολικά 120 δισεκατομμύρια παραμέτρους, αλλά ενεργοποιεί περίπου 12 δισεκατομμύρια για την επεξεργασία κάθε token.
Η αρχιτεκτονική Mixture-of-Experts (MoE) επιτρέπει στο σύστημα να χρησιμοποιεί επιλεκτικά διαφορετικά τμήματα του μοντέλου, περιορίζοντας τις υπολογιστικές απαιτήσεις σε σχέση με μια αντίστοιχη αρχιτεκτονική όπου ενεργοποιούνται όλες οι παράμετροι.
Το Super VL είναι multimodal, δηλαδή μπορεί να επεξεργάζεται κείμενο, εικόνες, έγγραφα και βίντεο. Αυτό του επιτρέπει να αναλύει οικονομικούς πίνακες, να αναγνωρίζει στοιχεία σε PDF, να εξετάζει γραφήματα και να αξιοποιεί εργαλεία λογισμικού για την ολοκλήρωση σύνθετων εργασιών.
Η NVIDIA υποστηρίζει ότι το μοντέλο προσφέρει ακρίβεια συγκρίσιμη με εκείνη μεγαλύτερων μοντέλων της οικογένειάς της, με περίπου το ένα πέμπτο των συνολικών παραμέτρων. Αναφέρει επίσης έως πενταπλάσιο throughput έναντι άλλων ανοιχτών μοντέλων της κατηγορίας του, σε συγκεκριμένες δοκιμές.
Οι επιδόσεις αυτές προέρχονται από τις μετρήσεις της εταιρείας και δεν σημαίνουν ότι το Super VL υπερέχει σε κάθε εργασία έναντι των μοντέλων της OpenAI ή της Anthropic.
Το Bolt φέρνει τους AI agents σε προσωπικούς υπολογιστές
Η πιο ενδιαφέρουσα εξέλιξη για τους χρήστες υπολογιστών αφορά το Nemotron 3.5 Bolt 74B-A9B 24GB.
Παρότι διαθέτει συνολικά 74 δισεκατομμύρια παραμέτρους, χρησιμοποιεί περίπου 9 δισεκατομμύρια κάθε φορά. Χάρη στην τεχνική συμπίεσης και στην κβαντοποίηση 2-bit, η NVIDIA κατάφερε να περιορίσει το μέγεθος των βαρών του μοντέλου ώστε να χωρούν σε 24GB μνήμης.
Το μοντέλο προορίζεται για συστήματα RTX Spark, DGX Spark και συμβατούς υπολογιστές με κάρτες GeForce RTX.
Μπορεί να υποστηρίζει AI agents που αναζητούν πληροφορίες, γράφουν κώδικα, χρησιμοποιούν εργαλεία και εκτελούν εργασίες πολλών βημάτων. Η λειτουργία του υποστηρίζεται από δημοφιλή εργαλεία όπως τα Ollama, LM Studio, llama.cpp και vLLM.
Η δυνατότητα αυτή δεν σημαίνει ότι οποιοσδήποτε υπολογιστής με 24GB μνήμης θα προσφέρει αυτομάτως την ίδια απόδοση. Οι πραγματικές απαιτήσεις εξαρτώνται από το hardware, το διαθέσιμο περιθώριο μνήμης και το περιβάλλον εκτέλεσης.
Η μικρότερη έκδοση, Nemotron 3.5 Bolt E4B 4GB, προορίζεται για τοπικούς φωνητικούς βοηθούς, διαδραστικούς χαρακτήρες και εφαρμογές σε συσκευές περιορισμένων πόρων. Η διάθεσή της έχει προγραμματιστεί για τις 23 Οκτωβρίου.
Η NVIDIA θέλει περισσότερη τεχνητή νοημοσύνη χωρίς cloud
Η τοπική λειτουργία των AI agents αποτελεί σημαντικό μέρος της νέας στρατηγικής.
Ένας προσωπικός βοηθός τεχνητής νοημοσύνης που επεξεργάζεται αρχεία, οικονομικά στοιχεία ή εταιρικά έγγραφα στον ίδιο τον υπολογιστή μπορεί να περιορίσει την ανάγκη αποστολής ευαίσθητων πληροφοριών σε απομακρυσμένους servers.
Αυτό προσφέρει μεγαλύτερο έλεγχο στα δεδομένα και μειώνει την εξάρτηση από εξωτερικές υπηρεσίες και χρεώσεις API.
Δεν εξαλείφει, ωστόσο, τους κινδύνους ασφαλείας. Ένας AI agent που έχει πρόσβαση στο διαδίκτυο, σε email ή σε εφαρμογές τρίτων εξακολουθεί να χρειάζεται περιορισμένα δικαιώματα, προστασία από κακόβουλες εντολές και ανθρώπινη εποπτεία.
Επιπλέον, η τοπική εκτέλεση απαιτητικών μοντέλων προϋποθέτει ισχυρό hardware, με κόστος που δεν είναι ακόμη προσιτό σε όλους τους καταναλωτές.
Μεγάλες επιχειρήσεις δοκιμάζουν το Super VL
Η NVIDIA αναφέρει ότι οργανισμοί όπως οι Ramp, CrowdStrike, Perplexity, Salesforce και Atlassian αξιοποιούν ή προσαρμόζουν το Nemotron 3.5 Super VL για εξειδικευμένες επιχειρηματικές ανάγκες.
Οι εφαρμογές περιλαμβάνουν ανάλυση οικονομικών εγγράφων, κυβερνοασφάλεια, αναζήτηση εταιρικών πληροφοριών και αυτοματοποίηση διοικητικών διαδικασιών.
Η Scale AI έχει επίσης προσαρμόσει το μοντέλο για εφαρμογές που αφορούν τη Skydance και την EY, ενώ άλλοι συνεργάτες εργάζονται σε επιστημονικές και ιατρικές χρήσεις.
Η συμμετοχή αυτών των εταιρειών αποτελεί ένδειξη επιχειρηματικού ενδιαφέροντος, χωρίς να σημαίνει ότι όλες οι εφαρμογές λειτουργούν ήδη σε πλήρη παραγωγική κλίμακα.
Ανακοινώθηκε το νέο event της Apple με νέα MacBook, Mac και iPad τι ώρα Eλλάδας θα μεταδοθεί
Η μάχη για την επόμενη γενιά AI υπολογιστών
Η NVIDIA Nemotron αποκτά ιδιαίτερη στρατηγική σημασία σε μια περίοδο όπου οι μεγάλες εταιρείες τεχνητής νοημοσύνης αναζητούν εναλλακτικές υποδομές, από τους επεξεργαστές Trainium της Amazon έως εξειδικευμένα συστήματα άλλων κατασκευαστών.
Με τα νέα ανοιχτά μοντέλα, η NVIDIA επιχειρεί να ενισχύσει ολόκληρο το οικοσύστημά της, συνδέοντας το λογισμικό τεχνητής νοημοσύνης με τις πλατφόρμες CUDA, RTX και DGX.
Για τις επιχειρήσεις, η δυνατότητα παραμετροποίησης και εγκατάστασης μοντέλων στις δικές τους υποδομές μπορεί να περιορίσει την εξάρτηση από κλειστές υπηρεσίες.
Για τους καταναλωτές, η προοπτική είναι διαφορετική: προσωπικοί AI agents που θα μπορούν να εργάζονται τοπικά, με περισσότερη ιδιωτικότητα και μεγαλύτερο έλεγχο.
Το πραγματικό στοίχημα για τη NVIDIA δεν είναι μόνο να δημιουργήσει ανταγωνιστικά μοντέλα, αλλά να αποδείξει ότι η επόμενη γενιά AI assistants μπορεί να λειτουργεί αποτελεσματικά και εκτός cloud.
