Ο Jensen Huang μπαίνει δυναμικά στη συζήτηση για την AI safety, απορρίπτοντας την πρόταση να δοθούν ειδικές antitrust εξαιρέσεις στις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης ώστε να μπορούν να συντονίσουν μια κοινή επιβράδυνση στην ανάπτυξη ισχυρότερων μοντέλων.
Ο CEO της Nvidia συμφωνεί ότι η ασφάλεια της AI είναι πραγματικό και σοβαρό ζήτημα. Διαφωνεί όμως κάθετα με την ιδέα ότι η λύση απαιτεί νέους νόμους, ειδικές ρυθμίσεις ή κρατικά διαμεσολαβημένες συμφωνίες ανάμεσα σε ανταγωνιστικά AI labs.
Η θέση του είναι πολύ πιο απλή: αν ένα μοντέλο δεν είναι ασφαλές, η εταιρεία που το αναπτύσσει δεν πρέπει να το κυκλοφορήσει.
«Safety is an engineering problem»
Ο Huang περιέγραψε την ασφάλεια και το testing ως θεμελιώδη προβλήματα μηχανικής. Κατά την άποψή του, οι εταιρείες έχουν ήδη την ευθύνη να κατασκευάζουν αξιόπιστα προϊόντα, να τα δοκιμάζουν επαρκώς και να καθυστερούν την κυκλοφορία τους όταν δεν είναι έτοιμα.
Η λογική του είναι ότι δεν χρειάζεται ένα καινούργιο νομικό πλαίσιο μόνο και μόνο για να υποχρεωθούν οι developers να κάνουν σωστά τη δουλειά που ήδη οφείλουν να κάνουν. Ο Huang δεν απορρίπτει επομένως την AI safety.
Απορρίπτει τη μετάβαση από το individual responsibility κάθε εταιρείας σε έναν συντονισμένο μηχανισμό επιβράδυνσης ολόκληρης της βιομηχανίας.
Η πρόταση του Dario Amodei
Η συζήτηση άναψε μετά το νέο κείμενο του CEO της Anthropic, Dario Amodei, με τίτλο We Must Pace the Frontier.
Ο Amodei προτείνει ένα σχέδιο τριών σταδίων για να μειωθεί ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των ισχυρότερων AI models.
Το πρώτο βήμα αφορά την παρουσία ανεξάρτητων third-party safety evaluators μέσα στα frontier labs, ώστε να υπάρχει συνεχής εξωτερικός έλεγχος των δυνατοτήτων και των κινδύνων των νέων μοντέλων.
Το δεύτερο προβλέπει ευρύτερη δημοκρατική διαμόρφωση standards γύρω από το ποια επίπεδα κινδύνου θεωρούνται αποδεκτά.
Το τρίτο είναι το πιο αμφιλεγόμενο: συντονισμός σε παγκόσμιο επίπεδο και περιορισμοί στον ρυθμό «unchecked AI progress». Εκεί εμφανίζεται και το antitrust πρόβλημα.
Γιατί υπάρχει νομικό ζήτημα
OpenAI, Anthropic, Google DeepMind, Meta, xAI και οι υπόλοιποι μεγάλοι developers είναι ανταγωνιστές. Τα μοντέλα τους είναι ανταγωνιστικά προϊόντα.
Στις ΗΠΑ, το Sherman Antitrust Act περιορίζει συμφωνίες μεταξύ ανταγωνιστών όταν αυτές περιορίζουν αδικαιολόγητα τον ανταγωνισμό.
Μια συμφωνία μεταξύ μεγάλων AI εταιρειών για το πόσο γρήγορα θα αναπτύσσουν ή θα κυκλοφορούν νέα μοντέλα θα μπορούσε επομένως να δημιουργήσει σοβαρά νομικά ερωτήματα.
Ο Amodei αναγνωρίζει αυτό το πρόβλημα και υποστηρίζει ότι ορισμένες μορφές coordination μπορεί να χρειαστούν κυβερνητική υποστήριξη ή ειδικό νομικό πλαίσιο.
Ακριβώς σε αυτό αντιδρά ο Jensen Huang.
«Αν δεν είναι έτοιμο, κρατήστε το»
Η εναλλακτική που προτείνει ο Huang είναι αποκεντρωμένη.
- Κάθε εταιρεία πρέπει να αξιολογεί το δικό της μοντέλο.
- Κάθε εταιρεία πρέπει να κάνει testing.
- Και αν το προϊόν δεν είναι ασφαλές, απλώς δεν πρέπει να κυκλοφορήσει μέχρι να διορθωθεί.
Με αυτό το μοντέλο, δεν χρειάζεται οι ανταγωνιστές να συμφωνήσουν μεταξύ τους για κοινό ρυθμό ανάπτυξης.
Η βασική αρχή είναι ότι οι εταιρείες μπορούν να καινοτομούν όσο γρήγορα θέλουν, αρκεί να μη διαθέτουν στην αγορά προϊόντα που δεν έχουν δοκιμαστεί επαρκώς.
Η διαφορά με την προσέγγιση Amodei είναι θεμελιώδης.
Ο Huang εστιάζει στην ασφάλεια του τελικού προϊόντος.
Ο Amodei ανησυχεί και για την ίδια την ταχύτητα με την οποία αυξάνονται οι δυνατότητες των frontier systems.
Δύο διαφορετικές φιλοσοφίες
Αυτό είναι πλέον ένα από τα μεγαλύτερα ρήγματα στη συζήτηση γύρω από την AI.
Η μία πλευρά θεωρεί ότι τα προβλήματα μπορούν να αντιμετωπιστούν μέσω καλύτερου engineering, evaluations, red teaming και safeguards.
Η άλλη υποστηρίζει ότι μπορεί να έρθει σημείο όπου τα capabilities εξελίσσονται τόσο γρήγορα ώστε το safety engineering να μην προλαβαίνει.
Σε αυτό το δεύτερο σενάριο, δεν αρκεί να δοκιμάσεις καλύτερα ένα μοντέλο πριν το launch.
Πρέπει να ελέγξεις και τον ίδιο τον ρυθμό με τον οποίο δημιουργούνται ισχυρότερα μοντέλα.
Η Nvidia έχει προφανές οικονομικό ενδιαφέρον σε αυτή τη συζήτηση.
Η έκρηξη της generative AI έχει εκτοξεύσει τη ζήτηση για GPUs και data-center infrastructure, με OpenAI, Anthropic και άλλους μεγάλους developers να αποτελούν σημαντικούς πελάτες.
Ένα ευρύ slowdown στη δημιουργία νέων frontier models θα μπορούσε επομένως να επηρεάσει και τη ζήτηση για το hardware πάνω στο οποίο εκπαιδεύονται.
Αυτό όμως δεν αρκεί από μόνο του για να κριθεί αν το επιχείρημα Huang είναι σωστό ή λανθασμένο. Η ουσία βρίσκεται στο αν η ασφάλεια μπορεί πράγματι να αντιμετωπιστεί αποκλειστικά στο επίπεδο του engineering ή αν κάποια μορφή συλλογικού περιορισμού θα γίνει αναγκαία.
«Δεν πρόκειται να πεθάνουμε το 2030»
Ο Jensen Huang απέρριψε επίσης τις πιο ακραίες προβλέψεις για υπαρξιακή καταστροφή από την AI.
Όπως υποστήριξε, υπάρχουν πολλοί άνθρωποι και οργανισμοί που θα συνεχίσουν να αναπτύσσουν guardrails, safety systems και νέες τεχνολογίες προστασίας.
Η θέση του είναι αισιόδοξη, αλλά όχι ότι ο κίνδυνος είναι μηδενικός.
Αντίθετα, αναγνωρίζει ότι unsafe AI products αποτελούν πραγματικό πρόβλημα.
Εκεί όπου διαφωνεί με τους υποστηρικτές ενός industry-wide slowdown είναι στον μηχανισμό αντιμετώπισης.
Ο Huang πιστεύει περισσότερο στο engineering και στο individual responsibility των εταιρειών.
Ο Amodei ζητά περισσότερο χρόνο και μεγαλύτερο συντονισμό.
Και αυτή η διαφωνία μπορεί να αποδειχθεί πολύ πιο σημαντική από το αν θα κυκλοφορήσει ένα συγκεκριμένο AI model μερικές εβδομάδες νωρίτερα ή αργότερα.
Γιατί πίσω από αυτή βρίσκεται ένα πολύ μεγαλύτερο ερώτημα: αν η επόμενη γενιά της AI θα ρυθμιστεί κυρίως από τους ίδιους τους engineers ή αν οι κυβερνήσεις θα χρειαστεί τελικά να αποφασίσουν πόσο γρήγορα επιτρέπεται να προχωρήσει.
