Ο Mark Zuckerberg διαφοροποιείται ανοιχτά από την αυξανόμενη συζήτηση για ένα συντονισμένο AI slowdown, υποστηρίζοντας ότι η Meta δεν χρειάζεται να ακολουθήσει έναν κοινό ρυθμό επιβράδυνσης μαζί με OpenAI, Anthropic, Google DeepMind και Elon Musk.
Η θέση του CEO της Meta έρχεται σε μια στιγμή που κορυφαίοι εκπρόσωποι των frontier AI labs έχουν αρχίσει να συγκλίνουν στην ανάγκη να «pace the frontier» – να περιορίσουν δηλαδή τον ρυθμό ανάπτυξης των ισχυρότερων μοντέλων ώστε safety research, evaluations και μηχανισμοί εποπτείας να μπορούν να συμβαδίσουν με τις δυνατότητές τους.
Ο Mark Zuckerberg επιλέγει διαφορετική προσέγγιση. Θεωρεί ότι κάθε εταιρεία έχει ξεχωριστή ευθύνη «να κινείται με τον ρυθμό που απαιτείται για να εκπαιδεύει τα μοντέλα της με ασφάλεια» και υποστηρίζει ότι η Meta ήδη λειτουργεί με αυτή τη λογική.
Δεν θέλει ένα κοινό «φρένο»
Η διαφορά μπορεί να φαίνεται λεπτή, αλλά είναι ουσιαστική.
Οι υποστηρικτές ενός ευρύτερου AI slowdown θεωρούν ότι ο ανταγωνισμός μεταξύ των εταιρειών δημιουργεί ένα race dynamic: ακόμη και ένα lab που θα ήθελε να κινηθεί πιο προσεκτικά μπορεί να φοβάται ότι θα μείνει πίσω αν οι ανταγωνιστές του συνεχίσουν με πλήρη ταχύτητα.
Η λύση, σύμφωνα με αυτή τη σχολή σκέψης, είναι κάποιος βαθμός συντονισμού, κοινών standards και ανεξάρτητης αξιολόγησης. Ο Mark Zuckerberg απορρίπτει ουσιαστικά την ανάγκη ενός ενιαίου ρυθμού.
Η Meta υποστηρίζει ότι κάθε frontier lab πρέπει να αξιολογεί τα δικά του μοντέλα, τις δικές του capabilities και τους δικούς του κινδύνους πριν αποφασίσει αν πρέπει να προχωρήσει.
Ασφάλεια χωρίς κοινό slowdown
Η θέση αυτή δεν σημαίνει ότι η Meta απορρίπτει τα safety controls.
Η εταιρεία έχει αναπτύξει δικό της framework για advanced AI, το οποίο εξετάζει κινδύνους σε τομείς όπως cybersecurity, chemical και biological misuse, αλλά και loss of control. Η φιλοσοφία όμως είναι διαφορετική.
Αν ένα μοντέλο περάσει τις απαιτούμενες evaluations και τα safeguards θεωρηθούν επαρκή, η Meta δεν βλέπει λόγο να καθυστερήσει την κυκλοφορία του απλώς επειδή κάποια άλλη εταιρεία χρειάζεται περισσότερο χρόνο.
Έτσι, το debate μετατρέπεται σε μια πολύ πιο δύσκολη ερώτηση: είναι ασφαλέστερο να υπάρχει κοινός ρυθμός για ολόκληρη τη βιομηχανία ή ξεχωριστή ευθύνη για κάθε εταιρεία;
Ο φόβος ότι η Κίνα θα συνεχίσει να τρέχει
Η επιχειρηματολογία του Mark Zuckerberg συνδέεται έντονα και με τον γεωπολιτικό ανταγωνισμό.
Στο μεγάλο manifesto που δημοσίευσε τον Αύγουστο, είχε προειδοποιήσει ότι οποιαδήποτε πολιτική καθυστερεί την κυκλοφορία αμερικανικών AI models – ακόμη και κατά έναν μήνα – μπορεί να δημιουργήσει σημαντικό κίνδυνο για την τεχνολογική ηγεσία των ΗΠΑ, ενώ ξένα labs συνεχίζουν να εξελίσσονται. Αυτή είναι μία από τις σημαντικότερες διαφορές μεταξύ Meta και των υποστηρικτών ενός γενικότερου slowdown.
Για τον Zuckerberg, η AI safety δεν μπορεί να εξετάζεται απομονωμένη από τον διεθνή ανταγωνισμό. Αν οι αμερικανικές εταιρείες συμφωνήσουν να επιβραδύνουν, αλλά κινεζικά ή άλλα labs δεν κάνουν το ίδιο, τότε το αποτέλεσμα μπορεί να μην είναι μεγαλύτερη παγκόσμια ασφάλεια αλλά απλώς αλλαγή στην ισορροπία ισχύος.
Meta: Περισσότερη συνεργασία με την κυβέρνηση, όχι περισσότερη γραφειοκρατία
Ο Mark Zuckerberg δεν υποστηρίζει πλήρη απουσία κρατικής συμμετοχής.
Αντίθετα, έχει προτείνει στενότερη συνεργασία μεταξύ frontier labs και αμερικανικής κυβέρνησης, ιδιαίτερα όταν εμφανίζονται νέες capabilities που μπορεί να έχουν επιπτώσεις στην εθνική ασφάλεια. Η διαφορά βρίσκεται στον μηχανισμό.
Η Meta προτιμά συνεχή τεχνική συνεργασία και ανταλλαγή πληροφοριών αντί για ένα άκαμπτο σύστημα approvals και συγκεκριμένων timelines πριν από κάθε model release.
Ο Zuckerberg θεωρεί ότι μια βαριά regulatory διαδικασία μπορεί να λειτουργεί πολύ αργά για έναν τομέα που αλλάζει μέσα σε μήνες.
Ταυτόχρονα όμως, αυτή η προσέγγιση μεταφέρει σημαντικό μέρος της ευθύνης πίσω στις ίδιες τις εταιρείες. Εκεί βρίσκεται και το βασικό σημείο αντιπαράθεσης.
Ποιος αποφασίζει πότε ένα μοντέλο είναι «αρκετά ασφαλές»; Αν η κάθε εταιρεία καθορίζει ξεχωριστά πότε τα safeguards της είναι επαρκή, δημιουργείται το ερώτημα αν τα οικονομικά κίνητρα μπορούν να επηρεάσουν τις αποφάσεις.
Ένα frontier lab που πιστεύει ότι ο ανταγωνιστής του βρίσκεται λίγες εβδομάδες πριν από μια σημαντική κυκλοφορία έχει προφανή πίεση να μην καθυστερήσει. Ένα κοινό regulatory framework μπορεί θεωρητικά να μειώσει αυτή την πίεση.
Μπορεί όμως επίσης να αυξήσει τα barriers to entry, να ευνοήσει τις μεγαλύτερες εταιρείες που μπορούν να αντέξουν το κόστος της συμμόρφωσης και να περιορίσει open-source ή μικρότερους παίκτες.
Η σύγκρουση που διαμορφώνεται
Η συζήτηση για την AI αρχίζει έτσι να αποκτά δύο διαφορετικές προσεγγίσεις ακόμη και μέσα στη Silicon Valley. Η μία υποστηρίζει ότι οι frontier εταιρείες πρέπει να συμφωνήσουν σε κοινά standards και, όπου χρειάζεται, να επιβραδύνουν μαζί.
Η Meta προτείνει κάτι πιο αποκεντρωμένο: αυστηρό safety testing, στενή συνεργασία με τις κυβερνήσεις, αλλά χωρίς ένα καθολικό φρένο που θα καθορίζει πόσο γρήγορα μπορεί να κινηθεί κάθε αμερικανικό lab.
Ο Mark Zuckerberg δεν λέει ότι η ταχύτητα έχει μεγαλύτερη σημασία από την ασφάλεια. Λέει ότι η ασφάλεια πρέπει να καθορίζει την ταχύτητα ξεχωριστά για κάθε εταιρεία.
Και αυτή η διαφορά μπορεί να εξελιχθεί σε μία από τις σημαντικότερες αντιπαραθέσεις της επόμενης φάσης της AI: όχι αν χρειάζεται safety, αλλά ποιος αποφασίζει πόσο γρήγορα είναι ασφαλές να προχωρήσουμε.
