Η συζήτηση για ένα AI slowdown έχει περάσει ξαφνικά από τα εργαστήρια ασφαλείας στα υψηλότερα επίπεδα της Silicon Valley, καθώς οι επικεφαλής ορισμένων από τις ισχυρότερες εταιρείες τεχνητής νοημοσύνης συμφωνούν ότι η ανάπτυξη των frontier models ίσως πρέπει να επιβραδυνθεί.
Ο Dario Amodei της Anthropic έθεσε το πλαίσιο με την πρόταση «pace the frontier», βρίσκοντας θετική ανταπόκριση από τον Sam Altman της OpenAI, τον Demis Hassabis της Google DeepMind και τον Elon Musk. Η ιδέα δεν είναι να σταματήσει η εκπαίδευση νέων μοντέλων, αλλά να δημιουργηθεί περισσότερος χρόνος ώστε safety research, evaluations και μηχανισμοί εποπτείας να μπορούν να συμβαδίσουν με τις αυξανόμενες δυνατότητες της AI.
Το πρόβλημα είναι ότι όταν οι μεγαλύτεροι ανταγωνιστές μιας αγοράς αρχίζουν να συζητούν συντονισμένα πώς θα περιορίσουν τον ρυθμό ανάπτυξής της, το ζήτημα παύει να αφορά αποκλειστικά την ασφάλεια.
Τι σημαίνει «pace the frontier»
Η πρόταση του Amodei βασίζεται σε τρία επίπεδα. Το πρώτο είναι η παρουσία ανεξάρτητων third-party evaluators μέσα στα frontier AI labs, με πρόσβαση αρκετά βαθιά ώστε να μπορούν να ελέγχουν όχι μόνο τα τελικά μοντέλα αλλά και training pipelines, safety procedures και σοβαρά incidents.
Dario Amodei Anthropic
Το δεύτερο αφορά κοινό πλαίσιο κανόνων για τα μεγαλύτερα AI labs, ώστε καμία εταιρεία να μην αποκτά ανταγωνιστικό πλεονέκτημα επειδή απλώς παρακάμπτει ακριβότερα ή πιο χρονοβόρα safety measures.
Το τρίτο – και πολύ δυσκολότερο – είναι η διεθνής συμφωνία για τον περιορισμό ιδιαίτερα επικίνδυνων AI capabilities.
Στο επίκεντρο βρίσκονται δυνατότητες όπως το recursive self-improvement: το ενδεχόμενο ένα προηγμένο σύστημα AI να συμμετέχει ουσιαστικά στην ανάπτυξη των ισχυρότερων διαδόχων του, επιταχύνοντας τον κύκλο προόδου σε επίπεδο που οι άνθρωποι δυσκολεύονται να ελέγξουν.
Γιατί οι επικεφαλής της AI ανησυχούν τώρα
Sam Altman and Elon Musk AI generated photo
Η αλλαγή τόνου δεν εμφανίστηκε σε κενό. Τα frontier models έχουν σημειώσει ταχεία πρόοδο στο coding, στο autonomous agentic work και στην κυβερνοασφάλεια. Παράλληλα, περιστατικά στα οποία AI agents εμφάνισαν απρόβλεπτη ή επιθετική συμπεριφορά έχουν ενισχύσει τη συζήτηση για το πόσο γρήγορα μπορούν να αυξηθούν οι πραγματικές δυνατότητές τους.
Το επιχείρημα υπέρ ενός AI slowdown είναι ότι η βιομηχανία μπορεί να βρίσκεται κοντά σε ένα σημείο όπου η πρόοδος των capabilities θα ξεπερνά την πρόοδο του alignment.
Αν η επιβράδυνση προσφέρει ακόμη και έναν ή δύο επιπλέον χρόνους για safety research, proponents θεωρούν ότι το όφελος μπορεί να είναι δυσανάλογα μεγάλο. Γιατί όμως κάποιοι μιλούν για καρτέλ;
Η καχυποψία είναι εύκολο να εξηγηθεί.
OpenAI, Anthropic, Google DeepMind και οι εταιρείες του Musk βρίσκονται ήδη στην κορυφή μιας αγοράς με τεράστια barriers to entry.
Η εκπαίδευση ενός frontier model απαιτεί δισεκατομμύρια δολάρια, πρόσβαση σε τεράστια compute infrastructure, προηγμένα chips, δεδομένα και κορυφαίο επιστημονικό προσωπικό.
Αν οι εταιρείες που έχουν ήδη αποκτήσει αυτά τα πλεονεκτήματα συμφωνήσουν σε ένα καθεστώς όπου κάθε νέος ανταγωνιστής πρέπει να πληροί εξαιρετικά ακριβά regulatory και safety requirements, το αποτέλεσμα θα μπορούσε να είναι παράδοξο: κανόνες που θεσπίζονται για την προστασία της κοινωνίας να προστατεύουν ταυτόχρονα τους incumbents από τον ανταγωνισμό. Αυτός είναι ο πυρήνας της κριτικής περί «AI cartel».
Το ζήτημα γίνεται ακόμη πιο ευαίσθητο όταν μπαίνει στην εξίσωση το open source. Ένα regulatory framework που σχεδιάζεται γύρω από τις δυνατότητες και τις υποδομές των μεγαλύτερων κλειστών labs μπορεί να καταστήσει δυσανάλογα δύσκολη τη λειτουργία μικρότερων εταιρειών και ανεξάρτητων developers.
Δεν είναι όμως αυτομάτως καρτέλ
Ο όρος χρειάζεται προσοχή. Το γεγονός ότι ανταγωνιστικές εταιρείες συμφωνούν πως υπάρχει κοινός κίνδυνος δεν αρκεί από μόνο του για να αποδείξει αντικανονικό συντονισμό.
Υπάρχει μεγάλη διαφορά ανάμεσα στη συμφωνία για ανεξάρτητα safety standards και σε μια ιδιωτική συμφωνία ανταγωνιστών που περιορίζει το output, την καινοτομία ή την είσοδο άλλων επιχειρήσεων στην αγορά.
Γι’ αυτό και το σημαντικότερο στοιχείο θα είναι ποιος θέτει τους κανόνες.
Αν τα ίδια τα frontier labs αποφασίζουν ποιος μπορεί να αναπτύσσει προηγμένα μοντέλα, ποια evaluations θεωρούνται επαρκή και πότε πρέπει να σταματά η πρόοδος, η σύγκρουση συμφερόντων είναι προφανής.
Αν αντίθετα τα standards είναι διαφανή, τεχνολογικά ουδέτερα και επιβλέπονται από ανεξάρτητους θεσμούς, η εικόνα αλλάζει σημαντικά.
Η αυτορρύθμιση δεν αρκεί
Αυτό είναι πιθανότατα και το μεγαλύτερο κενό της σημερινής συζήτησης.
Οι CEOs των εταιρειών AI γνωρίζουν καλύτερα από τους περισσότερους τι μπορούν να κάνουν τα συστήματά τους. Ταυτόχρονα όμως έχουν τεράστιο οικονομικό συμφέρον από το πώς θα διαμορφωθούν οι κανόνες της αγοράς.
Δεν μπορούν επομένως να είναι ταυτόχρονα developers, αξιολογητές και τελικοί ρυθμιστές.
Αν το AI slowdown πρόκειται να έχει πραγματικό νόημα, χρειάζεται enforceable commitments, πραγματικά ανεξάρτητους auditors, σαφή thresholds για επικίνδυνες capabilities και κανόνες που εφαρμόζονται με τον ίδιο τρόπο σε κάθε εταιρεία.
Τι σημαίνει τελικά
Η συζήτηση δεν έχει ακόμη καθαρό νικητή. Το να απορρίπτεται κάθε ανησυχία των AI labs ως προσπάθεια δημιουργίας καρτέλ είναι υπερβολικά απλοϊκό, ειδικά όταν τα ίδια τα συστήματα αποκτούν όλο και μεγαλύτερη αυτονομία και δυνατότητες.
Εξίσου προβληματικό όμως είναι να επιτραπεί στις μεγαλύτερες εταιρείες AI να σχεδιάσουν μόνες τους ένα καθεστώς που θα καθορίζει ποιος επιτρέπεται να τις ανταγωνιστεί.
Η πραγματική δοκιμασία του AI slowdown δεν θα είναι επομένως αν οι Sam Altman, Dario Amodei, Demis Hassabis και Elon Musk συμφωνούν ότι χρειάζεται περισσότερη ασφάλεια.
Θα είναι αν είναι διατεθειμένοι να δεχθούν κανόνες που δεν ελέγχουν οι ίδιοι.
