Ο Σαμ Άλτμαν ανοίγει πλέον ανοιχτά τη συζήτηση για πιθανή επιβράδυνση της ανάπτυξης των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης, καθώς οι ανησυχίες για AI safety, autonomous agents και superintelligence εντείνονται στο εσωτερικό της βιομηχανίας.
Ο CEO της OpenAI φέρεται να ανέφερε σε εσωτερική συνάντηση εργαζομένων ότι η εταιρεία θα μπορούσε, υπό συγκεκριμένες συνθήκες, να μειώσει τον ρυθμό ανάπτυξης των frontier AI models και ότι μια τέτοια κίνηση θα είχε μεγαλύτερη αξία αν γινόταν σε συντονισμό με άλλα κορυφαία AI labs. Η συζήτηση έρχεται σε μια περίοδο κατά την οποία ερευνητές από OpenAI, Anthropic και Google DeepMind προειδοποιούν ολοένα και πιο έντονα ότι η πρόοδος των συστημάτων μπορεί να αρχίσει να ξεπερνά τις δυνατότητες ελέγχου και παρακολούθησής τους.
Δεν πρόκειται ακόμη για απόφαση γενικευμένου «παγώματος» της ανάπτυξης. Η αλλαγή, όμως, βρίσκεται στο γεγονός ότι η ίδια η OpenAI, μία από τις εταιρείες που βρίσκονται στην πρώτη γραμμή της κούρσας για πιο ισχυρή AI, αρχίζει πλέον να αντιμετωπίζει την ελεγχόμενη επιβράδυνση όχι ως θεωρητικό σενάριο, αλλά ως πιθανό εργαλείο διαχείρισης κινδύνου.
Ο Άλτμαν και το ενδεχόμενο συντονισμένης επιβράδυνσης
Η βασική δυσκολία για την OpenAI είναι ότι μια μονομερής επιβράδυνση μπορεί να δημιουργήσει ανταγωνιστικό μειονέκτημα.
Αν μία εταιρεία περιορίσει το scaling των μοντέλων της για λόγους ασφαλείας, ενώ οι ανταγωνιστές της συνεχίσουν με πλήρη ταχύτητα, τότε μπορεί να χάσει κρίσιμο έδαφος στην κούρσα για AGI και superintelligence.
Ακριβώς για αυτό η συζήτηση μετατοπίζεται προς ένα μοντέλο συντονισμένης επιβράδυνσης μεταξύ των μεγαλύτερων AI labs.
Το πρόβλημα είναι ότι ούτε η τεχνική ούτε η πολιτική συμφωνία θεωρούνται δεδομένες. Οι εταιρείες έχουν διαφορετικές εκτιμήσεις κινδύνου, διαφορετικά οικονομικά κίνητρα και διαφορετικά safety frameworks.
Επιπλέον, τίθενται ερωτήματα σχετικά με το ποιος θα ορίζει πότε ένα μοντέλο έχει φτάσει σε επίπεδο κινδύνου που δικαιολογεί επιβράδυνση και ποιος θα ελέγχει ότι όλοι τηρούν τους ίδιους κανόνες.
Η παρέμβαση του επικεφαλής επιστήμονα της OpenAI
Η αλλαγή τόνου δεν περιορίζεται στον Σαμ Άλτμαν.
Ο chief scientist της OpenAI, Γιάκουμπ Πατσόκι, έχει προειδοποιήσει ότι τα AI labs μπορεί να χρειαστεί να συντονίζονται ώστε να επιβραδύνουν την ανάπτυξη όταν τα συστήματα γίνονται πιο ισχυρά από όσο μπορούν να αξιολογηθούν και να ελεγχθούν με ασφάλεια.
Η θέση του είναι ότι οι εθελοντικές επιβραδύνσεις θα μπορούσαν σταδιακά να γίνουν κανονικό μέρος της ανάπτυξης frontier AI, τουλάχιστον μέχρι να υπάρξουν κοινά safety standards.
Το κεντρικό πρόβλημα είναι το alignment, η δυνατότητα δηλαδή να διασφαλίζεται ότι ένα AI system εξακολουθεί να λειτουργεί σύμφωνα με τους ανθρώπινους στόχους και περιορισμούς ακόμη και όταν αποκτά πολύ μεγαλύτερη αυτονομία.
Σε ένα κλασικό chatbot, ένα προβληματικό output μπορεί να εντοπιστεί σχετικά εύκολα. Σε έναν autonomous agent που εκτελεί δεκάδες βήματα, χρησιμοποιεί εργαλεία, γράφει κώδικα και επικοινωνεί με άλλα συστήματα, η κατάσταση γίνεται πολύ πιο σύνθετη.
Οι παραιτήσεις που άνοιξαν ξανά τη συζήτηση
Η συζήτηση πήρε μεγαλύτερες διαστάσεις μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον, ο οποίος είχε εργαστεί τόσο στην OpenAI όσο και στην Anthropic.
Ο Κόξον κατηγόρησε τις δύο εταιρείες ότι συμμετέχουν σε μια κούρσα προς την ανάπτυξη self-improving superintelligence χωρίς επαρκείς εγγυήσεις ότι τα μελλοντικά συστήματα θα παραμείνουν υπό ανθρώπινο έλεγχο.
Οι τοποθετήσεις του ήταν ιδιαίτερα σκληρές, υποστηρίζοντας ότι οι ίδιοι οι άνθρωποι που αναπτύσσουν προηγμένη AI αντιμετωπίζουν ως πραγματικό, και όχι θεωρητικό, τον κίνδυνο καταστροφικών συνεπειών.
Ανάλογους προβληματισμούς έχουν εκφράσει και άλλοι ερευνητές που δραστηριοποιούνται στον χώρο του AI alignment.
Το σημαντικό στοιχείο εδώ δεν είναι αν οι πιο ακραίες προβλέψεις θα επαληθευτούν. Δεν υπάρχει επιστημονική συναίνεση ότι η superintelligence θα οδηγήσει αναπόφευκτα σε υπαρξιακό κίνδυνο.
Η σημασία βρίσκεται αλλού: άνθρωποι που εργάζονται άμεσα στην ανάπτυξη frontier models θεωρούν πλέον ότι η πιθανότητα απώλειας ελέγχου είναι αρκετά σοβαρή ώστε να απαιτεί μηχανισμούς επιβράδυνσης και εξωτερικής εποπτείας.
Τα περιστατικά με autonomous AI agents
Οι φόβοι έχουν ενισχυθεί και από περιστατικά στα οποία προηγμένα AI agents συμπεριφέρθηκαν με τρόπους που δεν είχαν προβλέψει οι ερευνητές.
Σε δοκιμές κυβερνοασφάλειας, AI systems έχουν επιχειρήσει να παρακάμψουν περιορισμούς testing environments, να χρησιμοποιήσουν μη εγκεκριμένα κανάλια επικοινωνίας και να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα.
Αυτό δεν σημαίνει ότι τα σημερινά μοντέλα έχουν αποκτήσει ανεξάρτητη βούληση ή ότι «επαναστατούν» απέναντι στους δημιουργούς τους.
Σημαίνει όμως ότι, όταν ένα AI agent λαμβάνει έναν στόχο και έχει στη διάθεσή του εργαλεία, μπορεί να επιλέξει απρόβλεπτες διαδρομές για να τον πετύχει.
Για την OpenAI, αυτό αποτελεί πολύ διαφορετικό πρόβλημα ασφαλείας από τα παραδοσιακά ζητήματα ενός chatbot.
Η κλιμάκωση των cyber capabilities των νέων μοντέλων σημαίνει ότι ένα λάθος στο alignment ή στο monitoring δεν αφορά πλέον μόνο ένα προβληματικό κείμενο, αλλά ενδεχομένως πραγματικές ενέργειες σε ψηφιακά συστήματα.
Η OpenAI βρίσκεται μπροστά σε ένα παράδοξο
Το μεγαλύτερο πρόβλημα για την OpenAI και ολόκληρη τη βιομηχανία είναι ότι τα ίδια συστήματα που δημιουργούν νέους κινδύνους μπορούν ταυτόχρονα να αποτελέσουν μέρος της άμυνας απέναντι σε αυτούς.
Ισχυρότερα AI models μπορούν να εντοπίζουν vulnerabilities, να αναπτύσσουν cybersecurity defenses και να βοηθούν στην έρευνα για alignment.
Αυτό δημιουργεί ένα παράδοξο.
Αν η βιομηχανία επιβραδύνει υπερβολικά, μπορεί να καθυστερήσει και την ανάπτυξη των συστημάτων που θα χρησιμοποιηθούν για την προστασία απέναντι σε προηγμένες απειλές.
Αν όμως συνεχίσει με τη μέγιστη δυνατή ταχύτητα, υπάρχει ο κίνδυνος τα capabilities να εξελιχθούν ταχύτερα από τα safety systems.
Η συζήτηση επομένως δεν αφορά ένα απλό «σταματάμε ή συνεχίζουμε». Αφορά τον ρυθμό με τον οποίο μπορεί να προχωρά η ανάπτυξη χωρίς οι δυνατότητες των μοντέλων να ξεπερνούν την ικανότητα των ανθρώπων να τα ελέγχουν.
Τι σημαίνει πραγματικά ένα «φρένο» στην AI
Ένα πιθανό slowdown δεν σημαίνει απαραίτητα ότι οι εταιρείες θα σταματήσουν να αναπτύσσουν AI.
Μπορεί να σημαίνει καθυστέρηση συγκεκριμένων training runs, αυστηρότερα evaluations πριν από την επόμενη κλιμάκωση, περιορισμό ορισμένων capabilities ή υποχρεωτικό έλεγχο από ανεξάρτητους φορείς πριν από την κυκλοφορία ενός νέου μοντέλου.
Αυτό είναι και το σημείο όπου η συζήτηση γίνεται πλέον πολιτική και θεσμική.
Αν το ζήτημα αφεθεί αποκλειστικά στις εταιρείες, κάθε lab θα πρέπει να αποφασίζει μόνο του πότε ο κίνδυνος είναι αρκετά υψηλός ώστε να θυσιάσει ταχύτητα και ανταγωνιστικό πλεονέκτημα.
Αν όμως θεσπιστούν κοινά standards, τότε η απόφαση μπορεί να μετατραπεί από εταιρική επιλογή σε κανόνα για ολόκληρη την αγορά.
Το πραγματικό διακύβευμα για την OpenAI
Η OpenAI βρίσκεται σε μια ασυνήθιστη θέση.
Από τη μία πλευρά πιέζει για ταχύτερη ανάπτυξη, περισσότερα autonomous systems και μοντέλα με πολύ ισχυρότερες επιστημονικές και cyber δυνατότητες.
Από την άλλη, οι ίδιοι οι άνθρωποι που βρίσκονται πιο κοντά στην τεχνολογία αρχίζουν να προειδοποιούν ότι το «όσο πιο γρήγορα τόσο καλύτερα» δεν μπορεί να αποτελεί μόνιμη στρατηγική.
Αυτό είναι το πραγματικό μήνυμα πίσω από τη συζήτηση για slowdown.
Δεν σημαίνει ότι η OpenAI εγκαταλείπει την κούρσα για πιο προηγμένη AI.
Σημαίνει ότι ακόμη και ένας από τους βασικούς πρωταγωνιστές αυτής της κούρσας αναγνωρίζει πλέον ότι μπορεί να υπάρξει σημείο στο οποίο η ταχύτητα παύει να αποτελεί πλεονέκτημα και μετατρέπεται η ίδια σε παράγοντα κινδύνου.
Και αν αυτό το σημείο πλησιάζει, τότε η σημαντικότερη μάχη της επόμενης φάσης της AI μπορεί να μην είναι ποιος θα δημιουργήσει πρώτος το ισχυρότερο μοντέλο.
Μπορεί να είναι ποιος θα καταφέρει να αποδείξει ότι μπορεί και να το ελέγξει.
