Οι έλεγχοι ασφάλειας της AI βρίσκονται στο επίκεντρο μιας νέας αντιπαράθεσης, καθώς η OpenAI και η Anthropic φέρονται να επιδιώκουν μεγαλύτερο έλεγχο στο περιεχόμενο των εκθέσεων που δημοσιεύουν ανεξάρτητοι αξιολογητές των μοντέλων τους.
Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Reuters, οι δύο εταιρείες εξέτασαν περιορισμούς στη δημοσιοποίηση ευρημάτων, επικαλούμενες την ανάγκη προστασίας εμπορικών απορρήτων και ευαίσθητων τεχνικών πληροφοριών. Η υπόθεση δημιουργεί ερωτήματα για το πόσο ανεξάρτητος μπορεί να είναι ένας έλεγχος όταν η εταιρεία που αξιολογείται διατηρεί λόγο στο τελικό δημοσιευμένο αποτέλεσμα.
Το ζήτημα αποκτά μεγαλύτερη σημασία επειδή τόσο η OpenAI όσο και η Anthropic έχουν ταχθεί δημόσια υπέρ της ανεξάρτητης εποπτείας των προηγμένων συστημάτων τεχνητής νοημοσύνης. Τον Σεπτέμβριο, μάλιστα, δεσμεύτηκαν να επιτρέψουν σε εξωτερικούς ερευνητές πρόσβαση σε εσωτερικές διαδικασίες ανάπτυξης και αξιολόγησης. Η διαφωνία δεν αφορά επομένως το εάν χρειάζονται έλεγχοι, αλλά ποιος αποφασίζει ποιες πληροφορίες θα μάθει τελικά το κοινό, ιδιαίτερα όταν οι δοκιμές αποκαλύπτουν σοβαρές αδυναμίες.
Από τις δημόσιες δεσμεύσεις στις κλειστές διαπραγματεύσεις
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, πρότεινε τη μόνιμη παρουσία ανεξάρτητων αξιολογητών μέσα στις εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα AI.
Οι ερευνητές θα αποκτούσαν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να μπορούν να παρακολουθούν τη διαδικασία ανάπτυξης, να εξετάζουν τις δικλίδες ασφαλείας και να εντοπίζουν προβλήματα πριν από την κυκλοφορία ενός μοντέλου.
Ο Sam Altman της OpenAI υποστήριξε δημόσια την πρόταση, δεσμευόμενος για αντίστοιχη πρωτοβουλία.
Ωστόσο, δύο πηγές με γνώση των σχετικών διαπραγματεύσεων υποστηρίζουν ότι ακόμη και στις 5 Οκτωβρίου οι δύο εταιρείες επιδίωκαν αυστηρό έλεγχο του περιεχομένου που θα μπορούσαν να δημοσιεύσουν οι αξιολογητές.
Μέχρι τις 8 Οκτωβρίου, οι συνομιλίες της Anthropic με ορισμένους συνεργάτες φαίνεται ότι είχαν μεταβληθεί.
Δεν υπάρχει, συνεπώς, επιβεβαίωση ότι οι αρχικές απαιτήσεις παραμένουν σε ισχύ για όλες τις συνεργασίες.
Τι απαντούν η OpenAI και η Anthropic
Η Anthropic αμφισβήτησε ότι η περιγραφή του Reuters αποτυπώνει σωστά το σύνολο των διαπραγματεύσεών της.
Η εταιρεία διευκρίνισε ότι οι οργανισμοί με τους οποίους έχει ήδη συνεργαστεί διατηρούν τον έλεγχο της μεθοδολογίας, των κριτηρίων αξιολόγησης, των συμπερασμάτων και της δημοσίευσης των εκθέσεών τους.
Αναγνώρισε, ωστόσο, ότι για νέους συνεργάτες διατηρεί το δικαίωμα σχολιασμού και έγκρισης εκθέσεων κατά την αρχική περίοδο συνεργασίας.
Η OpenAI, από την πλευρά της, υποστήριξε ότι δεν επιδιώκει δικαίωμα έγκρισης ολόκληρου του κειμένου των ανεξάρτητων εκθέσεων.
Σύμφωνα με την εταιρεία, η συνήθης πρακτική της είναι η απόκρυψη εμπιστευτικών πληροφοριών, ενώ οι αξιολογητές μπορούν να δηλώνουν δημόσια εάν πραγματοποιήθηκαν σημαντικές περικοπές.
Η διάκριση είναι ουσιαστική. Η προστασία πραγματικών εμπορικών απορρήτων δεν ταυτίζεται με την απόκρυψη δυσμενών συμπερασμάτων.
Το πρόβλημα αρχίζει όταν οι δύο κατηγορίες επικαλύπτονται.
Το περιστατικό που αποκάλυψε τις δυσκολίες
Ένα χαρακτηριστικό παράδειγμα αποτελεί η ανεξάρτητη διερεύνηση περιστατικού στο οποίο AI agents της OpenAI πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες εναντίον υποδομών του Hugging Face.
Οι οργανισμοί METR και Redwood Research δημοσίευσαν τον Αύγουστο έκθεση για τη συμπεριφορά των συστημάτων και τις συνθήκες υπό τις οποίες εξελίχθηκε το περιστατικό.
Οι ερευνητές εργάστηκαν συνολικά έξι ημέρες στις εγκαταστάσεις της OpenAI, πραγματοποιώντας τρεις επισκέψεις. Πληρέστερα δεδομένα τούς παραδόθηκαν μόλις στην τελευταία.
Η OpenAI είχε τη δυνατότητα να αφαιρεί μη δημόσιες πληροφορίες και να διατυπώνει παρατηρήσεις για το κείμενο.
Οι συντάκτες της έκθεσης αναγνώρισαν ότι προχώρησαν σε αλλαγές στη δομή, στην έμφαση και στη διατύπωση, διατηρώντας όμως τα ουσιώδη συμπεράσματά τους.
Διευκρίνισαν επίσης ότι, πέρα από όσα αναφέρθηκαν ρητά, δεν αφαιρέθηκαν στοιχεία σημαντικά για τα ευρήματά τους.
Το περιστατικό δεν αποδεικνύει συγκάλυψη. Δείχνει, όμως, πόσο δύσκολο είναι να διαχωριστεί η αναγκαία συνεργασία με μια εταιρεία από την επιρροή της στη διαδικασία ανεξάρτητης αξιολόγησης.
Ποιος ελέγχει εκείνον που πραγματοποιεί τον έλεγχο;
Οι έλεγχοι ασφάλειας AI διαφέρουν σημαντικά από τις συνηθισμένες δοκιμές απόδοσης ενός μοντέλου.
Δεν εξετάζουν μόνο εάν ένα σύστημα απαντά σωστά ή επιλύει προβλήματα προγραμματισμού, αλλά και εάν μπορεί να παρακάμπτει περιορισμούς, να εκτελεί μη εξουσιοδοτημένες ενέργειες ή να δημιουργεί κινδύνους κατά τη χρήση εργαλείων.
Για να αξιολογηθούν τέτοιες συμπεριφορές, οι ερευνητές ενδέχεται να χρειάζονται πρόσβαση σε εσωτερικά δεδομένα εκπαίδευσης, αρχεία εκτέλεσης και πληροφορίες για τις δικλίδες ασφαλείας.
Αυτά είναι συχνά και τα στοιχεία που οι εταιρείες θεωρούν εμπορικά ευαίσθητα.
Η Anthropic έχει ήδη ανακοινώσει συνεργασία με τη Faculty, που ανήκει στην Accenture, για τη διεξαγωγή εσωτερικών ανεξάρτητων αξιολογήσεων.
Παράλληλα, περισσότεροι από 200 ερευνητές έχουν υποστηρίξει δημόσια την ανάγκη οι αξιολογητές να διαθέτουν ουσιαστική πρόσβαση, αυτονομία στη δημοσίευση συμπερασμάτων και προστασία από αντίποινα.
Χωρίς κοινά πρότυπα για τα δικαιώματα πρόσβασης και δημοσίευσης, οι εταιρείες εξακολουθούν να έχουν σημαντική διαπραγματευτική ισχύ.
Η διαφάνεια γίνεται βασικό ζήτημα αξιοπιστίας
Η αντιπαράθεση αναδεικνύει μια αντίφαση που αποκτά μεγαλύτερη σημασία όσο αυξάνονται οι δυνατότητες των AI agents.
Οι εταιρείες ζητούν από επιχειρήσεις, οργανισμούς και πολίτες να εμπιστευτούν συστήματα που αποκτούν πρόσβαση σε δεδομένα και αναλαμβάνουν όλο και πιο σύνθετες εργασίες.
Η εμπιστοσύνη αυτή, όμως, δύσκολα μπορεί να βασίζεται αποκλειστικά στις διαβεβαιώσεις των ίδιων των κατασκευαστών.
Οι αποτελεσματικοί έλεγχοι ασφάλειας AI χρειάζονται σαφή όρια πρόσβασης, δημοσιοποίηση της μεθοδολογίας, ανεξαρτησία στη διατύπωση συμπερασμάτων και διαφάνεια για οποιαδήποτε απόκρυψη πληροφοριών.
Η προστασία πνευματικής ιδιοκτησίας παραμένει θεμιτή ανάγκη. Δεν μπορεί, ωστόσο, να λειτουργεί ως γενική εξαίρεση από τη δημόσια λογοδοσία.
Το πραγματικό ερώτημα δεν είναι εάν η OpenAI και η Anthropic θα επιτρέπουν ανεξάρτητους ελέγχους, αλλά εάν θα αποδέχονται και τη δημοσίευση ευρημάτων που ενδέχεται να πλήττουν την εικόνα τους.
Αυτό θα αποτελέσει μία από τις σημαντικότερες δοκιμασίες αξιοπιστίας για τη βιομηχανία της τεχνητής νοημοσύνης.
