Η ασφάλεια για την AI μπαίνει ξανά στο επίκεντρο στις ΗΠΑ, αλλά αυτή τη φορά η κυβέρνηση του Donald Trump επιλέγει ένα μοντέλο που στηρίζεται κυρίως στις ίδιες τις εταιρείες τεχνολογίας. Google, Anthropic, Meta, OpenAI, xAI και Nvidia υπέγραψαν μια κοινή δέσμευση για τον έλεγχο των πιο προηγμένων AI μοντέλων, με εσωτερικούς μηχανισμούς ασφαλείας, ανεξάρτητους ελέγχους και εποπτεία σε επίπεδο διοικητικών συμβουλίων.
Η συμφωνία ονομάζεται Joint Commitment on Frontier Responsibilities και εντάσσεται στο White House Accord on Super Intelligence. Δεν αποτελεί ομοσπονδιακό νόμο ούτε προβλέπει συγκεκριμένες κυρώσεις σε περίπτωση παραβίασης. Ο Trump την περιέγραψε ως «morally binding», ενώ το ίδιο το κείμενο αφήνει ανοιχτό το ενδεχόμενο ορισμένα από τα μέτρα να μετατραπούν μελλοντικά σε νόμους ή κανονισμούς.
Τέσσερα επίπεδα ελέγχου για τα frontier AI models
Η συμφωνία καθορίζει τέσσερις βασικούς μηχανισμούς για την ασφάλεια AI.
Πρώτον, οι εταιρείες δεσμεύονται να εφαρμόζουν εσωτερικούς ελέγχους κατά την εκπαίδευση και τη διάθεση των μοντέλων, εξετάζοντας κινδύνους σε τομείς όπως cybersecurity, biosecurity και χημικές απειλές, καθώς και το ενδεχόμενο ένα σύστημα να αποκτήσει πρόσβαση σε τεχνικές υποδομές με μη προβλεπόμενο τρόπο.
Δεύτερον, κάθε εταιρεία θα πρέπει να διαθέτει εσωτερική ομάδα που θα ελέγχει αν αυτοί οι μηχανισμοί λειτουργούν και αν τα προβλήματα διορθώνονται. Το τρίτο επίπεδο προβλέπει ανεξάρτητο εξωτερικό auditor ή evaluator, ενώ το τέταρτο απαιτεί ανεξάρτητη επιτροπή στο διοικητικό συμβούλιο που θα παρακολουθεί τα σχετικά reports και την αντιμετώπιση των προβλημάτων.
Zuckerberg – Ένα πρώτο κοινό πλαίσιο για τη βιομηχανία
Ο Mark Zuckerberg παρουσίασε τη συμφωνία ως έναν τρόπο να αποκτήσουν οι πολίτες και οι πελάτες μεγαλύτερη εμπιστοσύνη ότι τα συστήματα λειτουργούν όπως έχουν σχεδιαστεί.
Ο CEO της Meta τόνισε παράλληλα ότι η συμφωνία δεν θα πρέπει να θεωρείται το τέλος της συζήτησης για την ασφάλεια AI, αλλά ένα πρώτο κοινό βήμα για τον κλάδο. Χαρακτήρισε τη συζήτηση μεταξύ των εταιρειών ιστορική και υποστήριξε ότι μπορεί να αποτελέσει βάση για όσα ακολουθήσουν.
Η OpenAI βλέπει την AI μέσα από τα οφέλη της
Ο Greg Brockman της OpenAI έδωσε μεγαλύτερο βάρος στις πιθανές θετικές εφαρμογές της τεχνολογίας.
Αναφέρθηκε στη δημιουργία νέων επιχειρήσεων, στην επιστημονική έρευνα και στην ανάπτυξη φαρμάκων, υποστηρίζοντας ότι οι κοινές δεσμεύσεις γύρω από την ασφαλή ανάπτυξη είναι απαραίτητες ώστε τα οφέλη της AI να φτάσουν σε περισσότερους ανθρώπους.
Jensen Huang – Καινοτομία και ασφάλεια δεν είναι αντίθετες
Ο Jensen Huang της Nvidia περιέγραψε την ανάπτυξη της AI ως μια τεράστια βιομηχανική και τεχνολογική μετάβαση.
Η βασική του θέση ήταν ότι η πρόοδος και η ασφάλεια AI δεν χρειάζεται να βρίσκονται σε σύγκρουση. Όπως υποστήριξε, η βιομηχανία δεν αναπτύσσει μόνο τεχνολογίες που αυξάνουν τις δυνατότητες των μοντέλων, αλλά παράλληλα νέα εργαλεία που προορίζονται να βελτιώσουν την ασφάλεια και τον έλεγχό τους.
Pichai – Τα οφέλη είναι μεγάλα, αλλά οι κίνδυνοι πρέπει να αντιμετωπιστούν
Ο Sundar Pichai της Google ακολούθησε μια αντίστοιχη γραμμή, υποστηρίζοντας ότι η τεχνολογία προσφέρει σημαντικές οικονομικές και κοινωνικές δυνατότητες, αλλά η βιομηχανία πρέπει ταυτόχρονα να αντιμετωπίζει τους κινδύνους.
Ο CEO της Google δήλωσε ότι οι εταιρείες έχουν ευθύνη να διαθέτουν τα προϊόντα τους με ασφάλεια και χαρακτήρισε τη σημερινή περίοδο ιδιαίτερα σημαντική για ολόκληρο τον κλάδο.
Musk – Από τις θέσεις εργασίας στην «εποχή της αφθονίας»
Ο Elon Musk επικεντρώθηκε περισσότερο στις μακροπρόθεσμες οικονομικές και κοινωνικές επιπτώσεις.
Υποστήριξε ότι η AI και η ρομποτική θα μπορούσαν να οδηγήσουν σε μια «εποχή αφθονίας», ακόμη και σε επίπεδα εισοδήματος υψηλότερα από όσα συζητούνται σήμερα στο πλαίσιο του universal basic income.
Όταν ρωτήθηκε για τις θέσεις εργασίας, απάντησε ότι οι δουλειές θα αλλάξουν, όπως έχουν αλλάξει πολλές φορές στο παρελθόν με την εμφάνιση νέων τεχνολογιών. Πρόκειται για εκτίμηση του Musk σχετικά με τις μελλοντικές επιπτώσεις της AI και όχι για βεβαιωμένη οικονομική πρόβλεψη.
Ο Amodei κρατά περισσότερο στο προσκήνιο τους κινδύνους
Ο Dario Amodei της Anthropic ήταν ο πιο σαφής ως προς το ότι η συζήτηση για τους κινδύνους παραμένει ανοιχτή.
Αναγνώρισε τις πιθανές θετικές επιδράσεις της τεχνολογίας, ιδιαίτερα στην ιατρική, αλλά τόνισε ότι η AI παρουσιάζει πραγματικούς κινδύνους και ότι ο τρόπος αντιμετώπισής τους εξακολουθεί να βρίσκεται υπό συζήτηση. Η θέση του ήταν ότι οι ΗΠΑ μπορούν να παραμείνουν τεχνολογικά ανταγωνιστικές και ταυτόχρονα να επιδιώξουν ασφαλή ανάπτυξη.
Αυτορρύθμιση τώρα, πιθανή νομοθεσία αργότερα
Το βασικό χαρακτηριστικό του νέου πλαισίου είναι ότι, προς το παρόν, η ευθύνη για την ασφάλεια AI παραμένει σε μεγάλο βαθμό στις ίδιες τις εταιρείες.
Η συμφωνία δεν ορίζει συγκεκριμένα πρόστιμα ή άλλους μηχανισμούς επιβολής. Παράλληλα όμως αναφέρει ρητά ότι στο μέλλον μπορεί να έχει νόημα η ενσωμάτωση ορισμένων από αυτά τα μέτρα σε νόμους ή κανονισμούς.
Την ίδια ημέρα, ο Trump υπέγραψε ξεχωριστό Executive Order που ζητά από την εκτελεστική εξουσία των ΗΠΑ να χρησιμοποιεί τον όρο «Super Intelligence» αντί για «Artificial Intelligence» σε μη νομοθετικά κυβερνητικά έγγραφα και επικοινωνίες. Ο υφιστάμενος νομικός ορισμός της AI παραμένει προς το παρόν σε ισχύ.
Η πραγματική δοκιμασία για τη νέα συμφωνία θα είναι επομένως η εφαρμογή της: αν οι εσωτερικοί έλεγχοι, οι ανεξάρτητοι auditors και η εποπτεία των boards μπορούν να δημιουργήσουν αποτελεσματικό και διαφανές πλαίσιο ασφάλειας AI, ή αν οι ΗΠΑ θα χρειαστούν τελικά πιο συγκεκριμένους δεσμευτικούς κανόνες.
