Η ρύθμιση του AI πρέπει να περάσει από τις ίδιες τις εταιρείες στις κυβερνήσεις, σύμφωνα με τον Bill Gates, ο οποίος προειδοποιεί ότι η τεχνολογία έχει πλέον αποκτήσει τέτοια ισχύ ώστε, αν χρησιμοποιηθεί από κακόβουλους ανθρώπους, θα μπορούσε να συμβάλει ακόμη και σε καταστροφικά γεγονότα με τεράστιο αριθμό θυμάτων.
Σε συνέντευξή του στο Meet the Press, η οποία πρόκειται να μεταδοθεί ολόκληρη την Κυριακή 27 Σεπτεμβρίου, ο συνιδρυτής της Microsoft δήλωσε ότι «κανείς δεν πιστεύει πως η αυτορρύθμιση είναι αρκετή» και τάχθηκε υπέρ νομοθετικών απαιτήσεων για safeguards και monitoring των ισχυρότερων AI συστημάτων.
«Αρκετά ισχυρό για να προκαλέσει γεγονότα με ένα δισεκατομμύριο νεκρούς»
Η πιο έντονη φράση του Gates αφορά την κλίμακα της πιθανής κακόβουλης χρήσης.
Ο ίδιος ανέφερε ότι το AI είναι «αρκετά ισχυρό ώστε να προκαλέσει γεγονότα» που θα μπορούσαν να οδηγήσουν σε ένα δισεκατομμύριο θανάτους, προσθέτοντας ότι ο συνδυασμός κακόβουλων ανθρώπων και των πιο προηγμένων AI εργαλείων μπορεί να δημιουργήσει πρωτοφανείς δυνατότητες καταστροφής. Η διατύπωση χρειάζεται προσοχή.
Ο Gates δεν παρουσίασε κάποιο μοντέλο που προβλέπει ένα δισεκατομμύριο νεκρούς ούτε είπε ότι ένα AI σύστημα θα αποφασίσει αυτόνομα να σκοτώσει ανθρώπους.
Μίλησε για το ενδεχόμενο ανθρώπινης κακόβουλης χρήσης μιας τεχνολογίας που γίνεται συνεχώς ισχυρότερη.
Οι ανησυχίες που έχει εκφράσει στο παρελθόν περιλαμβάνουν cyberattacks, βιολογικούς κινδύνους, απάτες, παραπληροφόρηση και επιθέσεις σε κρίσιμες υποδομές.
Ο Gates ζητά υποχρεωτική εποπτεία
Στο επίκεντρο της παρέμβασής του βρίσκεται η ρύθμιση του AI. Ο Gates υποστηρίζει ότι κυβερνήσεις, πολιτικοί και υπηρεσίες επιβολής του νόμου πρέπει να συμμετέχουν στον καθορισμό των safeguards και των μηχανισμών παρακολούθησης.
Όταν ρωτήθηκε αν θεωρεί απαραίτητη τη νομοθεσία στις ΗΠΑ, απάντησε καταφατικά.
Κατά την άποψή του, οι απαιτήσεις ασφαλείας δεν μπορούν να παραμένουν προαιρετικές αποφάσεις κάθε AI εταιρείας αλλά πρέπει να αποκτήσουν υποχρεωτικό χαρακτήρα. Αναγνώρισε ότι κάτι τέτοιο θα προσθέσει κόστος και γραφειοκρατία για τη βιομηχανία, υποστήριξε όμως ότι δεν χρειάζεται να επιβραδύνει δραματικά την τεχνολογική ανάπτυξη.
Δεν είναι αντίθετος με το AI
Η παρέμβαση του Gates δεν σημαίνει ότι έχει μετατραπεί σε αντίπαλο της τεχνητής νοημοσύνης. Αντίθετα, εξακολουθεί να υποστηρίζει ότι το AI μπορεί να έχει σημαντικά οφέλη στην υγεία, στην εκπαίδευση, στη γεωργία και στην επιστημονική έρευνα.
Το ίδρυμά του έχει ανακοινώσει επενδύσεις τουλάχιστον 1 δισ. δολαρίων τα επόμενα δύο χρόνια για εφαρμογές AI σε τομείς όπως η υγεία, η εκπαίδευση και η γεωργία, ιδιαίτερα σε χώρες και γλώσσες που σήμερα εκπροσωπούνται λιγότερο στα μεγάλα μοντέλα.
Η θέση του είναι επομένως ότι οι δυνατότητες και οι κίνδυνοι αυξάνονται ταυτόχρονα.
Νωρίτερα μέσα στον Σεπτέμβριο είχε δηλώσει ότι οι κυβερνήσεις διεθνώς δεν διαθέτουν ακόμη το επίπεδο τεχνογνωσίας και προετοιμασίας που απαιτείται για τις κοινωνικές αλλαγές που μπορεί να φέρει το AI.
Η συζήτηση δεν περιορίζεται στον Bill Gates
Η ρύθμιση του AI έχει εξελιχθεί πλέον σε κεντρικό ζήτημα για ολόκληρο τον κλάδο.
Ακόμη και εταιρείες που αναπτύσσουν frontier AI systems ζητούν διαφορετικές μορφές εξωτερικής εποπτείας.
Η OpenAI, για παράδειγμα, έχει δηλώσει ότι υποστηρίζει υποχρεωτικές εθνικές απαιτήσεις ασφαλείας στις ΗΠΑ με βάση τις πραγματικές δυνατότητες των μοντέλων, καθώς και ανεξάρτητες αξιολογήσεις για συστήματα που φτάνουν σε συγκεκριμένα επίπεδα ισχύος.
Παράλληλα, η συζήτηση επεκτείνεται σε διεθνείς μηχανισμούς, καθώς ισχυρά μοντέλα μπορούν να αναπτυχθούν σε μία χώρα αλλά να χρησιμοποιηθούν οπουδήποτε στον κόσμο.
Δεν υπάρχει, ωστόσο, πλήρης συμφωνία για το πόσο αυστηρή πρέπει να είναι η ρύθμιση του AI, ποιοι φορείς πρέπει να την εφαρμόζουν και ποια επίπεδα τεχνικής δυνατότητας θα ενεργοποιούν αυστηρότερες απαιτήσεις.
Το δύσκολο ερώτημα είναι τι ακριβώς πρέπει να ρυθμιστεί
Η φράση «ρύθμιση του AI» μπορεί να σημαίνει πολύ διαφορετικά πράγματα.
Μπορεί να περιλαμβάνει υποχρεωτικά safety tests πριν από την κυκλοφορία ενός frontier model, ανεξάρτητους ελέγχους, αναφορά σοβαρών περιστατικών, περιορισμούς στην πρόσβαση σε επικίνδυνες δυνατότητες ή ειδικούς κανόνες για βιολογικούς και κυβερνοεπιθετικούς κινδύνους.
Μπορεί επίσης να αφορά την προστασία προσωπικών δεδομένων, την παραπληροφόρηση, την απασχόληση ή τις αποφάσεις που λαμβάνονται από αυτοματοποιημένα συστήματα.
Ακριβώς γι’ αυτό το βασικό πρόβλημα δεν είναι πλέον αν πρέπει να υπάρχει κάποια μορφή εποπτείας, αλλά ποια μορφή θα είναι αποτελεσματική χωρίς να μετατρέπεται είτε σε τυπική διαδικασία χωρίς ουσιαστικό έλεγχο είτε σε εμπόδιο που παγώνει την έρευνα.
Μια πολύ πιο άμεση προειδοποίηση
Η παρέμβαση του Bill Gates ξεχωρίζει επειδή μεταφέρει τη συζήτηση από το αφηρημένο σενάριο μιας μελλοντικής «εξέγερσης των μηχανών» σε κάτι πιο συγκεκριμένο.
Το πρόβλημα, όπως το περιγράφει, είναι ότι εξαιρετικά ισχυρά εργαλεία μπορεί να καταλήξουν στα χέρια ανθρώπων που έχουν πρόθεση να προκαλέσουν βλάβη.
Αυτό δεν αποδεικνύει ότι ένα καταστροφικό σενάριο τέτοιας κλίμακας είναι πιθανό.
Δείχνει όμως γιατί ο Gates θεωρεί ότι η ρύθμιση του AI δεν μπορεί να αφεθεί αποκλειστικά στην καλή θέληση των εταιρειών που αναπτύσσουν τα ίδια τα συστήματα.
Και όσο τα AI models αποκτούν μεγαλύτερη πρόσβαση σε εργαλεία, επιστημονική γνώση, κώδικα και πραγματικές υποδομές, η συζήτηση για το ποιος πρέπει να τα ελέγχει φαίνεται ότι μόλις αρχίζει.
