Skip to content Skip to sidebar Skip to footer

Μετά την κατακραυγή ο Sam Altman τα γυρνάει για την συμφωνία OpenAI – αμερικανικό Υπουργείο Άμυνας

Ο Sam Altman βρίσκεται τους τελευταίους μήνες σε μια διαρκή προσπάθεια εξισορρόπησης μεταξύ των φιλοδοξιών της OpenAI για ηγετική παρουσία στον αμυντικό τομέα και της έντονης κοινωνικής δυσαρέσκειας που προκάλεσε η συμφωνία με το αμερικανικό Υπουργείο Άμυνας. Η κίνηση του CEO της OpenAI να προτείνει την προσθήκη δύο νέων προτάσεων στο κείμενο της συνεργασίας δεν αποτελεί απλώς μια τυπική αναθεώρηση, αλλά μια κίνηση τακτικής με σκοπό να περιορίσει τις ανησυχίες που έχουν εκφραστεί σχετικά με το c. Η εσωτερική πίεση και η κριτική από την κοινότητα της τεχνολογίας φαίνεται να έχουν αναγκάσει την ηγεσία της OpenAI να επανεξετάσει τα όρια της χρήσης των μοντέλων της, σε μια εποχή όπου το Surveillance έχει γίνει το πιο ευαίσθητο θέμα της ηθικής της Τεχνητής Νοημοσύνης.

Το κείμενο που πρότεινε ο Altman στοχεύει να ξεκαθαρίσει ότι η τεχνολογία της εταιρείας δεν θα χρησιμοποιηθεί για μαζική εσωτερική επιτήρηση, θέτοντας περιορισμούς που έχουν ως σκοπό να κατευνάσουν τις ανησυχίες περί Surveillance. Ωστόσο, η διατύπωση παραμένει αντικείμενο έντονης κριτικής. Η συμπερίληψη της φράσης «σύμφωνα με τις ισχύουσες νομοθεσίες» (consistent with applicable laws) κρίνεται από πολλούς νομικούς αναλυτές ως μια ασαφής ρήτρα, η οποία δεν προσφέρει ουσιαστικές εγγυήσεις. Σε ένα νομικό πλαίσιο όπου υπάρχουν διατάγματα που επιτρέπουν την παρακολούθηση επικοινωνιών υπό συγκεκριμένες συνθήκες, η φράση αυτή αφήνει ανοιχτό το ενδεχόμενο για πρακτικές που προσομοιάζουν στο Surveillance, παρά τις καλές προθέσεις που διακηρύσσει η εταιρεία.

Παράλληλα με την προσπάθεια να «διορθώσει» το δικό του συμβόλαιο, ο Altman προέβη σε μια απρόσμενη κίνηση, υπερασπιζόμενος την Anthropic. Σε μια εποχή έντονου ανταγωνισμού, ο CEO της OpenAI υποστήριξε ότι η Anthropic δεν θα έπρεπε να χαρακτηριστεί ως «κίνδυνος για την εφοδιαστική αλυσίδα», μια κίνηση που ερμηνεύεται ως προσπάθεια για να αποφευχθεί ο κατακερματισμός της βιομηχανίας. Ο Altman φαίνεται να ανησυχεί ότι η κυβερνητική παρέμβαση και ο αποκλεισμός εταιρειών AI μπορεί να δημιουργήσει ένα προηγούμενο που θα βλάψει ολόκληρο τον κλάδο, εκθέτοντας τον σε ρυθμιστικούς κινδύνους που ξεπερνούν τα όρια του Surveillance και αγγίζουν την ίδια την επιβίωση των μεγάλων εργαστηρίων AI.

📍 Η εξέλιξη της είδησης: OPENAI

Το κρίσιμο ερώτημα που προκύπτει είναι γιατί η OpenAI επιδιώκει με τόση επιμονή τη συμφωνία αυτή, παρά το πολιτικό κόστος. Η απάντηση κρύβεται στην ανάγκη για νομιμοποίηση. Το Πεντάγωνο αποτελεί τον μεγαλύτερο αγοραστή τεχνολογίας παγκοσμίως, και η πρόσβαση στα δεδομένα και στις υποδομές του είναι απαραίτητη για την εκπαίδευση μοντέλων που θα ανταποκρίνονται σε πολύπλοκα σενάρια εθνικής ασφάλειας. Όμως, η σύγκρουση είναι αναπόφευκτη. Η δημόσια κριτική εστιάζει στο γεγονός ότι το Surveillance δεν είναι απλώς μια τεχνική δυνατότητα, αλλά μια ηθική απόφαση. Οι επικριτές υποστηρίζουν ότι μόλις μια τεχνολογία διατεθεί σε αμυντικά συστήματα, ο έλεγχος που διατηρεί ο δημιουργός της είναι μάλλον θεωρητικός παρά πρακτικός.

Η αμυντική στρατηγική της OpenAI βασίζεται στο επιχείρημα ότι η αρχιτεκτονική ανάπτυξης —μέσω cloud API— προστατεύει το μοντέλο από άμεση ενσωμάτωση σε οπλικά συστήματα. Ωστόσο, στην ανάλυση για το Surveillance, αυτό το επιχείρημα δείχνει να χωλαίνει. Οι αναλυτές επισημαίνουν ότι το cloud API μπορεί κάλλιστα να τροφοδοτήσει συστήματα ανάλυσης δεδομένων που, στο τέλος της ημέρας, εξυπηρετούν σκοπούς επιτήρησης. Το Surveillance δεν απαιτεί κατ’ ανάγκη τον έλεγχο του οπλικού συστήματος, αλλά την ικανότητα να επεξεργάζεται τεράστιους όγκους δεδομένων για τον εντοπισμό και την παρακολούθηση στόχων, είτε αυτοί βρίσκονται σε εχθρικό έδαφος είτε εντός των εθνικών συνόρων.

Η δημόσια παραδοχή του Altman ότι η συμφωνία ήταν «βιαστική» αναδεικνύει την ένταση που υπάρχει μεταξύ των στελεχών των τεχνολογικών εταιρειών και των ομάδων που ασχολούνται με την ηθική και τη διακυβέρνηση της Τεχνητής Νοημοσύνης. Υπάρχει μια διαρκής προσπάθεια να πειστεί το κοινό ότι η OpenAI μπορεί να είναι ένας «υπεύθυνος εταίρος» του στρατού, χωρίς να υποχωρεί στις αρχές της. Όμως, το Surveillance παραμένει η “κόκκινη γραμμή” που η κοινή γνώμη δύσκολα αποδέχεται να ξεπεραστεί, ακόμη και για χάρη της εθνικής ασφάλειας.

Επιπλέον, η σύγκριση με την Anthropic, που κράτησε μια πιο σκληρή στάση, καθιστά τη θέση της OpenAI ακόμη πιο επισφαλή. Οι εργαζόμενοι και οι επενδυτές στον χώρο της Τεχνητής Νοημοσύνης παρακολουθούν στενά τις εξελίξεις. Οποιαδήποτε απόκλιση από τις αρχικές υποσχέσεις για «ασφαλή AI» θα έχει άμεσο αντίκτυπο στην αξιοπιστία της OpenAI. Ο Altman ποντάρει στο ότι αν η συμφωνία λειτουργήσει ως πρότυπο «αποκλιμάκωσης», τότε η κριτική θα υποχωρήσει και η εταιρεία θα αναγνωριστεί ως ο ηγέτης που κατάφερε να φέρει την AI στον αμυντικό τομέα με τρόπο ελεγχόμενο. Σε διαφορετική περίπτωση, το στίγμα του «βιαστικού και απρόσεκτου» συνεργάτη σε θέματα Surveillance μπορεί να αποδειχθεί πολύ πιο δαπανηρό από ό,τι υπολογίζει σήμερα.

Η συζήτηση για το Surveillance στην AI δεν είναι πλέον υποθετική. Είναι μια καθημερινή πραγματικότητα που θα καθορίσει την ισορροπία δυνάμεων σε παγκόσμιο επίπεδο. Τα μεγάλα γλωσσικά μοντέλα, με την ικανότητά τους να συσχετίζουν πληροφορίες, να εντοπίζουν μοτίβα και να προβλέπουν συμπεριφορές, αποτελούν το απόλυτο εργαλείο για υπηρεσίες που στοχεύουν στην παρακολούθηση. Η ευθύνη που φέρουν οι δημιουργοί αυτών των μοντέλων είναι τεράστια, καθώς η γραμμή μεταξύ της «ανάλυσης για εθνική ασφάλεια» και του «καταχρηστικού Surveillance» είναι λεπτή, και ίσως, σε κάποιες περιπτώσεις, εντελώς ανύπαρκτη.

Ο Sam Altman φαίνεται να αντιλαμβάνεται ότι η φήμη του ως ο άνθρωπος που θα «σώσει» την ανθρωπότητα μέσω της Τεχνητής Νοημοσύνης διακυβεύεται από αυτή τη συνεργασία. Η προσπάθεια προσθήκης δύο προτάσεων στο συμβόλαιο είναι ένας συμβολικός τρόπος για να δηλώσει ότι η εταιρεία «ακούει», αλλά το ερώτημα παραμένει αν αυτές οι δύο προτάσεις είναι αρκετές για να κατευνάσουν τις ανησυχίες. Η ιστορία έχει δείξει ότι όταν πρόκειται για ζητήματα που αγγίζουν τα θεμελιώδη δικαιώματα και το Surveillance, οι πολίτες και οι ρυθμιστικές αρχές απαιτούν πολύ περισσότερα από υποσχέσεις και ασαφείς διατυπώσεις. Απαιτούν εγγυήσεις που δεν επιδέχονται ερμηνείας.