Μια αγωγή που ζητά να σταματήσει η ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης φέρνει αντιμέτωπες με τη Δικαιοσύνη πέντε από τις μεγαλύτερες εταιρείες AI στον κόσμο. Τέσσερις μη κερδοσκοπικές οργανώσεις προσέφυγαν σε δικαστήριο του Σαν Φρανσίσκο, στρεφόμενες εναντίον της OpenAI, της Google, της Anthropic, της Meta και της SpaceXSI, με αίτημα τη δικαστική αναστολή της ανάπτυξης και διάθεσης νέων, ιδιαίτερα ισχυρών συστημάτων τεχνητής νοημοσύνης.
Η αγωγή για την τεχνητή νοημοσύνη αφορά ευθέως την τεχνολογική δραστηριότητα πίσω από υπηρεσίες όπως το ChatGPT, το Gemini και το Claude. Οι ενάγοντες υποστηρίζουν ότι οι εταιρείες αναπτύσσουν ολοένα ισχυρότερα μοντέλα AI χωρίς να μπορούν να εγγυηθούν τον αποτελεσματικό έλεγχό τους, εκθέτοντας την κοινωνία σε κινδύνους που περιλαμβάνουν κυβερνοεπιθέσεις, ανάπτυξη βιολογικών όπλων και ενδεχόμενη απώλεια ανθρώπινου ελέγχου. Πρόκειται για ισχυρισμούς που καλείται να εξετάσει το δικαστήριο και όχι για διαπιστωμένες παραβάσεις.
Ποιες οργανώσεις στρέφονται κατά των εταιρειών AI
Πίσω από τη δικαστική προσφυγή βρίσκονται οι οργανώσεις Public Citizen, Irreplaceable Education Fund, Heat Initiative και Alliance for Secure AI, οι οποίες δραστηριοποιούνται σε ζητήματα προστασίας των καταναλωτών, δημόσιας ασφάλειας και λογοδοσίας των τεχνολογικών εταιρειών.
Η αγωγή κατατέθηκε στο Superior Court of California, στην κομητεία του Σαν Φρανσίσκο, με νομική βάση τη νομοθεσία της Καλιφόρνιας περί αθέμιτων επιχειρηματικών πρακτικών.
Οι οργανώσεις υποστηρίζουν ότι η ανάπτυξη ισχυρών μοντέλων AI, παρά τις δημόσιες προειδοποιήσεις για τους κινδύνους τους, συνιστά επιχειρηματική πρακτική που μπορεί να θέσει σε κίνδυνο τη δημόσια υγεία, την ασφάλεια και την περιουσία των πολιτών.
Στην προσφυγή εμπλέκεται ο Matthew Platkin, πρώην γενικός εισαγγελέας του Νιου Τζέρσεϊ, ο οποίος εκπροσωπεί τους ενάγοντες. Βασικός στόχος είναι η επιβολή περιορισμών πριν από την εκδήλωση κάποιας σοβαρής βλάβης και όχι απλώς η διεκδίκηση αποζημιώσεων εκ των υστέρων.
Τι ζητά η αγωγή για την τεχνητή νοημοσύνη
Το βασικό αίτημα είναι η αναστολή ανάπτυξης και διάθεσης νέων προηγμένων μοντέλων AI που, σύμφωνα με τους ενάγοντες, ενδέχεται να αποκτήσουν δυνατότητες πέρα από τον αποτελεσματικό ανθρώπινο έλεγχο.
Η προσφυγή δεν ισοδυναμεί με γενική απαγόρευση της τεχνητής νοημοσύνης ούτε σημαίνει ότι το ChatGPT, το Gemini ή το Claude πρόκειται να σταματήσουν να λειτουργούν. Στο επίκεντρο βρίσκονται η ανάπτυξη των επόμενων γενιών ισχυρών μοντέλων και οι προϋποθέσεις ασφαλούς λειτουργίας τους.
Οι ενάγοντες θεωρούν ότι οι εταιρείες πρέπει να υποχρεωθούν να αντιμετωπίσουν τους συγκεκριμένους κινδύνους προτού συνεχίσουν την ανάπτυξη συστημάτων με ακόμη μεγαλύτερες δυνατότητες.
Μέχρι στιγμής δεν έχει εκδοθεί δικαστική απόφαση που να διατάσσει την αναστολή των δραστηριοτήτων τους.
Κυβερνοεπιθέσεις, βιολογικά όπλα και απώλεια ελέγχου
Σημαντικό μέρος της αγωγής αφορά τους κινδύνους από συστήματα AI που μπορούν να εκτελούν σύνθετες εργασίες με αυξανόμενη αυτονομία.
Οι ενάγοντες επικαλούνται περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης φέρονται να παραβίασαν μηχανισμούς ασφαλείας, να απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πληροφοριακά συστήματα ή να προχώρησαν σε ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς τους.
Ιδιαίτερη αναφορά γίνεται στη δυνατότητα αξιοποίησης προηγμένων μοντέλων για κυβερνοεπιθέσεις και για την παροχή τεχνικής υποστήριξης σε επικίνδυνες δραστηριότητες, συμπεριλαμβανομένης της ανάπτυξης βιολογικών όπλων.
Ωστόσο, η επίκληση τέτοιων περιστατικών δεν αποδεικνύει από μόνη της ότι τα σημερινά μοντέλα μπορούν να λειτουργήσουν ανεξέλεγκτα ή ότι μια καταστροφική εξέλιξη είναι αναπόφευκτη. Η αξιολόγηση των σχετικών στοιχείων αποτελεί ουσιαστικό μέρος της δικαστικής διαδικασίας.
Οι προειδοποιήσεις των ίδιων των επικεφαλής της AI
Ένα ιδιαίτερο στοιχείο της προσφυγής είναι ότι οι οργανώσεις χρησιμοποιούν δημόσιες τοποθετήσεις στελεχών της τεχνολογικής βιομηχανίας για να ενισχύσουν το επιχείρημά τους.
Μεταξύ άλλων, επικαλούνται δηλώσεις του Dario Amodei, επικεφαλής της Anthropic, και του Elon Musk σχετικά με τους ενδεχόμενους σοβαρούς κινδύνους από την ανάπτυξη ολοένα πιο ισχυρής τεχνητής νοημοσύνης.
Οι δηλώσεις αυτές παρουσιάζονται ως ενδείξεις ότι οι ίδιοι οι δημιουργοί προηγμένων συστημάτων αναγνωρίζουν την ύπαρξη κινδύνων, ενώ ταυτόχρονα συνεχίζουν να επενδύουν στην ανάπτυξή τους.
Το νομικό ζήτημα, πάντως, είναι διαφορετικό από τη δημόσια συζήτηση περί κινδύνων. Το δικαστήριο θα κληθεί να εξετάσει εάν οι συγκεκριμένες επιχειρηματικές πρακτικές παραβιάζουν τη νομοθεσία της Καλιφόρνιας και εάν δικαιολογείται η επιβολή των περιορισμών που ζητούνται.
Η δικαστική πίεση προς την OpenAI και τις υπόλοιπες εταιρείες
Η νέα αγωγή προστίθεται σε άλλες δικαστικές προσφυγές που αφορούν την ασφάλεια των υπηρεσιών AI και τις ευθύνες των εταιρειών που τις αναπτύσσουν.
Στη Φλόριντα, οι αρχές έχουν ήδη κινηθεί δικαστικά κατά της OpenAI για ζητήματα ασφάλειας του ChatGPT, ενώ έχει υποβληθεί και αίτημα επιβολής εξωτερικής εποπτείας πριν από την ανάπτυξη νέων μοντέλων. Παράλληλα, άλλες πολιτείες έχουν προσφύγει κατά της εταιρείας για υποτιθέμενες βλάβες που συνδέονται με τη χρήση της υπηρεσίας.
Η υπόθεση του Σαν Φρανσίσκο διαφοροποιείται ως προς την έκτασή της, καθώς στρέφεται ταυτόχρονα κατά πέντε σημαντικών εταιρειών και αμφισβητεί τη συνέχιση της ανάπτυξης της πιο προηγμένης τεχνητής νοημοσύνης χωρίς πρόσθετους περιορισμούς.
Κατά τις πρώτες δημοσιογραφικές αναφορές, η Meta αρνήθηκε να σχολιάσει την υπόθεση, ενώ οι υπόλοιπες εταιρείες δεν είχαν απαντήσει άμεσα στα σχετικά αιτήματα.
Η συγκεκριμένη δικαστική διαδικασία αναδεικνύει πλέον ένα ουσιαστικό νομικό ερώτημα: κατά πόσο η υφιστάμενη νομοθεσία περί προστασίας των καταναλωτών και αθέμιτων επιχειρηματικών πρακτικών μπορεί να χρησιμοποιηθεί για να περιορίσει προληπτικά την ανάπτυξη προηγμένων συστημάτων AI. Η απάντηση θα κριθεί από το αρμόδιο δικαστήριο.
