Η xAI, η εταιρεία τεχνητής νοημοσύνης του Elon Musk, προχωρά σε μια πρωτοφανή νομική κίνηση: μηνύει έναν άνδρα από τη Νότια Καρολίνα, ο οποίος φέρεται να χρησιμοποίησε το chatbot Grok για τη δημιουργία υλικού σεξουαλικής κακοποίησης ανηλίκων (CSAM). Πρόκειται για την πρώτη φορά που η xAI στρέφεται δικαστικά εναντίον χρήστη για deepfakes που δημιουργήθηκαν με το Grok — μια υπόθεση που αναμένεται να αποτελέσει σημείο αναφοράς για την ευθύνη χρηστών και εταιρειών στην εποχή του generative AI.
Οι κατηγορίες της αγωγής
Σύμφωνα με την αγωγή, η xAI υποστηρίζει ότι ο Terry Wayne Harwood «εν γνώσει του και σκόπιμα χρησιμοποίησε το Grok για να παρακάμψει τις δικλείδες ασφαλείας, να αλλοιώσει μη συναινετικές εικόνες και να δημιουργήσει και να διανείμει CSAM», παραβιάζοντας τις πολιτικές της εταιρείας.
Ο Harwood είχε συλληφθεί τον Φεβρουάριο για κατοχή και διανομή υλικού σεξουαλικής κακοποίησης ανηλίκων και αντιμετωπίζει οκτώ κακουργηματικές κατηγορίες. Η αγωγή αναφέρει ότι «τουλάχιστον ορισμένες» από τις εικόνες που σχετίζονται με τις ποινικές κατηγορίες «δημιουργήθηκαν ή αλλοιώθηκαν» με το Grok, καθώς και ότι ο κατηγορούμενος παρέκαμψε τις δικλείδες ασφαλείας του εργαλείου, μετατρέποντας μη σεξουαλικές φωτογραφίες σε σεξουαλικά ρητό περιεχόμενο χωρίς τη συναίνεση των εικονιζόμενων.
Το προβληματικό ιστορικό του Grok
Η υπόθεση δεν προέκυψε σε ουδέτερο έδαφος. Μετά το λανσάρισμα του λεγόμενου «spicy» mode για το Grok πέρυσι, η xAI πρόσθεσε τη δυνατότητα επεξεργασίας εικόνων μέσω του chatbot — μια εξέλιξη που οδήγησε σε κύμα σεξουαλικοποιημένων AI deepfakes, συμπεριλαμβανομένων εικόνων με ανηλίκους.
Το ζήτημα είχε ήδη λάβει δικαστικές διαστάσεις: τον Μάρτιο, ομάδα εφήβων μήνυσε την xAI, υποστηρίζοντας ότι το Grok δημιούργησε σεξουαλικοποιημένες εικόνες τους ως ανηλίκων. Ο Musk είχε απαντήσει τότε δηλώνοντας ότι «όποιος χρησιμοποιεί το Grok για να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανέβαζε παράνομο περιεχόμενο». Η τωρινή αγωγή αποτελεί την πρώτη έμπρακτη υλοποίηση εκείνης της προειδοποίησης.
Τι ζητά η xAI από το δικαστήριο
Η εταιρεία υποστηρίζει ότι οι φερόμενες ενέργειες του Harwood την εξέθεσαν σε «σημαντικό νομικό κίνδυνο και ζημία στη φήμη της». Ζητά από το δικαστήριο να υποχρεώσει τον κατηγορούμενο να την αποζημιώσει για κάθε ζημία, καθώς και για τα «εύλογα έξοδα υπεράσπισής της σε οποιαδήποτε νομική ενέργεια κινηθεί από θύμα της συμπεριφοράς του εναγομένου» — μια διατύπωση που φανερώνει ότι η xAI προετοιμάζεται και για το ενδεχόμενο αγωγών εναντίον της από τα ίδια τα θύματα.
Μια υπόθεση με ευρύτερες προεκτάσεις
Η στρατηγική της xAI εγείρει ερωτήματα που ξεπερνούν τη συγκεκριμένη υπόθεση. Από τη μία πλευρά, η εταιρεία επιχειρεί να στείλει ένα σαφές αποτρεπτικό μήνυμα: η κατάχρηση των εργαλείων της θα έχει κόστος για τον χρήστη. Από την άλλη, οι επικριτές της επισημαίνουν ότι η ίδια διαμόρφωσε ένα προϊόν με χαλαρότερες δικλείδες ασφαλείας σε σχέση με τον ανταγωνισμό — γεγονός που, όπως δείχνουν και οι προηγούμενες αγωγές εναντίον της, διευκόλυνε τη μαζική παραγωγή προβληματικού περιεχομένου.
Το ερώτημα που θα κληθούν να απαντήσουν τα δικαστήρια, αλλά και ολόκληρη η βιομηχανία της τεχνητής νοημοσύνης, είναι πού ακριβώς σταματά η ευθύνη του χρήστη και πού ξεκινά εκείνη της πλατφόρμας. Η έκβαση της υπόθεσης Harwood ενδέχεται να διαμορφώσει νομικό προηγούμενο για τον τρόπο με τον οποίο οι εταιρείες AI θα διαχειρίζονται στο εξής την κατάχρηση των εργαλείων τους — καθώς και για το αν οι αγωγές κατά χρηστών θα εξελιχθούν σε καθιερωμένη αμυντική πρακτική του κλάδου.
