Ένα drone με χειρισμό αποκλειστικά την τεχνητή νοημοσύνη σκότωσε τρεις αμάχους στην Ουκρανία, επιλέγοντας μόνο του τον στόχο – και το γεγονός αυτό σηματοδοτεί ένα όριο που, όπως όλα δείχνουν, ξεπεράστηκε για πρώτη φορά. Το ρωσικό drone που πραγματοποίησε την επίθεση καθοδηγούνταν εξ ολοκλήρου από πειραματικό σύστημα τεχνητής νοημοσύνης και όχι από ανθρώπινο χειριστή, σύμφωνα με ειδικούς σε drones, Ουκρανούς στρατιωτικούς διοικητές και την ομάδα που εξέτασε τα συντρίμμια.
Συμφωνα με τους NYtimes, ένα μικρό ρωσικό drone, το οποίο ήταν σαν μικρό αεροπλάνο μοντελισμού, εμφανίστηκε τον περασμένο μήνα στον ουρανό της Ζαπορίζια. Καθώς προσπαθούσε να πλοηγηθεί προς ένα πρατήριο καυσίμων, προσέκρουσε σε τοίχο και εξερράγη, σκοτώνοντας μια 19χρονη φοιτήτρια και δύο ακόμη ανθρώπους.
Το κρίσιμο στοιχείο βρίσκεται στον τρόπο λειτουργίας του. Το drone είχε προγραμματιστεί από ανθρώπους ώστε να κατευθυνθεί προς συγκεκριμένο πρατήριο – μόλις, όμως, πλησίασε, επέλεξε μόνο του τον ακριβή στόχο, πιθανότατα δεξαμενές προπανίου, με βάση την εκπαίδευσή του στην αναγνώρισή τους.
Το chip που πρόδωσε την τεχνολογία
Η ανάλυση των συντριμμιών από αυτή και από άλλες επιθέσεις έδειξε ότι τα drones διέθεταν ενσωματωμένους μικροϋπολογιστές εμπορικής διάθεσης της Nvidia, οι οποίοι λάμβαναν τις αποφάσεις στόχευσης.
Η παρουσία των μονάδων αυτών, σε συνδυασμό με την απουσία κεραιών, οδήγησε τους Ουκρανούς διοικητές αεράμυνας στο συμπέρασμα ότι τα όπλα καθοδηγούνταν από αυτόνομο σύστημα – κάτι που επιβεβαιώθηκε από την περαιτέρω έρευνα. Καθώς το chip δεν ήταν κρυπτογραφημένο, οι αρχές μπόρεσαν να δουν τις εικόνες εδάφους που είχαν φορτωθεί, αλλά και τον κώδικα που αποκάλυπτε ποιους τύπους στόχων είχε εκπαιδευτεί να αναγνωρίζει το drone.
Τι αλλάζει σε σχέση με το παρελθόν
Τόσο η Ρωσία όσο και η Ουκρανία χρησιμοποιούσαν ήδη τεχνητή νοημοσύνη σε πολλαπλά μοντέλα drones. Στα προηγούμενα, ωστόσο, μοντέλα, η AI αξιοποιούνταν αποκλειστικά για το λεγόμενο «τελευταίο μίλι» – το τελικό δηλαδή στάδιο της επίθεσης, αφού ένας απομακρυσμένος ανθρώπινος χειριστής είχε ήδη επιλέξει τον στόχο.
Η πλήρως αυτόνομη λειτουργία αφαιρεί τον άνθρωπο από την τελική επιλογή στόχου. «Αυτό αποτελεί κίνδυνο για ολόκληρο τον κόσμο», δήλωσε ο διοικητής της αεράμυνας στη Ζαπορίζια. «Σε λίγα χρόνια θα ζούμε σε μια ταινία Terminator. Δεν είναι αστείο. Οι μηχανές παίρνουν αποφάσεις να χτυπήσουν».
Το πρόβλημα της απρόβλεπτης συμπεριφοράς
Τα αυτόνομα συστήματα εκπαιδεύονται σε χιλιάδες εικόνες ώστε να αναγνωρίζουν κατηγορίες όπως «ποτάμι», «στρατιωτικό φορτηγό» ή «άνθρωπος». Τα drones αυτοστόχευσης αξιοποιούν τις κάμερές τους για να τα εντοπίσουν με μεγαλύτερη ακρίβεια από έναν ανθρώπινο χειριστή.
Εδώ, όμως, βρίσκεται και η θεμελιώδης διαφορά. Ενώ το παραδοσιακό λογισμικό ακολουθεί βήμα προς βήμα κανόνες γραμμένους από άνθρωπο, ένα σύστημα AI εξάγει τους δικούς του κανόνες εντοπίζοντας μοτίβα σε τεράστιους όγκους δεδομένων. Αυτό του επιτρέπει να διαχειρίζεται απρόβλεπτες καταστάσεις – σημαίνει, ταυτόχρονα, ότι κανείς δεν μπορεί να προβλέψει πλήρως τι ενδέχεται να κάνει.
Η διεθνής αντιπαράθεση
Οργανώσεις ανθρωπίνων δικαιωμάτων και ο Διεθνής Ερυθρός Σταυρός αντιτίθενται σθεναρά στη χρήση όπλων τεχνητής νοημοσύνης χωρίς ανθρώπινη εμπλοκή, υποστηρίζοντας ότι τα αυτόνομα συστήματα αφήνουν ουσιαστικά σε ρομπότ την ερμηνεία του διεθνούς δικαίου.
Ορισμένοι ειδικοί, ωστόσο, υποστηρίζουν το αντίθετο: ότι στο μέλλον τα όπλα θα έπρεπε να διαθέτουν υποχρεωτικά συστήματα AI. Το επιχείρημα είναι ότι τέτοια όπλα είναι ασφαλέστερα, καθώς μπορούν να λάβουν αποφάσεις πριν από το χτύπημα – σε αντίθεση με τις μη καθοδηγούμενες βόμβες ή τα συμβατικά βλήματα πυροβολικού, τα οποία απλώς πέφτουν χωρίς να βλέπουν τι θα πλήξουν. Η περίπτωση της Ζαπορίζια δείχνει, πάντως, ότι η συζήτηση αυτή έχει πάψει να είναι θεωρητική.
