Η συζήτηση γύρω από τα φονικά αυτόνομα οπλικά συστήματα έχει πάψει προ πολλού να αποτελεί ένα θεωρητικό σενάριο επιστημονικής φαντασίας ή μια απλή άσκηση επί χάρτου σε ακαδημαϊκά συνέδρια.
Η πραγματικότητα των σύγχρονων στρατιωτικών επιχειρήσεων αποδεικνύει ότι το μέλλον του αυτοματοποιημένου πολέμου είναι ήδη εδώ, με τη λεπτή γραμμή ανάμεσα στην ανθρώπινη απόφαση και την αλγοριθμική εκτέλεση να γίνεται ολοένα και πιο δυσδιάκριτη.
Η πρόσφατη και έντονη δημόσια αντιπαράθεση ανάμεσα στην εταιρεία Anthropic και το αμερικανικό Πεντάγωνο έφερε ξανά στο προσκήνιο τους τεράστιους κινδύνους που εγκυμονεί η ανεξέλεγκτη χρήση της τεχνητής νοημοσύνης στις ένοπλες συγκρούσεις, αναδεικνύοντας παράλληλα το πόσο κοντά βρισκόμαστε στην πλήρη αυτονόμηση των οπλικών συστημάτων.
Η ιστορική μεταστροφή στις διεθνείς συναντήσεις του ΟΗΕ
Οι διεθνείς ισορροπίες άρχισαν να αλλάζουν δραματικά κατά τη διάρκεια των τακτικών συνεδριάσεων της Σύμβασης για Ορισμένα Συμβατικά Όπλα (CCW) των Ηνωμένων Εθνών στη Γενεύη, ενός θεσμού που συγκαλείται δύο φορές τον χρόνο με αποκλειστικό αντικείμενο τα θανατηφόρα αυτόνομα συστήματα.
Ενώ για πολλά χρόνια οι αντιπροσωπείες αναλώνονταν σε υποθετικά σενάρια και εικασίες για έναν κόσμο όπου ο πόλεμος θα διεξαγόταν από ρομπότ-δολοφόνους, η τροπή που πήραν οι συζητήσεις στα τέλη του 2017 κατέστησε σαφές ότι η τεχνολογία αυτή είχε ήδη αναπτυχθεί και βρισκόταν στα πρόθυρα της επίσημης ανάπτυξής της.
Η προβολή μιας ταινίας μικρού μήκους με τίτλο Slaughterbots, λειτούργησε ως ένα σοκαριστικό καμπανάκι για τους παρευρισκόμενους.
Το βίντεο παρουσίαζε μια υποθετική αμυντική βιομηχανία που διαφήμιζε ένα μικροσκοπικό, έξυπνο drone ικανό να εντοπίζει και να εξουδετερώνει στόχους εντελώς αυτόνομα, χωρίς καμία ανθρώπινη παρέμβαση, βασιζόμενο αποκλειστικά σε αλγορίθμους αναγνώρισης προσώπου.
Η κυνική διαπίστωση ότι τα όπλα που παίρνουν μόνα τους αποφάσεις δεν επηρεάζονται από συναισθήματα, δεν παρακούν εντολές και δεν αστοχούν, δημιούργησε ένα βαρύ κλίμα ανησυχίας στην αίθουσα. Ο μεγαλύτερος φόβος των αναλυτών δεν ήταν το ίδιο το σενάριο της ταινίας, αλλά η συνειδητοποίηση ότι οι μεγάλες στρατιωτικές δυνάμεις εργάζονταν ήδη πάνω σε παρόμοιες τεχνολογίες.
Το Project Maven και η εμπλοκή της βιομηχανίας του tech
Η συγκεκριμένη χρονική περίοδος συνέπεσε με την έναρξη του Project Maven, μιας πρωτοβουλίας του Υπουργείου Άμυνας των Ηνωμένων Πολιτειών που είχε ως στόχο τη χρήση προηγμένης τεχνητής νοημοσύνης για την αυτόματη ανάλυση του τεράστιου όγκου δεδομένων και βίντεο που καταγράφουν καθημερινά τα στρατιωτικά drones.
Πολύ γρήγορα, το εγχείρημα αυτό εξασφάλισε τη συνεργασία κορυφαίων εταιρειών τεχνολογίας, με τη Google να διαδραματίζει αρχικά κεντρικό ρόλο στην ανάπτυξη των σχετικών αλγορίθμων.
Όπως επισημαίνουν ερευνητές από ανεξάρτητα ινστιτούτα, τα συστήματα για τα οποία γινόταν λόγος δεν ανήκαν σε ένα μακρινό μέλλον, αλλά ήταν ήδη λειτουργικά. Η χρήση της μηχανικής μάθησης για την κατηγοριοποίηση αντικειμένων και τον εντοπισμό ανθρώπινων στόχων αποτέλεσε το πρώτο, καθοριστικό βήμα για τη μεταφορά της AI από τα εργαστήρια έρευνας στα σύγχρονα πεδία των μαχών, πυροδοτώντας παράλληλα ένα κύμα εσωτερικών αντιδράσεων από τους ίδιους τους μηχανικούς λογισμικού της Silicon Valley.
Η κλιμάκωση της κρατικής χρηματοδότησης και η στάση των κολοσσών
Η εξέλιξη των στρατιωτικών προγραμμάτων δεν σταμάτησε στις πρώιμες δοκιμές ανάλυσης εικόνας, αλλά μετατράπηκε σε μια επιθετική κούρσα εξοπλισμών για την απόκτηση μοντέλων τεχνητής νοημοσύνης επόμενης γενιάς (frontier AI).
Το αμερικανικό Πεντάγωνο, αναγνωρίζοντας την ανάγκη για άμεση ενσωμάτωση αυτών των συστημάτων στις καθημερινές επιχειρήσεις, προχώρησε στη σύναψη νέων, διευρυμένων συμβολαίων με ηγετικές δυνάμεις του χώρου, όπως η Google, η OpenAI, η Microsoft και η Amazon AI. Οι συμφωνίες αυτές, πολλές από τις οποίες καλύπτονται από καθεστώς απόλυτης μυστικότητας, στοχεύουν στη δημιουργία εξελιγμένων δικτύων που βοηθούν στη λήψη στρατηγικών αποφάσεων σε πραγματικό χρόνο, στη διαχείριση classified πληροφοριών και στη βελτιστοποίηση των αυτόνομων πτήσεων.
Αυτή η έντονη στρατιωτικοποίηση της τεχνολογίας προκάλεσε σοβαρούς τριγμούς στο εσωτερικό των ίδιων των εταιρειών ανάπτυξης, φέρνοντας στην επιφάνεια βαθιές ιδεολογικές συγκρούσεις. Η Anthropic, ακολουθώντας μια αυστηρή εσωτερική πολιτική γύρω από την ασφάλεια και τους περιορισμούς των αυτόνομων οπλικών συστημάτων, επέλεξε να αποστασιοποιηθεί πλήρως από τις κυβερνητικές διεκδικήσεις.
Η απόφαση αυτή της στοίχισε άμεσες κυρώσεις και αποκλεισμούς από τις κρατικές δομές, υπογραμμίζοντας το γεγονός ότι οι εταιρείες που αρνούνται να ευθυγραμμιστούν με τις αμυντικές ανάγκες των κρατών αντιμετωπίζουν σοβαρό οικονομικό και πολιτικό κόστος. Αντίθετα, η OpenAI έσπευσε να καλύψει το κενό υπογράφοντας νέες συμφωνίες, μια κίνηση που πυροδότησε έντονες αντιδράσεις από τη βάση των χρηστών της και οδήγησε σε μαζικά κύματα απεγκατάστασης των καταναλωτικών της εφαρμογών παγκοσμίως.
Η γεωπολιτική σκακιέρα και η διεθνής ανησυχία
Οι επιπτώσεις αυτής της μετάβασης εκτείνονται πολύ πέρα από τα σύνορα των Ηνωμένων Πολιτειών, επηρεάζοντας άμεσα την παγκόσμια γεωπολιτική σκακιέρα. Η ενσωμάτωση αλγορίθμων στα πεδία των μαχών καθιστά τις πολεμικές συρράξεις ασύγκριτα ταχύτερες, μειώνοντας δραματικά τον διαθέσιμο χρόνο που έχουν οι ανθρώπινοι διοικητές για να αξιολογήσουν μια κατάσταση και να αποτρέψουν μια μοιραία κλιμάκωση. Όταν οι αποφάσεις ζωής και θανάτου μεταφέρονται σε ψηφιακά μοντέλα που λειτουργούν με βάση στατιστικές πιθανότητες, η πιθανότητα ενός τραγικού λάθους αυξάνεται κατακόρυφα, καθώς οι μηχανές στερούνται ενσυναίσθησης και ηθικής κρίσης.
Αυτή η ζοφερή πραγματικότητα προκάλεσε ακόμη και την επίσημη αντίδραση ανώτατων πνευματικών ηγετών. Μέσα από την πρόσφατη εγκύκλιό του με τίτλο Magnifica humanitas, ο Πάπας Λέων ΙΔ’ εξέφρασε την πλήρη αντίθεσή του στην αυτοματοποίηση του πολέμου. Ο Ποντίφικας προειδοποίησε ότι η χρήση της τεχνητής νοημοσύνης στις στρατιωτικές επιχειρήσεις αφαιρεί το έσχατο ανθρώπινο φρένο που συγκρατεί τη βιαιότητα των συγκρούσεων, καθιστώντας την καταστροφή μια απλή, απρόσωπη διαδικασία.
Το Βατικανό απηύθυνε έκκληση για τον άμεσο αφοπλισμό αυτών των συστημάτων, τονίζοντας ότι η αληθινή πρόοδος της ανθρωπότητας δεν μπορεί να μετριέται με την αποτελεσματικότητα των φονικών αλγορίθμων. Καθώς οι κυβερνήσεις συνεχίζουν να επενδύουν δισεκατομμύρια στην αυτόνομη τεχνολογία, η ανάγκη για ένα δεσμευτικό διεθνές δίκαιο που θα απαγορεύει στα όπλα να παίρνουν μόνα τους την απόφαση για την αφαίρεση μιας ανθρώπινης ζωής παραμένει το πιο κρίσιμο στοίχημα της σύγχρονης εποχής.
