Χωρίς συμφωνία στον ΟΗΕ για τα «ρομπότ δολοφόνους» – Η AI αλλάζει τους κανόνες του πολέμου

Χωρίς συμφωνία για δεσμευτικούς κανόνες στη χρήση αυτόνομων οπλικών συστημάτων ολοκληρώθηκαν οι διαπραγματεύσεις του ΟΗΕ στη Γενεύη, αφήνοντας ανοιχτό ένα από τα σοβαρότερα ζητήματα που δημιουργεί η τεχνητή νοημοσύνη στη σύγχρονη πολεμική τεχνολογία.

Παρά τις εκκλήσεις για άμεση διεθνή ρύθμιση των λεγόμενων «ρομπότ-δολοφόνων», οι κυβερνήσεις περιορίστηκαν σε μια διετή διαδικασία επεξεργασίας πιθανών κανόνων, χωρίς να δεσμευτούν ότι αυτοί θα έχουν υποχρεωτική νομική ισχύ.

Η απόφαση προέκυψε τις πρώτες πρωινές ώρες του Σαββάτου 21 Νοεμβρίου, έπειτα από πέντε ημέρες διαπραγματεύσεων και έντονες διαφωνίες μεταξύ των κρατών. Η Ρωσία, οι Ηνωμένες Πολιτείες και το Ισραήλ βρέθηκαν μεταξύ των χωρών που αντιτάχθηκαν στην άμεση προώθηση μιας δεσμευτικής διεθνούς συμφωνίας.

Το αποτέλεσμα προκάλεσε απογοήτευση σε ανθρωπιστικές οργανώσεις, οι οποίες προειδοποιούν ότι η ανάπτυξη στρατιωτικών συστημάτων τεχνητής νοημοσύνης προχωρά ταχύτερα από τη δυνατότητα της διεθνούς κοινότητας να καθορίσει τους κανόνες χρήσης τους.

Τι αποφασίστηκε στη Γενεύη

Η τεχνητή νοημοσύνη στα πεδία των μαχών και τα αυτόνομα όπλα

Οι συνομιλίες πραγματοποιήθηκαν από τις 16 έως τις 20 Νοεμβρίου, στο πλαίσιο της έβδομης Διάσκεψης Αναθεώρησης της Σύμβασης για Ορισμένα Συμβατικά Όπλα (CCW), στην οποία συμμετέχουν 128 συμβαλλόμενα μέρη.

Αντί να ξεκινήσουν άμεσα διαπραγματεύσεις για μια διεθνή συνθήκη, οι εκπρόσωποι συμφώνησαν να αναθέσουν σε ομάδα κυβερνητικών εμπειρογνωμόνων την εκπόνηση ενός κειμένου που θα εξετάζει την εφαρμογή του διεθνούς ανθρωπιστικού δικαίου στα αυτόνομα οπλικά συστήματα.

Η διαδικασία θα συνεχιστεί το 2027 και το 2028, οπότε αναμένεται να διατυπωθεί σύσταση για τη νομική μορφή του τελικού κειμένου. Παραμένει επομένως ανοιχτό αν θα πρόκειται για δεσμευτική συνθήκη ή για προαιρετικές κατευθυντήριες γραμμές.

Πότε ένα όπλο αποφασίζει μόνο του να σκοτώσει;

Τα αυτόνομα οπλικά συστήματα μπορούν, μετά την ενεργοποίησή τους, να επιλέγουν και να προσβάλλουν στόχους χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε επιμέρους απόφαση.

Δεν χρησιμοποιούν απαραίτητα όλα τεχνητή νοημοσύνη. Ωστόσο, η ενσωμάτωση προηγμένων αλγορίθμων αναγνώρισης αντικειμένων, ανάλυσης εικόνας και επεξεργασίας δεδομένων μπορεί να αυξήσει σημαντικά την αυτονομία τους.

Το κρισιμότερο ζήτημα αφορά τον έλεγχο που εξακολουθεί να ασκεί ο άνθρωπος. Ένα drone που εντοπίζει έναν πιθανό στόχο και ζητά έγκριση πριν επιτεθεί διαφέρει ουσιαστικά από ένα σύστημα που αποφασίζει αυτόνομα ποιον θα πλήξει.

Η διάκριση αποκτά ιδιαίτερη σημασία στα σύγχρονα πεδία μάχης. Στην Ουκρανία, στη Γάζα και στο Σουδάν, η χρήση drones και συστημάτων υποβοηθούμενης στόχευσης έχει μεταβάλει τις στρατιωτικές επιχειρήσεις, προκαλώντας παράλληλα σοβαρές ανησυχίες για την προστασία των αμάχων.

Η χρήση τέτοιων τεχνολογιών, πάντως, δεν σημαίνει ότι όλα τα συγκεκριμένα όπλα αποφασίζουν αυτόνομα για την εκτέλεση θανατηφόρων επιθέσεων.

Ο ρόλος της Ρωσίας και των ΗΠΑ

Η επίτευξη συμφωνίας στη Γενεύη ήταν εξαρχής δύσκολη, καθώς οι αποφάσεις στο πλαίσιο της συγκεκριμένης Σύμβασης απαιτούν συναίνεση.

Η Ρωσία καθυστέρησε τις εργασίες ήδη από την πρώτη ημέρα, εγείροντας ενστάσεις σχετικά με την ημερήσια διάταξη και τη συμμετοχή παρατηρητών. Οι διαφωνίες εμπόδισαν ακόμη και την ολοκλήρωση της προβλεπόμενης αναθεώρησης της Σύμβασης.

Οι Ηνωμένες Πολιτείες πρότειναν αρχικά μια πενταετή διαδικασία συζητήσεων για μη δεσμευτικές κατευθυντήριες γραμμές, ενώ επιφυλάξεις για την υιοθέτηση υποχρεωτικών ρυθμίσεων διατύπωσε και το Ισραήλ.

Αντίθετα, περισσότερα από 100 κράτη υποστήριξαν την προώθηση μιας νέας διεθνούς συμφωνίας. Η δυνατότητα ενός μικρού αριθμού χωρών να εμποδίζει την επίτευξη συναίνεσης αποδείχθηκε καθοριστική για την τελική έκβαση.

Η στρατιωτική AI προχωρά, οι διαπραγματεύσεις συνεχίζονται

Η ύπατη εκπρόσωπος του ΟΗΕ για θέματα αφοπλισμού, Izumi Nakamitsu, αναγνώρισε τις αδυναμίες της συμφωνίας, υποστηρίζοντας ωστόσο ότι η διετής εντολή διατηρεί ανοιχτή την προοπτική μιας νομικά δεσμευτικής συνθήκης.

Για τις ανθρωπιστικές οργανώσεις, ο χρόνος είναι καθοριστικός. Η ανάπτυξη και διάδοση αυτόνομων συστημάτων γίνεται ταχύτερα και οικονομικότερα, ενώ η τεχνολογική τους πολυπλοκότητα αυξάνεται.

Η διεθνής κοινότητα έχει ήδη αφιερώσει περισσότερο από μία δεκαετία στη συζήτηση για τον έλεγχο αυτών των όπλων. Με την απόφαση της Γενεύης, μεταθέτει για το 2028 ακόμη και την επιλογή του κατάλληλου νομικού πλαισίου, χωρίς εγγύηση ότι τότε θα υπάρξει συμφωνία.