Η τεχνητή νοημοσύνη παραλίγο να πυροδοτήσει διπλωματικό επεισόδιο ανάμεσα στις ΗΠΑ και την Κίνα, όταν αμερικανικές δυνάμεις ετοιμάστηκαν να αναχαιτίσουν κινεζικό πλοίο στη Μέση Ανατολή βάσει αναφοράς που αποδείχθηκε κατασκευασμένη από chatbot. Σύμφωνα με την αποκάυψη τυυ CNN το περιστατικό σημειώθηκε την άνοιξη και έγινε γνωστό μόλις τώρα.
Η αναφορά υποστήριζε ότι το πλοίο μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων. Αεροσκάφη είχαν ήδη απογειωθεί και ένοπλο προσωπικό ήταν έτοιμο για επιβίβαση, όταν αξιωματούχοι αποφάσισαν να εξετάσουν το έγγραφο σε βάθος. Τότε διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης και ότι το εργαλείο είχε αναγνωρίσει λανθασμένα το φορτίο – η πληροφορία ήταν εξ ολοκλήρου ψευδής.
Ο έλεγχος που έγινε την τελευταία στιγμή
Το κρίσιμο σημείο της υπόθεσης δεν είναι το σφάλμα αλλά η στιγμή κατά την οποία εντοπίστηκε.
Η αναφορά είχε συνταχθεί από αναλυτή διοίκησης ειδικών επιχειρήσεων, είχε περάσει από την ιεραρχία και είχε φτάσει μέχρι το στάδιο της επιχειρησιακής προετοιμασίας χωρίς κανείς να αμφισβητήσει την προέλευσή της. Η διασταύρωση έγινε ελάχιστα πριν από την εκτέλεση, ουσιαστικά κατά τύχη.
Οι συνέπειες μιας αναχαίτισης δεν θα ήταν τοπικές. Η ένοπλη επιβίβαση σε κινεζικό πλοίο αποτελεί ενέργεια με άμεσο διεθνή αντίκτυπο, σε μια περίοδο όπου οι σχέσεις των δύο χωρών παραμένουν ούτως ή άλλως τεταμένες.
Το δεύτερο περιστατικό αλλάζει την εικόνα
Αν η υπόθεση ήταν μεμονωμένη, θα μπορούσε να αποδοθεί σε ανθρώπινη αμέλεια. Δεν είναι.
Έρευνα του αμερικανικού υπουργείου Άμυνας για τη θανατηφόρα επίθεση με πύραυλο σε ιρανικό σχολείο στις 28 Φεβρουαρίου εντόπισε σειρά αστοχιών, ανάμεσα στις οποίες περιλαμβάνεται ρητά η υπερβολική εξάρτηση από τεχνολογία τεχνητής νοημοσύνης.
Ο συνδυασμός των δύο υποθέσεων μετατρέπει το ζήτημα από ατύχημα σε δομικό πρόβλημα. Στη μία περίπτωση η επαλήθευση ήρθε εγκαίρως. Στην άλλη, όπως δείχνει το πόρισμα, δεν ήρθε ποτέ.
Γιατί τα λάθη αυτά περνούν απαρατήρητα
Η εξήγηση βρίσκεται στη φύση των ίδιων των εργαλείων και όχι σε κακόβουλη χρήση τους. Τα γλωσσικά μοντέλα παράγουν κείμενο που ακούγεται εύλογο, χωρίς εγγύηση αντιστοίχισης με την πραγματικότητα.
Υπάρχει ωστόσο και μια δεύτερη διάσταση, σαφώς λιγότερο προφανής. Ένας άνθρωπος αναλυτής σηματοδοτεί με τη γλώσσα του τον βαθμό βεβαιότητάς του – γράφει ότι κάτι είναι πιθανό, ενδεχόμενο ή αβέβαιο. Το κείμενο που παράγει μηχανή διατηρεί το ίδιο ύφος αυτοπεποίθησης είτε στηρίζεται σε τεκμηριωμένα δεδομένα είτε σε επινόηση. Ο αναγνώστης χάνει έτσι το βασικότερο εργαλείο αξιολόγησης που διαθέτει.
Το πραγματικό πρόβλημα είναι η μη δήλωση
Εδώ βρίσκεται η ουσία, και αξίζει να διατυπωθεί καθαρά: το ζήτημα δεν είναι η χρήση τεχνητής νοημοσύνης σε αναλύσεις πληροφοριών, αλλά η απουσία δήλωσης αυτής της χρήσης.
Όταν ένα έγγραφο δεν αποκαλύπτει πώς παρήχθη, καταρρέει ολόκληρη η αλυσίδα επαλήθευσης. Οι ανώτεροι που το αξιολογούν εφαρμόζουν τα κριτήρια που συνοδεύουν την ανθρώπινη εργασία, αγνοώντας ότι απαιτείται εντελώς διαφορετικός έλεγχος. Η πληροφορία ταξιδεύει προς τα πάνω αποκτώντας κύρος που ουδέποτε δικαιούνταν.
Η ίδια λογική ισχύει σε κάθε οργανισμό. Ένα νομικό υπόμνημα, μια ιατρική γνωμάτευση ή μια οικονομική ανάλυση που ενσωματώνει περιεχόμενο μηχανής χωρίς να το δηλώνει δημιουργεί ακριβώς το ίδιο πρόβλημα – με μικρότερες μόνο συνέπειες.
Το κενό που αφορά και την Ελλάδα
Για τον ευρωπαϊκό χώρο υπάρχει μια παράμετρος που σπάνια συζητείται. Ο Κανονισμός για την Τεχνητή Νοημοσύνη, το αυστηρότερο πλαίσιο παγκοσμίως, εξαιρεί ρητά τις στρατιωτικές και αμυντικές εφαρμογές από το πεδίο εφαρμογής του, αφήνοντας τη ρύθμιση στη διακριτική ευχέρεια κάθε κράτους μέλους.
Το κενό αυτό αποκτά συγκεκριμένο νόημα υπό το φως των δύο περιστατικών. Στον τομέα όπου το σφάλμα κοστίζει περισσότερο, η εποπτεία είναι η λιγότερο θεσμοθετημένη. Οι ευρωπαϊκοί στρατοί, συμπεριλαμβανομένου του ελληνικού, ενσωματώνουν ήδη τέτοια εργαλεία σε λειτουργίες ανάλυσης δεδομένων και επεξεργασίας πληροφοριών.
Το πρακτικό συμπέρασμα είναι απλό και ξεπερνά το στρατιωτικό πεδίο. Κάθε οργανισμός που εντάσσει την τεχνητή νοημοσύνη σε διαδικασίες λήψης αποφάσεων χρειάζεται δύο πράγματα: υποχρεωτική δήλωση χρήσης σε κάθε έγγραφο και διασταύρωση πριν από κάθε ενέργεια που δεν αναιρείται. Η εναλλακτική είναι να το μάθει κανείς με τον τρόπο που παραλίγο να το μάθει ο αμερικανικός στρατός.
