Η ασφάλεια της τεχνητής νοημοσύνης δεν λειτουργεί το ίδιο για όλους – και αυτό αποτελεί πρόβλημα που η βιομηχανία δεν είναι έτοιμη να αντιμετωπίσει. Νέα έρευνα δείχνει ότι οι δικλείδες προστασίας που ενσωματώνονται στα μοντέλα είναι σχεδιασμένες σχεδόν αποκλειστικά γύρω από τις ανάγκες πλούσιων, αγγλόφωνων χωρών.
Οι εταιρείες του κλάδου αφιερώνουν τεράστιους πόρους στο ερώτημα τι θα συμβεί όταν τα μοντέλα τους γίνουν υπερβολικά ικανά. Η OpenAI έφτασε μάλιστα τον περασμένο μήνα στο σημείο να αναστείλει προσωρινά την εκπαίδευση ενός μοντέλου για λόγους ασφαλείας. Υπάρχει όμως ένα δεύτερο πρόβλημα, σαφώς λιγότερο θεαματικό και γι’ αυτό ευκολότερα παραβλέψιμο.
Όταν το μοντέλο δεν καταλαβαίνει τη γλώσσα σου
Τα πρότυπα με τα οποία αξιολογούνται τα μοντέλα διαμορφώνονται σε χώρες υψηλού εισοδήματος. Οι ερευνητές υποστηρίζουν ότι αυτό δημιουργεί τυφλά σημεία όταν τα ίδια μοντέλα αναπτύσσονται σε περιοχές με διαφορετικές γλώσσες, υποδομές, νομοθεσίες και πολιτισμικές προσδοκίες.
Ο τομέας της υγείας προσφέρει τα πιο ανησυχητικά παραδείγματα. Έρευνα σε συστήματα που χρησιμοποιούνται στην Αφρική αποκάλυψε σφάλματα μετάφρασης σε ιατρική ορολογία. Στα τιγκρινιακά, η αυτόματη μετάφραση μπέρδεψε την ευλογιά με τη σύφιλη, ενώ απέδωσε τα ενδοφλέβια αντιβιοτικά ως ενδοφλέβια εντομοκτόνα.
Το πρόβλημα ξεπερνά τη μετάφραση
Η κατάσταση δεν περιορίζεται στην ορολογία. Έρευνες δείχνουν ότι τα μοντέλα παράγουν συχνότερα παραισθήσεις σε γλώσσες με περιορισμένα δεδομένα εκπαίδευσης.
Ακόμη σοβαρότερο είναι ότι οι δικλείδες ασφαλείας που εντοπίζουν αξιόπιστα επιβλαβή αιτήματα στα αγγλικά αποδίδουν χειρότερα ή παρακάμπτονται ευκολότερα σε αυτές τις γλώσσες. Δημιουργείται έτσι ένα νέο ψηφιακό χάσμα: δύο άνθρωποι μπορούν να χρησιμοποιούν το ίδιο ακριβώς προϊόν και να λαμβάνουν εντελώς διαφορετικό επίπεδο προστασίας, απλώς επειδή μιλούν διαφορετική γλώσσα.
Γιατί αφορά και την Ελλάδα
Εδώ αξίζει μια παρατήρηση που συνήθως λείπει από τη διεθνή κάλυψη. Τα ελληνικά ανήκουν στις γλώσσες με σαφώς περιορισμένα δεδομένα εκπαίδευσης σε σύγκριση με τα αγγλικά, τα ισπανικά ή τα κινεζικά.
Δεν βρισκόμαστε προφανώς στην κατάσταση της Τιγκρινιακής γλώσσας, το ζήτημα ωστόσο δεν είναι απόλυτο αλλά διαβαθμισμένο. Όποιος έχει δοκιμάσει να θέσει σύνθετο ερώτημα στα ελληνικά και στα αγγλικά στο ίδιο σύστημα, έχει πιθανότατα παρατηρήσει διαφορά τόσο στην ποιότητα όσο και στην ακρίβεια της απάντησης. Όταν πρόκειται για πληροφορίες υγείας ή νομικά ζητήματα, η διαφορά αυτή παύει να είναι ακαδημαϊκή.
Η υιοθέτηση τρέχει, η ασφάλεια όχι
Ο χρονισμός καθιστά το ζήτημα επείγον, καθώς ο ενθουσιασμός για την τεχνολογία αυξάνεται ραγδαία σε πολλές από αυτές τις αγορές. Η Κίνα αποτελεί το πιο χαρακτηριστικό παράδειγμα, με την υιοθέτηση να έχει ξεπεράσει κατά πολύ τον χώρο των τεχνολογικών εταιρειών και να φτάνει από σχολεία και τοπικές αρχές μέχρι καταστήματα εστίασης στο Πεκίνο, όπου επιχείρηση άρχισε να προσφέρει tokens στους πελάτες της και ανέπτυξε εργαλεία διαχείρισης ουρών.
Ο ενθουσιασμός δεν αποτελεί από μόνος του πρόβλημα. Οι ερευνητές προειδοποιούν ωστόσο ότι η υποδομή ασφαλείας πρέπει να επεκταθεί με αντίστοιχη ταχύτητα – κάτι που σήμερα δεν συμβαίνει.
Τι σημαίνει τελικά ασφάλεια
Οι κυβερνήσεις έχουν αρχίσει να αντιδρούν. Το ζήτημα έχει τεθεί σε διεθνείς πρωτοβουλίες όπως η Διακήρυξη του Bletchley και η φετινή σύνοδος της Ινδίας, ενώ η Κίνα έχει προτείνει μηχανισμούς διαχείρισης κινδύνων για αναπτυσσόμενες χώρες.
Η μεγαλύτερη πρόκληση παραμένει ωστόσο εννοιολογική. Η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να σημαίνει αποκλειστικά την αποτροπή ενός μελλοντικού μοντέλου από το να ξεφύγει από τα όριά του ή να εξαπολύσει κυβερνοεπίθεση. Για εκατομμύρια ανθρώπους που ήδη χρησιμοποιούν αυτά τα εργαλεία, η ασφάλεια είναι κάτι πολύ απλούστερο: ένα σύστημα που καταλαβαίνει τη γλώσσα τους, αναγνωρίζει πότε κάτι είναι επείγον και δεν τους δίνει με απόλυτη βεβαιότητα επικίνδυνα λανθασμένες πληροφορίες.
