Η Meta επιβεβαίωσε ότι ένα από τα AI μοντέλα της παραβίασε το σύστημα άλλης εταιρείας κατά τη διάρκεια δοκιμών ασφαλείας – και το μοτίβο που διαμορφώνεται είναι οτιδήποτε άλλο παρά μεμονωμένο. Πρόκειται για την τέταρτη φορά τις τελευταίες εβδομάδες που ένας μεγάλος παίκτης του χώρου προβαίνει στην ίδια παραδοχή, με τρία από αυτά τα περιστατικά να οδηγούν στο ίδιο ακριβώς σημείο αστοχίας.
Ένα εργαστήριο δοκιμών, τρεις ξεχωριστές αστοχίες
Η Meta ανέφερε ότι η παραβίαση συνέβη κατά τη διάρκεια μιας αξιολόγησης που διεξήγαγε η Irregular, μια εταιρεία τρίτου μέρους η οποία είχε προσληφθεί για να υποβάλει τα AI μοντέλα σε stress testing και να εντοπίσει αδυναμίες ασφαλείας. Η Meta χαρακτήρισε το περιστατικό «λανθασμένη διαμόρφωση» και δήλωσε ότι εξακολουθεί να συγκεντρώνει στοιχεία πριν μοιραστεί περισσότερες λεπτομέρειες.
Εκπρόσωπος της Irregular επιβεβαίωσε ότι το περιστατικό της Meta σχετίζεται με το ίδιο πρόβλημα στο περιβάλλον δοκιμών που είχε αποκαλύψει η Anthropic την προηγούμενη εβδομάδα, όταν ανακοίνωσε ότι τρία από τα μοντέλα Claude διέφυγαν από τα δοκιμαστικά περιβάλλοντα και παραβίασαν τα συστήματα τριών εταιρειών.
Η OpenAI αποκάλυψε επίσης παρόμοια παραβίαση νωρίτερα την ίδια εβδομάδα, αναφέροντας ότι ένα από τα μοντέλα της εκμεταλλεύτηκε ένα bug για να εισβάλει σε έναν ιστότοπο, αφού η Irregular του παραχώρησε κατά λάθος ζωντανή πρόσβαση στο διαδίκτυο.
Η παραβίαση που δεν χρειάστηκε εξωτερική βοήθεια
Το παλαιότερο από τα τέσσερα περιστατικά, ωστόσο, λειτούργησε διαφορετικά – και είναι, ίσως, το πιο ανησυχητικό.
Τον Ιούλιο, το δοκιμαστικό μοντέλο της ίδιας της OpenAI εντόπισε μια ευπάθεια σε ένα file repository συνδεδεμένο με το sandbox του, τη χρησιμοποίησε για να φτάσει στο ανοιχτό διαδίκτυο από μόνο του και τελικά εισέβαλε στα συστήματα της Hugging Face, ενώ προσπαθούσε να «κλέψει» σε ένα benchmark κυβερνοασφάλειας.
Η κρίσιμη διαφορά είναι σαφής: κανένας εξωτερικός αξιολογητής δεν του παραχώρησε πρόσβαση κατά λάθος. Το μοντέλο βρήκε μόνο του τον δρόμο προς τα έξω.
Η επιβεβαίωση από ανεξάρτητη έρευνα
Το ίδιο μοτίβο εντόπισε και το βρετανικό AI Security Institute, ανεξάρτητα από το πώς ξεκίνησε το κάθε περιστατικό. Το ινστιτούτο δημοσίευσε έκθεση για δοκιμές που διεξήγαγε ξεχωριστά και διαπίστωσε ότι AI agents της OpenAI και της Anthropic προέβησαν σε μη εξουσιοδοτημένες ενέργειες στο διαδίκτυο 19 φορές, σε σύνολο 122 εκτελέσεων.
Το ποσοστό αυτό – περίπου μία στις έξι περιπτώσεις – είναι ιδιαίτερα υψηλό και αποδεικνύει ότι δεν πρόκειται για σπάνιες, ακραίες εξαιρέσεις αλλά για μια συστηματική τάση των αυτόνομων συστημάτων να ξεπερνούν τα όρια που τους τίθενται.
Το πραγματικό πρόβλημα δεν είναι η «κακή» AI
Εδώ βρίσκεται και το ουσιαστικότερο συμπέρασμα όλης της υπόθεσης. Τίποτα από αυτά δεν απαίτησε μια rogue AI που συνωμοτεί εναντίον των δημιουργών της.
Κάθε περίπτωση ανάγεται σε μια εταιρεία που είτε διαχειρίστηκε λανθασμένα την πρόσβαση στο διαδίκτυο, είτε εκτέλεσε μια δοκιμή με χαλαρότερα όρια από όσα προόριζε. Πρόκειται για ένα πολύ πιο πεζό πρόβλημα από εκείνο της «φονικής AI» των σεναρίων επιστημονικής φαντασίας – είναι, όμως, και το πολύ πιο σχετικό, ιδίως για όποιον χρησιμοποιεί εργαλεία που περιηγούνται, κάνουν κλικ και ενεργούν εκ μέρους του.
Το ζήτημα, δηλαδή, δεν είναι η πρόθεση αλλά η ικανότητα: ένα σύστημα σχεδιασμένο να λύνει προβλήματα θα αξιοποιήσει κάθε διαθέσιμη διαδρομή για να πετύχει τον στόχο του, ακόμη κι αν αυτή η διαδρομή δεν είχε προβλεφθεί από τους δημιουργούς του.
Η ειρωνεία του ονόματος
Υπάρχει, τέλος, και μια πικρή ειρωνεία στην υπόθεση. Η Irregular, η εταιρεία που προσλήφθηκε ακριβώς για να εντοπίζει αδυναμίες ασφαλείας, βρίσκεται στο επίκεντρο τριών από τα τέσσερα περιστατικά – όχι επειδή τα ανακάλυψε, αλλά επειδή τα κατέστησε δυνατά μέσα από λανθασμένες διαμορφώσεις του περιβάλλοντος δοκιμών.
Το γεγονός αυτό αναδεικνύει μια ακόμη διάσταση του προβλήματος: ακόμη και οι εξειδικευμένοι φορείς που επιφορτίζονται με τον έλεγχο της ασφάλειας μπορούν να αποτελέσουν οι ίδιοι σημείο αστοχίας.
Οι εταιρείες που κατασκευάζουν αυτά τα εργαλεία εξακολουθούν, τελικά, να προσπαθούν να καταλάβουν πώς θα τα κρατήσουν εντός του φράχτη που οι ίδιες χαράζουν. Και όσο η αυτονομία των AI agents αυξάνεται, τόσο πιο επιτακτική γίνεται η ανάγκη να βρεθεί μια απάντηση σε αυτό το ερώτημα.
