Το Meta Muse βρίσκεται ξανά στο επίκεντρο της συζήτησης για την ιδιωτικότητα, αλλά αυτή τη φορά το πιο ανησυχητικό στοιχείο ίσως δεν είναι ότι το AI μπορεί να διαβάζει προσωπικά δεδομένα. Είναι ότι όταν ρωτήθηκε πώς ακριβώς απέκτησε πρόσβαση σε αυτά, έδωσε μια εξήγηση που, σύμφωνα με την ίδια τη Meta, ήταν λάθος.
Το περιστατικό ξεκίνησε όταν ο Jason Aten, contributing editor στο Inc., δοκίμαζε το νέο personal AI agent της Meta σε iPhone και Mac.
Κατά τη διάρκεια της χρήσης, το Muse άρχισε να του προτείνει θέματα που συνδέονταν με μια ιδιωτική συνομιλία του στο Messages, αλλά και με μήνυμα από τον editor του.
Ο Aten υποστήριξε ότι δεν θυμόταν να έχει δώσει στο Muse άδεια να διαβάζει τα μηνύματά του.
Και τότε τα πράγματα έγιναν πιο περίεργα.
Το Muse είπε ότι έβλεπε notifications
Όταν ο Aten ρώτησε το Meta Muse πώς γνώριζε το περιεχόμενο της συνομιλίας, το AI του απάντησε ότι δεν είχε διαβάσει το ιστορικό των Messages.
Ισχυρίστηκε ότι είχε δει μόνο τα notification previews που εμφανίζονταν στο Mac.
Όταν πιέστηκε περισσότερο για το πώς ακριβώς έφταναν αυτές οι ειδοποιήσεις στο σύστημα, το Muse δεν κατάφερε να δώσει σαφή τεχνική απάντηση.
Η εξήγηση ήταν ουσιαστικά ότι η εφαρμογή στο Mac προωθούσε notifications μέσω device sync.
Αυτό όμως, σύμφωνα με τη Meta, δεν είναι ο τρόπος με τον οποίο λειτουργεί το σύστημα.
Η Meta λέει ότι το Muse έκανε λάθος
Ο David Singleton από τη Meta Superintelligence Labs παρενέβει δημόσια για να εξηγήσει τι συνέβη.
Σύμφωνα με τον ίδιο, το Meta Muse δεν παρακολουθεί τις ειδοποιήσεις του Mac.
Η εφαρμογή μπορεί να συγχρονίζει δεδομένα από Messages μόνο εφόσον ο χρήστης έχει ενεργοποιήσει συγκεκριμένα τη σχετική πρόσβαση.
Για τη λειτουργία αυτή απαιτούνται επίσης οι απαραίτητες άδειες στο macOS, όπως Full Disk Access, μαζί με ξεχωριστό opt-in για Messages, Calendar ή Notes.
Με απλά λόγια, η Meta υποστηρίζει ότι δεν υπήρχε κάποιο κρυφό σύστημα που «κατασκόπευε» τα notification banners.
Το πρόβλημα ήταν ότι το ίδιο το Muse δεν ήξερε πώς να εξηγήσει σωστά τι είχε συμβεί.
Η εταιρεία παραδέχθηκε ότι η απάντηση του agent ήταν λανθασμένη και δήλωσε ότι εργάζεται ώστε το Muse να κατανοεί και να περιγράφει καλύτερα τον τρόπο λειτουργίας του.
Και αυτό ίσως είναι το πραγματικό πρόβλημα
Η υπόθεση αναδεικνύει ένα ζήτημα που θα γίνεται όλο και σημαντικότερο όσο τα AI agents αποκτούν περισσότερες δυνατότητες.
Ένα chatbot που δίνει λάθος απάντηση σε μια γενική ερώτηση είναι ένα πρόβλημα.
Ένα AI agent που έχει πρόσβαση σε Messages, Calendar, email, αρχεία και προσωπικά δεδομένα και δίνει λάθος απάντηση για το πώς απέκτησε αυτά τα δεδομένα, είναι κάτι αρκετά διαφορετικό.
Ο χρήστης πρέπει να μπορεί να γνωρίζει:
- σε ποια εφαρμογή έχει πρόσβαση το AI
- ποια δεδομένα έχουν συγχρονιστεί
- πότε δόθηκε η άδεια
- τι ακριβώς μπορεί να κάνει με αυτά
- πώς μπορεί να ανακληθεί η πρόσβαση
Αν το ίδιο το σύστημα δεν μπορεί να εξηγήσει αξιόπιστα αυτά τα σημεία, τότε δημιουργείται πρόβλημα εμπιστοσύνης ακόμη και όταν οι permissions έχουν δοθεί κανονικά.
Η Meta ποντάρει στην ιδιωτικότητα
Αυτό είναι ιδιαίτερα σημαντικό για το Meta Muse, επειδή η ιδιωτικότητα αποτελεί βασικό μέρος της επίσημης παρουσίασής του.
Η Meta υποστηρίζει ότι κάθε Muse τρέχει σε ξεχωριστό Secure VM, ότι ο χρήστης επιλέγει ποιες εφαρμογές θα συνδέσει και ότι μπορεί ανά πάσα στιγμή να αλλάξει ή να αφαιρέσει τις άδειες.
Το Muse μπορεί να δουλεύει στο παρασκήνιο, να οργανώνει αρχεία, να συμπληρώνει φόρμες, να χρησιμοποιεί Messages, Calendar και Notes και να εκτελεί πολυσταδιακές εργασίες.
Όσο περισσότερη πρόσβαση αποκτά, όμως, τόσο πιο κρίσιμο γίνεται να καταλαβαίνει ο χρήστης τι ακριβώς συμβαίνει.
Διέρρευσε το νέο ASUS Googlebook AI laptop με G key και πολύχρωμη φωτεινή μπάρα
Δεν είναι μόνο θέμα permissions
Η περίπτωση του Aten δείχνει ότι η έννοια της «συναίνεσης» σε ένα AI agent δεν περιορίζεται σε ένα κουμπί Allow.
Ακόμη και αν ένας χρήστης έχει τεχνικά ενεργοποιήσει μια άδεια, πρέπει να καταλαβαίνει ξεκάθαρα τι σημαίνει αυτή η άδεια στην πράξη.
Και όταν ρωτά το AI πώς γνωρίζει κάτι, η απάντηση δεν μπορεί να είναι εικασία.
Το Meta Muse μπορεί τελικά να μην παρακολουθούσε κρυφά notifications.
Αλλά το γεγονός ότι επινόησε μια πειστική τεχνική εξήγηση για κάτι που δεν καταλάβαινε είναι ίσως εξίσου σημαντικό.
Γιατί όσο τα AI agents αποκτούν πρόσβαση σε μεγαλύτερο μέρος της ψηφιακής μας ζωής, δεν αρκεί να είναι έξυπνα.
Πρέπει να ξέρουν και να μπορούν να εξηγήσουν τι ακριβώς κάνουν.
