Η συζήτηση γύρω από το ChatGPT και την ιδιωτικότητα επιστρέφει δυναμικά στο προσκήνιο, μετά από νέα έρευνα που υποστηρίζει ότι εξωτερικοί contractors συμμετέχουν στην αξιολόγηση πραγματικών συνομιλιών χρηστών προκειμένου να βελτιώνονται οι απαντήσεις των μοντέλων.
Η πρακτική αυτή του ChatGPT και της OpenAI δεν σημαίνει ότι κάποιος παρακολουθεί κάθε συνομιλία ή ότι οι reviewers βλέπουν απαραίτητα το όνομα του χρήστη. Αναδεικνύει όμως κάτι που αρκετοί τείνουν να ξεχνούν όταν χρησιμοποιούν ένα chatbot ως προσωπικό ημερολόγιο, βοηθό ή χώρο για ευαίσθητες συζητήσεις: ένα AI chat δεν πρέπει να αντιμετωπίζεται αυτομάτως σαν ιδιωτική συνομιλία με άνθρωπο που δεσμεύεται από επαγγελματικό απόρρητο.
Η OpenAI αναφέρει επίσημα ότι περιεχόμενο από προσωπικούς λογαριασμούς μπορεί να χρησιμοποιείται για τη βελτίωση και εκπαίδευση μοντέλων, εκτός αν ο χρήστης απενεργοποιήσει τη σχετική επιλογή. Παράλληλα, εφαρμόζει μηχανισμούς για τη μείωση προσωπικών πληροφοριών πριν από τη χρήση δεδομένων σε training pipelines.
Τι ακριβώς κάνουν οι human reviewers
Σύμφωνα με την έρευνα, contractors αξιολογούν πραγματικά prompts και responses στο πλαίσιο διαδικασιών human feedback.
Το έργο μπορεί να περιλαμβάνει την κατανόηση της πρόθεσης του χρήστη, τη σύγκριση διαφορετικών απαντήσεων και την αξιολόγηση της ποιότητάς τους. Αυτό είναι βασικό κομμάτι του τρόπου με τον οποίο εκπαιδεύονται και βελτιώνονται σύγχρονα AI systems.
Οι reviewers μπορούν, για παράδειγμα, να ελέγχουν αν μια απάντηση είναι υπερβολικά κολακευτική, αν επιβεβαιώνει αδικαιολόγητα μια λανθασμένη πεποίθηση ή αν το ChatGPT παρουσιάζει ψευδώς τον εαυτό του σαν να έχει ανθρώπινη εμπειρία.
Το κρίσιμο ζήτημα δεν είναι επομένως αν χρησιμοποιούνται άνθρωποι στην εκπαίδευση AI – αυτό είναι γνωστό εδώ και χρόνια. Το πραγματικό ζήτημα είναι πόσο context μπορεί να φτάσει σε αυτούς και πόσο αποτελεσματικά αφαιρούνται προσωπικές πληροφορίες.
Το privacy filter δεν είναι απόλυτο
Η OpenAI χρησιμοποιεί Privacy Filter, ένα σύστημα που έχει σχεδιαστεί για να εντοπίζει και να αποκρύπτει προσωπικά στοιχεία πριν χρησιμοποιηθούν δεδομένα σε training workflows.
Η ίδια η ύπαρξη ενός τέτοιου συστήματος όμως δεν σημαίνει ότι κάθε προσωπική πληροφορία μπορεί να αναγνωριστεί με απόλυτη ακρίβεια. Ένα όνομα, email ή τηλέφωνο είναι σχετικά εύκολο να χαρακτηριστεί ως identifier. Πολύ δυσκολότερο είναι ένα σύνολο έμμεσων στοιχείων.
Κάποιος μπορεί να μην γράψει ποτέ το όνομά του, αλλά να αναφέρει την εταιρεία όπου εργάζεται, την πόλη στην οποία ζει, το επάγγελμά του, οικογενειακές σχέσεις και συγκεκριμένα γεγονότα.
Ο συνδυασμός αυτών μπορεί σε ορισμένες περιπτώσεις να κάνει ένα άτομο αναγνωρίσιμο ακόμη και χωρίς κάποιο εμφανές identifier.
Η OpenAI αναγνωρίζει ότι εφαρμόζει Privacy Filter σε user conversations που επιτρέπεται να χρησιμοποιούνται για model improvement.
Το «κράτησέ το μεταξύ μας» δεν αλλάζει τις ρυθμίσεις
Ένα από τα σημαντικότερα πράγματα που πρέπει να γνωρίζουν οι χρήστες είναι ότι μια οδηγία μέσα στο ίδιο το prompt δεν αλλάζει τον τρόπο με τον οποίο λειτουργεί η πλατφόρμα. Το να γράψει κάποιος «μην το πεις σε κανέναν» ή «κράτησέ το μεταξύ μας» δεν αποτελεί privacy control.
Οι πραγματικές επιλογές βρίσκονται στις ρυθμίσεις του λογαριασμού. Αυτό έχει ιδιαίτερη σημασία για όσους χρησιμοποιούν το ChatGPT για ψυχολογικές ανησυχίες, προσωπικές σχέσεις, προβλήματα στη δουλειά, οικονομικά ζητήματα, νομικά θέματα ή confidential επαγγελματικά δεδομένα.
Πώς να απενεργοποιήσετε τη χρήση νέων chats για training
Στους προσωπικούς λογαριασμούς ChatGPT, ο χρήστης μπορεί να σταματήσει τη χρήση νέων συνομιλιών για model training.
Η διαδικασία είναι:
Settings – Data Controls – Improve the model for everyone – Off
Μετά την απενεργοποίηση, τα νέα chats εξακολουθούν να εμφανίζονται κανονικά στο history, αλλά δεν χρησιμοποιούνται για την εκπαίδευση των μοντέλων.
Η ίδια ρύθμιση εφαρμόζεται και σε Codex tasks που εκτελούνται μέσω προσωπικού ChatGPT account, αν και το Codex διαθέτει και ξεχωριστά controls για full environments.
Temporary Chat για πιο ευαίσθητες συζητήσεις
Για περιπτώσεις όπου ο χρήστης δεν θέλει μια συνομιλία να εμφανίζεται στο history ή να επηρεάζει τη Memory, υπάρχει το Temporary Chat.
Τα Temporary Chats δεν χρησιμοποιούνται για training και δεν δημιουργούν memories.
Η OpenAI αναφέρει ότι μπορούν να διατηρούνται προσωρινά για λόγους safety πριν διαγραφούν, επομένως ούτε αυτή η λειτουργία πρέπει να αντιμετωπίζεται ως αντίστοιχο ενός end-to-end encrypted private messenger.
Τι ισχύει για Business και Enterprise
Υπάρχει σημαντική διαφορά ανάμεσα στους προσωπικούς και στους εταιρικούς λογαριασμούς.
Στα ChatGPT Business, Enterprise και Edu, η OpenAI δεν χρησιμοποιεί από προεπιλογή τα inputs και outputs των χρηστών για την εκπαίδευση των μοντέλων.
Το ίδιο ισχύει γενικά και για την API πλατφόρμα, εκτός αν ένας οργανισμός επιλέξει ρητά να μοιράζεται δεδομένα.
Για επιχειρήσεις που διαχειρίζονται εμπιστευτικά αρχεία, κώδικα ή εσωτερικά δεδομένα, αυτή η διάκριση είναι ιδιαίτερα σημαντική. Το opt-out δεν σημαίνει «κανείς δεν μπορεί ποτέ να δει τίποτα» Υπάρχει επίσης μία σημαντική παρανόηση που πρέπει να αποφεύγεται.
Η απενεργοποίηση του model training δεν σημαίνει ότι το ChatGPT παύει να εφαρμόζει automated safety ή security systems.
Επίσης, αν ο χρήστης επιλέξει να υποβάλει feedback σε μια απάντηση, για παράδειγμα μέσω thumbs up ή thumbs down, η συνομιλία που σχετίζεται με αυτό το feedback μπορεί να χρησιμοποιηθεί για βελτίωση μοντέλων ακόμη και αν το training έχει απενεργοποιηθεί.
Τι σημαίνει για τον χρήστη
Η σημαντικότερη πρακτική αλλαγή δεν είναι να σταματήσει κάποιος να χρησιμοποιεί το ChatGPT. Είναι να προσαρμόσει τον τρόπο με τον οποίο αντιλαμβάνεται το privacy ενός AI assistant.
Τα chatbots μπορεί να έχουν conversational interface και να δημιουργούν την αίσθηση ιδιωτικής συζήτησης, αλλά παραμένουν cloud services που λειτουργούν με συγκεκριμένους όρους αποθήκευσης, ασφάλειας και model improvement.
Η καλύτερη πρακτική είναι επομένως απλή: απενεργοποιήστε το Improve the model for everyone αν δεν θέλετε τα νέα chats να χρησιμοποιούνται για training, χρησιμοποιήστε Temporary Chat για περισσότερο ευαίσθητες συζητήσεις και αποφύγετε την εισαγωγή πληροφοριών που δεν θα θέλατε να βρίσκονται σε ένα cloud system.
Η τεχνητή νοημοσύνη μπορεί να λειτουργεί σαν προσωπικός βοηθός. Δεν πρέπει όμως να θεωρείται αυτομάτως και έμπιστος.
