Το ChatGPT έχει αποδείξει με τον πιο ξεκάθαρο τρόπο ότι η επικοινωνία μεταξύ ανθρώπου και μηχανής δεν περιορίζεται πλέον σε αυστηρά τεχνικές ή διαδικαστικές ερωτήσεις, αλλά αγγίζει συχνά εξαιρετικά ευαίσθητα και βαθιά προσωπικά ζητήματα.
Η ευκολία με την οποία οι χρήστες μοιράζονται τις πιο μύχιες σκέψεις τους με τα chatbots τεχνητής νοημοσύνης έχει δημιουργήσει ένα νέο, ψηφιακό καταφύγιο για πολλούς ανθρώπους. Ωστόσο, αυτή η απόλυτη ελευθερία έκφρασης αποτέλεσε από την πρώτη στιγμή ένα δίκοπο μαχαίρι. Οι εταιρείες τεχνολογίας βρίσκονται πλέον αντιμέτωπες με το βάρος της ευθύνης όταν οι συζητήσεις παίρνουν μια επικίνδυνη ή σκοτεινή τροπή.
Σε μια προσπάθεια να αντιμετωπίσει αποτελεσματικά αυτό το κρίσιμο ζήτημα, η εταιρεία OpenAI ανακοίνωσε μια πρωτοποριακή αναβάθμιση, η οποία στοχεύει στη δημιουργία ενός πραγματικού, ανθρώπινου διχτυού ασφαλείας για εκείνες τις στιγμές που η ψυχολογική πίεση γίνεται αφόρητη. Πρόκειται για μια ιδιαίτερα σημαντική προσθήκη στις ρυθμίσεις της πλατφόρμας, η οποία επιτρέπει την εμπλοκή ενός έμπιστου προσώπου, διασφαλίζοντας την απαραίτητη ανθρώπινη παρέμβαση.
📍 Η εξέλιξη της είδησης: CHATGPT
Η λειτουργία και η διαδικασία επιλογής της επαφής
Η νέα αυτή λειτουργία φέρει την επίσημη ονομασία Trusted Contact και έχει ήδη αρχίσει να εμφανίζεται σταδιακά στις ρυθμίσεις της πλατφόρμας, απευθυνόμενη αποκλειστικά σε ενήλικους χρήστες.
Σύμφωνα με την OpenAI, η ρύθμιση αυτή δεν είναι σε καμία περίπτωση υποχρεωτική, αλλά εναπόκειται στην απόλυτη διακριτική ευχέρεια του εκάστοτε χρήστη να την ενεργοποιήσει. Εάν κάποιος αποφασίσει να τη χρησιμοποιήσει, αποκτά τη δυνατότητα να ορίσει ένα συγκεκριμένο άτομο της απολύτου εμπιστοσύνης του, το οποίο θα μπορεί να ειδοποιηθεί σε περίπτωση που το σύστημα ανιχνεύσει μια σοβαρή ανησυχία για ενδεχόμενο αυτοτραυματισμό. Φυσικά, υπάρχουν αυστηρές δικλείδες ασφαλείας σε αυτό το στάδιο.
Το πρόσωπο που προτείνεται ως επαφή πρέπει να είναι απαραιτήτως τουλάχιστον 18 ετών, ενώ για συγκεκριμένες αγορές, όπως είναι αυτή της Νότιας Κορέας, το ηλικιακό όριο ανεβαίνει στα 19 έτη. Μόλις ο χρήστης καταχωρήσει το όνομα και τα στοιχεία επικοινωνίας, το επιλεγμένο άτομο λαμβάνει μια επίσημη πρόσκληση.
Το μήνυμα αυτό εξηγεί με κάθε λεπτομέρεια τι ακριβώς συνεπάγεται η ανάληψη αυτού του ρόλου, παρέχοντας ένα χρονικό περιθώριο μίας εβδομάδας για την αποδοχή της πρόσκλησης προτού το χαρακτηριστικό τεθεί σε πλήρη εφαρμογή. Εάν ο παραλήπτης αρνηθεί, η λειτουργία παραμένει ανενεργή και ο χρήστης καλείται να επιλέξει κάποιο άλλο άτομο από το περιβάλλον του.
Ο ρόλος των ελεγκτών και η προστασία των δεδομένων
Αυτό που καθιστά το νέο σύστημα του ChatGPT ιδιαίτερα αξιόπιστο είναι ότι η ειδοποίηση της επαφής δεν πραγματοποιείται ποτέ με τρόπο αυτοματοποιημένο. Όταν οι αλγόριθμοι της πλατφόρμας επισημάνουν (flag) μια συζήτηση ως δυνητικά ανησυχητική, το chatbot ενημερώνει πρώτα και με διακριτικότητα τον ίδιο τον χρήστη ότι η επαφή εμπιστοσύνης του ενδέχεται να ειδοποιηθεί.
Παράλληλα, το λογισμικό τον παρακινεί να επικοινωνήσει απευθείας με τους δικούς του ανθρώπους, προσφέροντας μάλιστα και ορισμένες έτοιμες προτάσεις για την έναρξη της συζήτησης (conversation starters). Στη συνέχεια, η διαδικασία περνάει εξ ολοκλήρου στα χέρια μιας μικρής, ειδικά εκπαιδευμένης ομάδας ανθρώπινων ελεγκτών (human reviewers). Αυτοί οι επαγγελματίες αξιολογούν προσεκτικά την κατάσταση.
Μόνο στην περίπτωση που επιβεβαιώσουν τη σοβαρότητα του κινδύνου, η επαφή λαμβάνει την ειδοποίηση μέσω email, γραπτού μηνύματος (text) ή μιας in-app ειδοποίησης στο κινητό. Για τη διασφάλιση του απορρήτου, το σύστημα δεν μοιράζεται τις καταγραφές των μηνυμάτων (chat transcripts) ούτε προσωπικές λεπτομέρειες του διαλόγου.
Το μήνυμα αναφέρει απλώς ότι το ζήτημα του αυτοτραυματισμού προέκυψε με ανησυχητικό τρόπο, ζητώντας από την επαφή να πραγματοποιήσει τον απαραίτητο έλεγχο. Η OpenAI δηλώνει ότι στοχεύει στην ολοκλήρωση αυτής της κρίσιμης ανθρώπινης αξιολόγησης σε λιγότερο από μία ώρα.
Η στρατηγική ασφάλειας και η συνεργασία με τους ειδικούς
Η προσθήκη της λειτουργίας Trusted Contact στο ChatGPT δεν αποτελεί μια μεμονωμένη ενέργεια, αλλά εντάσσεται οργανικά σε ένα ευρύτερο στρατηγικό σχέδιο της OpenAI για την ενίσχυση της ασφάλειας σε όλα τα επίπεδα.
Η εταιρεία είχε ήδη εφαρμόσει στο παρελθόν χαρακτηριστικά που επιτρέπουν στους γονείς να λαμβάνουν άμεσες ειδοποιήσεις όταν ο συνδεδεμένος λογαριασμός του έφηβου παιδιού τους εμφανίζει σημάδια έντονης ψυχικής δυσφορίας (distress). Η νέα αυτή λειτουργία έρχεται πλέον να καλύψει το κενό για το ενήλικο κοινό, λειτουργώντας ως η φυσική επέκταση του ίδιου οικοσυστήματος προστασίας.
Για τη σωστή ανάπτυξη και υλοποίηση του εξαιρετικά ευαίσθητου αυτού μηχανισμού, το σύστημα σχεδιάστηκε σε στενή συνεργασία με κλινικούς ιατρούς, έγκριτους ερευνητές και κορυφαίους οργανισμούς ψυχικής υγείας, συμπεριλαμβανομένης της έγκριτης Αμερικανικής Ψυχολογικής Εταιρείας (American Psychological Association). Αυτή η διεπιστημονική προσέγγιση επιβεβαιώνει την ανάγκη για σοβαρή, επιστημονική αντιμετώπιση του φαινομένου.
Τα όρια της τεχνητής νοημοσύνης απέναντι στην κρίση
Παρά τις προφανείς καλές προθέσεις και τον προηγμένο τεχνολογικό σχεδιασμό, είναι επιτακτική ανάγκη να υπογραμμιστεί ότι η λειτουργία δεν σχεδιάστηκε για να αντικαταστήσει τις παραδοσιακές γραμμές αντιμετώπισης κρίσεων (crisis hotlines), τις άμεσες υπηρεσίες έκτακτης ανάγκης (emergency services) ή την εξειδικευμένη φροντίδα ψυχικής υγείας.
Το ChatGPT θα συνεχίσει αδιάλειπτα να κατευθύνει τους χρήστες προς αυτές τις ζωτικές πηγές βοήθειας όποτε αυτό κρίνεται απαραίτητο. Οι χρήστες διατηρούν τον πλήρη έλεγχο, έχοντας την ικανότητα να αφαιρέσουν ή να αλλάξουν την επαφή εμπιστοσύνης ανά πάσα στιγμή, ενώ και οι ίδιες οι επαφές μπορούν να αποχωρήσουν – αφαιρώντας τον εαυτό τους από το σύστημα – ελεύθερα.
Η πραγματικότητα δείχνει ότι τα λογισμικά αυτά χρησιμοποιούνται για απροσδόκητα προσωπικές και δύσκολες συζητήσεις, ανεξάρτητα από τα αρχικά επιχειρηματικά πλάνα των εταιρειών. Η ενσωμάτωση τέτοιων μηχανισμών υποστήριξης αποτελεί μια απολύτως αναγκαία κίνηση, συνιστώντας ταυτόχρονα την πιο ειλικρινή παραδοχή πως ένα ψηφιακό εργαλείο έχει πεπερασμένες δυνατότητες, απαιτώντας τη συμβολή του ανθρώπινου παράγοντα.
