Η αυξανόμενη χρήση των AI chatbots για ιατρικές συμβουλές δημιουργεί ένα νέο πρόβλημα για τα συστήματα υγείας, το οποίο μέχρι σήμερα έχει λάβει περιορισμένη προσοχή. Όταν ένα σύστημα τεχνητής νοημοσύνης παρέχει λανθασμένες πληροφορίες και ο χρήστης αντιμετωπίζει προβλήματα υγείας, οι γιατροί συχνά δεν έχουν πρόσβαση στη συνομιλία που προηγήθηκε. Αυτό σημαίνει ότι ενδέχεται να μην μπορούν να εντοπίσουν την πραγματική προέλευση ενός λανθασμένου χειρισμού, ενώ αντίστοιχα περιστατικά παραμένουν εκτός των υφιστάμενων μηχανισμών παρακολούθησης της ασφάλειας των ασθενών.
Το ζήτημα αναδεικνύει νέα επιστημονική δημοσίευση στο περιοδικό Nature Health, στις 9 Οκτωβρίου 2026, από ερευνητές των πανεπιστημίων Stanford, Binghamton, Texas A&M και Indiana. Οι επιστήμονες προειδοποιούν ότι η ανεπαρκής καταγραφή και αναφορά των επιβλαβών συμβουλών από AI chatbots δημιουργεί σοβαρά κενά στη λογοδοσία των εταιρειών τεχνητής νοημοσύνης. Παράλληλα, προτείνουν μηχανισμούς αναφοράς επικίνδυνων απαντήσεων και την εξέταση αυστηρότερων κανόνων νομικής ευθύνης για τις εταιρείες που παρέχουν υπηρεσίες ιατρικής καθοδήγησης μέσω AI.
Το πρόβλημα με τις ιατρικές συμβουλές των AI chatbots
Εκατομμύρια άνθρωποι χρησιμοποιούν πλέον συστήματα όπως το ChatGPT, το Gemini και το Claude για να αναζητήσουν πληροφορίες σχετικά με συμπτώματα, φαρμακευτικές αγωγές, εξετάσεις και πιθανές παθήσεις.
Η ευκολία πρόσβασης, η άμεση ανταπόκριση και η δυνατότητα υποβολής διαδοχικών ερωτήσεων καθιστούν τα AI chatbots ιδιαίτερα ελκυστικά για χρήστες που επιθυμούν μια πρώτη ενημέρωση πριν επισκεφθούν κάποιον γιατρό.
Ωστόσο, τα συγκεκριμένα συστήματα μπορούν να παράγουν ανακριβείς ή παραπλανητικές απαντήσεις, ακόμη και όταν αυτές παρουσιάζονται με απόλυτη βεβαιότητα.
Το σημαντικότερο πρόβλημα, σύμφωνα με τους ερευνητές, δεν περιορίζεται στην πιθανότητα σφάλματος. Αφορά κυρίως την απουσία ενός οργανωμένου μηχανισμού που θα επιτρέπει την καταγραφή, την αξιολόγηση και τη διερεύνηση των επιπτώσεων από λανθασμένες πληροφορίες.
Στην παραδοσιακή ιατρική πρακτική, οι διαγνώσεις και οι θεραπευτικές αποφάσεις καταγράφονται συνήθως στον ιατρικό φάκελο του ασθενούς. Αντίστοιχα, οι ανεπιθύμητες ενέργειες φαρμάκων μπορούν να αναφέρονται σε εξειδικευμένα συστήματα φαρμακοεπαγρύπνησης.
Αντίθετα, μια συνομιλία με AI chatbot μπορεί να παραμείνει αποκλειστικά στον λογαριασμό του χρήστη ή στην πλατφόρμα της εταιρείας, χωρίς να καταγραφεί ποτέ η σχέση της με κάποιο μεταγενέστερο πρόβλημα υγείας.
Η περίπτωση του άνδρα που δηλητηριάστηκε μετά τη χρήση του ChatGPT
Χαρακτηριστικό παράδειγμα αποτελεί η περίπτωση ενός 60χρονου άνδρα στις Ηνωμένες Πολιτείες, ο οποίος νοσηλεύτηκε έπειτα από παρατεταμένη κατανάλωση βρωμιούχου νατρίου.
Ο άνδρας είχε αναζητήσει μέσω του ChatGPT πληροφορίες σχετικά με την απομάκρυνση του χλωρίου και των χλωριούχων ενώσεων από τη διατροφή του.
Στη συνέχεια αντικατέστησε το συνηθισμένο επιτραπέζιο αλάτι, δηλαδή το χλωριούχο νάτριο, με βρωμιούχο νάτριο, μια ουσία που δεν αποτελεί ασφαλές διατροφικό υποκατάστατο.
Μετά από περίπου τρεις μήνες εμφάνισε σοβαρά συμπτώματα, μεταξύ των οποίων παράνοια, ψευδαισθήσεις, διαταραχές ύπνου και νευρολογικά προβλήματα.
Οι γιατροί διαπίστωσαν ότι έπασχε από βρωμισμό, μια μορφή δηλητηρίασης που προκαλείται από την υπερβολική συσσώρευση βρωμιούχων ενώσεων στον οργανισμό.
Το περιστατικό δημοσιεύτηκε τον Αύγουστο του 2025 στο Annals of Internal Medicine: Clinical Cases.
Ωστόσο, υπάρχει μια κρίσιμη λεπτομέρεια: οι θεράποντες γιατροί δεν είχαν πρόσβαση στην αρχική συνομιλία του ασθενούς με το ChatGPT. Κατά συνέπεια, δεν μπόρεσαν να επιβεβαιώσουν την ακριβή διατύπωση της απάντησης που είχε λάβει.
Η σύνδεση του περιστατικού με τη χρήση τεχνητής νοημοσύνης βασίστηκε στις πληροφορίες που έδωσε ο ίδιος ο ασθενής. Αυτό ακριβώς το κενό τεκμηρίωσης χρησιμοποιούν οι ερευνητές για να αναδείξουν τους περιορισμούς των σημερινών μηχανισμών ελέγχου.
Οι επικίνδυνες απαντήσεις μπορεί να παραμένουν αόρατες
Στη δημοσίευση, με τίτλο «The invisible risks of AI-generated health information», οι ερευνητές υποστηρίζουν ότι οι επιβλαβείς απαντήσεις των AI chatbots ενδέχεται να μην εντοπίζονται ποτέ από ανεξάρτητους επιστήμονες ή εποπτικές αρχές.
Ο Kai-Cheng Yang, επίκουρος καθηγητής στο Binghamton University και ένας από τους συντάκτες της εργασίας, επισημαίνει ότι μεγάλος αριθμός ανθρώπων λαμβάνει πληροφορίες για την υγεία του από τέτοια συστήματα, χωρίς να υπάρχει αντίστοιχη ανεξάρτητη παρακολούθηση των πραγματικών συνεπειών.
Αυτό δημιουργεί σημαντικές δυσκολίες στην εκτίμηση της συχνότητας και της σοβαρότητας των σφαλμάτων.
Εάν ένας χρήστης ακολουθήσει μια λανθασμένη συμβουλή, αλλά δεν ενημερώσει τον γιατρό του ή δεν αναφέρει το περιστατικό στην εταιρεία, το συμβάν μπορεί να μη συσχετιστεί ποτέ με τη χρήση AI.
Παράλληλα, οι ερευνητές τονίζουν ότι η έκθεση σε παραπλανητικές πληροφορίες υγείας δεν προϋποθέτει απαραίτητα την υποβολή κάποιας ερώτησης σε chatbot.
Οι περιλήψεις που δημιουργούνται αυτόματα από συστήματα AI στις μηχανές αναζήτησης, καθώς και το περιεχόμενο που εμφανίζεται σε ψηφιακές πλατφόρμες, μπορούν επίσης να μεταφέρουν λανθασμένες ιατρικές πληροφορίες.
Νομική ευθύνη για τις εταιρείες τεχνητής νοημοσύνης
Ένα από τα σημαντικότερα ζητήματα που θέτει η μελέτη αφορά τη νομική ευθύνη των εταιρειών που αναπτύσσουν AI chatbots.
Οι ερευνητές προτείνουν να εξεταστεί εάν οι πάροχοι συστημάτων που προσφέρουν ιατρική καθοδήγηση θα πρέπει να υπάγονται σε μορφές ευθύνης αντίστοιχες με εκείνες που ισχύουν για περιπτώσεις ιατρικής αμέλειας.
Η πρόταση δεν σημαίνει ότι οι εταιρείες AI έχουν ήδη τις ίδιες νομικές υποχρεώσεις με τους γιατρούς ούτε ότι κάθε εσφαλμένη απάντηση θα πρέπει αυτομάτως να οδηγεί σε αποζημίωση.
Αντίθετα, οι επιστήμονες επισημαίνουν την ανάγκη επανεξέτασης του υφιστάμενου κανονιστικού πλαισίου, καθώς τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται ολοένα συχνότερα για αποφάσεις που μπορεί να έχουν άμεσες συνέπειες στην ανθρώπινη υγεία.
Το ζήτημα είναι σύνθετο, επειδή τα AI chatbots λειτουργούν ως ψηφιακές υπηρεσίες γενικής χρήσης και όχι απαραίτητα ως πιστοποιημένες ιατρικές συσκευές.
Επιπλέον, η ευθύνη μπορεί να διαφοροποιείται ανάλογα με τον τρόπο παρουσίασης της υπηρεσίας, τη φύση των παρεχόμενων συμβουλών και το εάν ο χρήστης ενημερώνεται επαρκώς για τους περιορισμούς της.
Τι προτείνουν οι ερευνητές για την προστασία των χρηστών
Η επιστημονική ομάδα θεωρεί ότι η αντιμετώπιση του προβλήματος απαιτεί μεγαλύτερη διαφάνεια και αποτελεσματικότερους μηχανισμούς αναφοράς περιστατικών.
Μία από τις βασικές προτάσεις είναι η δυνατότητα των χρηστών να έχουν πρόσβαση στο πλήρες ιστορικό των συνομιλιών τους, ώστε να μπορούν να το παρουσιάσουν σε επαγγελματίες υγείας όταν χρειάζεται.
Παράλληλα, προτείνεται η ανάπτυξη διαδικασιών που θα επιτρέπουν την αναφορά δυνητικά επικίνδυνων ιατρικών απαντήσεων και τη συστηματική αξιολόγησή τους.
Ένα τέτοιο σύστημα θα μπορούσε να βοηθήσει στην αναγνώριση επαναλαμβανόμενων προβλημάτων και στη βελτίωση των μηχανισμών ασφαλείας των AI μοντέλων.
Ωστόσο, η καταγραφή και η διαχείριση συνομιλιών που περιλαμβάνουν ευαίσθητα δεδομένα υγείας θα πρέπει να συνοδεύονται από αυστηρές εγγυήσεις προστασίας προσωπικών πληροφοριών.
Η μελέτη αποτελεί εργασία επιστημονικής οπτικής και ανάλυσης, όχι κλινική δοκιμή που μετρά τη συχνότητα των επιβλαβών απαντήσεων. Επομένως, δεν αποδεικνύει πόσο συχνά τα AI chatbots προκαλούν πραγματική βλάβη στους χρήστες.
Αναδεικνύει, όμως, ένα ουσιαστικό πρόβλημα: όσο περισσότερες αποφάσεις υγείας επηρεάζονται από συστήματα τεχνητής νοημοσύνης, τόσο μεγαλύτερη γίνεται η ανάγκη να μπορούν να εντοπίζονται, να διερευνώνται και να αντιμετωπίζονται τα λάθη τους.
Η τεχνητή νοημοσύνη μπορεί να αποτελέσει χρήσιμο εργαλείο ενημέρωσης και προετοιμασίας για μια ιατρική επίσκεψη. Η δυνατότητα αυτή, ωστόσο, δεν υποκαθιστά την κλινική αξιολόγηση, ιδιαίτερα όταν πρόκειται για διάγνωση, φαρμακευτική αγωγή ή αλλαγές που ενδέχεται να επηρεάσουν την υγεία.
