Νέo AI detector αναγνωρίζει και τα humanized κείμενα

Οι ανιχνευτές κειμένων τεχνητής νοημοσύνης (AI detectors) καλούνται συχνά να απαντήσουν σε ένα ερώτημα από το οποίο μπορεί να εξαρτάται η ακαδημαϊκή ή ακόμη και η επαγγελματική πορεία ενός ανθρώπου: ποιος πραγματικά έγραψε ένα κείμενο; Το πρόβλημα είναι ότι ακόμη και ορισμένα από τα πιο αξιόπιστα εργαλεία της αγοράς μπορούν να οδηγήσουν σε εντελώς λανθασμένα συμπεράσματα.

Ερευνητές του MIT και του Cornell Tech επιχειρούν να αντιμετωπίσουν αυτή την αδυναμία, αναπτύσσοντας μια μέθοδο που επιτρέπει στους AI detectors να προσαρμόζονται στις αλλαγές της ανθρώπινης γραφής και στην εξέλιξη των γλωσσικών μοντέλων. Τα αποτελέσματα της έρευνας, που παρουσιάστηκαν στις 18 Νοεμβρίου από το MIT, είναι εντυπωσιακά.

Σε μια δοκιμή με κείμενα τεχνητής νοημοσύνης που είχαν υποστεί ειδική επεξεργασία ώστε να παρακάμπτουν τους μηχανισμούς ανίχνευσης, η νέα μέθοδος εντόπισε το 93,3% των περιπτώσεων. Στην ίδια δοκιμή, ο εμπορικός ανιχνευτής Pangram περιορίστηκε στο 27%.

Γιατί κάνουν λάθη οι AI detectors

Γιατί οι ανιχνευτές AI κάνουν λάθη και πώς επιχειρούν να λύσουν το πρόβλημα οι επιστήμονες
Created with ai

Η κυκλοφορία κάθε νέου μεγάλου γλωσσικού μοντέλου δημιουργεί ένα πρόβλημα για τους κατασκευαστές λογισμικού ανίχνευσης. Ένας αλγόριθμος που εκπαιδεύτηκε να αναγνωρίζει κείμενα του ChatGPT πριν από δύο χρόνια δεν θα έχει απαραίτητα την ίδια αποτελεσματικότητα απέναντι στα κείμενα που παράγουν τα σημερινά μοντέλα.

Υπάρχει όμως και η αντίστροφη πλευρά του προβλήματος. Η ανθρώπινη γραφή δεν παραμένει αναλλοίωτη στον χρόνο. Το λεξιλόγιο, η σύνταξη και οι εκφράσεις που χρησιμοποιούμε επηρεάζονται από τις κοινωνικές και πολιτιστικές αλλαγές, αλλά και από το περιεχόμενο με το οποίο ερχόμαστε καθημερινά σε επαφή. Σταδιακά, ακόμη και η συστηματική χρήση των AI chatbots μπορεί να επηρεάζει τις γλωσσικές μας συνήθειες.

Ένας ανιχνευτής που βασίζεται σε παλαιότερα δείγματα ανθρώπινης γραφής κινδυνεύει, επομένως, να εκλάβει μια φυσιολογική γλωσσική μεταβολή ως ένδειξη χρήσης τεχνητής νοημοσύνης.

Στην εξίσωση προστίθενται και τα λεγόμενα AI humanizers, εργαλεία που επεξεργάζονται αυτοματοποιημένα κείμενα με σκοπό να δυσκολέψουν την αναγνώριση της προέλευσής τους.

Ο ανιχνευτής που μαθαίνει την ώρα της αξιολόγησης

Οι Kevin Ren και Nikhil Garg του Cornell Tech και ο Manish Raghavan του MIT προσέγγισαν το πρόβλημα από διαφορετική σκοπιά. Αντί να αναπτύξουν έναν ακόμη ανιχνευτή βασισμένο αποκλειστικά σε προκαθορισμένα δεδομένα εκπαίδευσης, χρησιμοποίησαν μια τεχνική μηχανικής μάθησης γνωστή ως Test-Time Adaptation (TTA).

Η μέθοδος επιτρέπει στον αλγόριθμο να αξιοποιεί νέα δεδομένα ακόμη και μετά την ολοκλήρωση της αρχικής εκπαίδευσής του.

Αν, για παράδειγμα, ένας ανιχνευτής κληθεί να εξετάσει εκατοντάδες ακαδημαϊκές εργασίες, μπορεί να αντλήσει χρήσιμες πληροφορίες από τις ομοιότητες και τις διαφορές μεταξύ των κειμένων. Οι ερευνητές διαπίστωσαν ότι τα κείμενα που παράγονται από γλωσσικά μοντέλα τείνουν, υπό συγκεκριμένες συνθήκες, να παρουσιάζουν μεγαλύτερη μεταξύ τους ομοιογένεια.

Αξιοποιώντας αυτό το στατιστικό χαρακτηριστικό, ο αλγόριθμος αναπροσαρμόζει τα κριτήρια ταξινόμησης των κειμένων, ακόμη και όταν δεν γνωρίζει εκ των προτέρων ποια έχουν γραφτεί από ανθρώπους.

Αποκαλυπτικά αποτελέσματα στις δοκιμές
ChatGPT: Πώς η νέα λειτουργία διαφέρει από την προσέγγιση του Claude
Photo by openai

Χαρακτηριστική είναι η περίπτωση του GPT-5.4 της OpenAI, που κυκλοφόρησε τον Μάρτιο του 2026. Στις δοκιμές των επιστημόνων, ο Pangram αναγνώρισε μόλις το 34% των επιστημονικών περιλήψεων που παρήγαγε το συγκεκριμένο μοντέλο ως κείμενα γραμμένα εξ ολοκλήρου ή εν μέρει με AI.

Οι επιδόσεις του βελτιώθηκαν σημαντικά μετά την αναβάθμισή του τον Μάιο. Η ίδια η Pangram είχε αναφέρει πολύ υψηλότερα ποσοστά ανίχνευσης στις δικές της αξιολογήσεις, γεγονός που αναδεικνύει πόσο διαφορετικά αποτελέσματα μπορούν να προκύψουν ανάλογα με το είδος και την έκταση των εξεταζόμενων κειμένων.

Αντίθετα, οι AI detectors που αξιοποιούσαν την τεχνική TTA εμφάνισαν μεγαλύτερη ανθεκτικότητα απέναντι στο περιεχόμενο άγνωστων μέχρι τότε γλωσσικών μοντέλων, χωρίς να απαιτείται η προηγούμενη συλλογή επισημασμένων δειγμάτων από κάθε νέο LLM.

Όταν η ανθρώπινη γραφή χαρακτηρίζεται λανθασμένα ως AI

Ίσως το σημαντικότερο εύρημα της έρευνας αφορά όχι την ανίχνευση της τεχνητής νοημοσύνης, αλλά την προστασία των ανθρώπων που γράφουν τα δικά τους κείμενα.

Οι επιστήμονες εκπαίδευσαν έναν συμβατικό ανιχνευτή χρησιμοποιώντας υλικό του 2010 και εξέτασαν την αποτελεσματικότητά του σε ανθρώπινα κείμενα της επόμενης δεκαετίας.

Το ποσοστό σωστής αναγνώρισης της ανθρώπινης γραφής υποχώρησε από το 85,9% στο 73,4% μέσα σε δέκα χρόνια. Αντίθετα, στις δύο βασικές παραλλαγές της μεθόδου TTA, τα αντίστοιχα ποσοστά στο τέλος της δεκαετίας διαμορφώθηκαν στο 89,8% και στο 85,9%.

Αξίζει να σημειωθεί ότι τα ανθρώπινα κείμενα της συγκεκριμένης δοκιμής είχαν γραφτεί πριν από τη μαζική εξάπλωση των σύγχρονων AI chatbots. Παρ’ όλα αυτά, οι φυσιολογικές μεταβολές στη χρήση της γλώσσας ήταν αρκετές για να αυξήσουν σημαντικά τα σφάλματα του συμβατικού ανιχνευτή.

Μπορούμε τελικά να εμπιστευτούμε τους AI detectors;

Η έρευνα, που έχει γίνει δεκτή στο διεθνές επιστημονικό συνέδριο NeurIPS 2026, ανοίγει νέες προοπτικές για την αντιμετώπιση του προβλήματος, χωρίς όμως να το επιλύει οριστικά.

Οι ίδιοι οι επιστήμονες αναγνωρίζουν ότι όσο αυξάνεται η χρήση της τεχνητής νοημοσύνης, τόσο δυσκολότερη γίνεται η συγκέντρωση σύγχρονων κειμένων των οποίων η αποκλειστικά ανθρώπινη προέλευση μπορεί να πιστοποιηθεί.

Υπάρχει, άλλωστε, σημαντική διαφορά μεταξύ ενός κειμένου που δημιουργήθηκε εξ ολοκλήρου από ένα γλωσσικό μοντέλο και ενός ανθρώπινου κειμένου στο οποίο χρησιμοποιήθηκε AI για ορθογραφική διόρθωση ή γλωσσική επιμέλεια.

Ειδικά στην εκπαίδευση, στην επιστημονική κοινότητα και στη δημοσιογραφία, το αποτέλεσμα ενός AI detector δεν μπορεί να αποτελεί από μόνο του αποδεικτικό στοιχείο για την προέλευση ενός κειμένου. Το κόστος μιας λανθασμένης κατηγορίας μπορεί να είναι πολύ μεγαλύτερο από εκείνο της αποτυχίας εντοπισμού ενός αυτοματοποιημένου κειμένου.