Η ανίχνευση απάτης στις συνομιλίες περνά σε μια νέα εποχή, καθώς η Google DeepMind και η κρατική υπηρεσία τεχνολογίας GovTech της Σιγκαπούρης ανακοίνωσαν την ανάπτυξη ενός συστήματος τεχνητής νοημοσύνης που μπορεί να αναγνωρίζει ύποπτες προσπάθειες εξαπάτησης μέσα από προσωπικά μηνύματα. Η σημαντικότερη καινοτομία είναι ότι η ανάλυση πραγματοποιείται απευθείας στο smartphone, χωρίς να χρειάζεται το περιεχόμενο των συνομιλιών να αποστέλλεται σε εξωτερικούς cloud servers.
Η νέα τεχνολογία βασίζεται στο Gemma της Google, ένα ελαφρύ μοντέλο τεχνητής νοημοσύνης που έχει προσαρμοστεί ειδικά για την αναγνώριση τεχνικών κοινωνικής μηχανικής. Αντί να αναζητά αποκλειστικά ύποπτους συνδέσμους ή γνωστές λέξεις που χρησιμοποιούν οι απατεώνες, εξετάζει τον τρόπο με τον οποίο εξελίσσεται μια συνομιλία, εντοπίζοντας πιθανά σημάδια χειραγώγησης. Το σύστημα παρουσιάστηκε στο Singapore International Cyber Week 2026 και προορίζεται αρχικά για σταδιακή ενσωμάτωση σε εφαρμογές στη Σιγκαπούρη.
Η AI αναγνωρίζει πότε μια συνομιλία γίνεται επικίνδυνη
Οι ψηφιακές απάτες έχουν εξελιχθεί σημαντικά τα τελευταία χρόνια. Οι επιτήδειοι δεν περιορίζονται πλέον στην αποστολή ενός κακόβουλου συνδέσμου ή ενός μηνύματος που ζητά άμεσα τραπεζικά στοιχεία.
Συχνά προσποιούνται ότι εκπροσωπούν τράπεζες, δημόσιες υπηρεσίες ή γνωστά πρόσωπα και προσπαθούν να αποκτήσουν σταδιακά την εμπιστοσύνη του θύματος.
Μια τέτοια απόπειρα μπορεί να ξεκινήσει με μια φαινομενικά αθώα συζήτηση και να καταλήξει σε αίτημα μεταφοράς χρημάτων ή αποκάλυψης προσωπικών κωδικών.
Ακριβώς αυτή τη συμπεριφορά επιχειρεί να αναγνωρίσει η νέα τεχνολογία της Google DeepMind.
Το μοντέλο εξετάζει το ευρύτερο πλαίσιο μιας συνομιλίας και αναζητά μοτίβα που παραπέμπουν σε πίεση, εξαπάτηση ή προσπάθεια απόσπασης ευαίσθητων πληροφοριών.
Εφόσον εντοπίσει πιθανή απειλή, εμφανίζει προειδοποίηση στην οθόνη της συσκευής, προτρέποντας τον χρήστη να αξιολογήσει προσεκτικά την κατάσταση πριν πραγματοποιήσει οποιαδήποτε ενέργεια.
Πώς λειτουργεί το σύστημα σε δύο στάδια
Η Google DeepMind επέλεξε μια αρχιτεκτονική δύο επιπέδων, με στόχο την αποτελεσματική ανίχνευση απάτης χωρίς υπερβολική κατανάλωση ενέργειας.
Στο πρώτο στάδιο, ένας μικρός classifier εξετάζει τα εισερχόμενα μηνύματα, αναζητώντας ενδείξεις πιθανής απάτης.
Η συγκεκριμένη διαδικασία έχει περιορισμένες υπολογιστικές απαιτήσεις, ώστε να μπορεί να λειτουργεί σε συνηθισμένα smartphones χωρίς να επιβαρύνει σημαντικά την μπαταρία.
Εφόσον δεν εντοπιστεί κάτι ύποπτο, δεν χρειάζεται να ενεργοποιηθεί το μεγαλύτερο AI μοντέλο.
Αν όμως ο classifier αναγνωρίσει πιθανό κίνδυνο, ενεργοποιείται το δεύτερο στάδιο, στο οποίο αναλαμβάνει η εξειδικευμένη έκδοση του Gemma.
Το μοντέλο εξετάζει μεγαλύτερο τμήμα της συνομιλίας, αξιολογώντας αν τα μηνύματα αποτελούν πραγματική ένδειξη εξαπάτησης ή μια συνηθισμένη επικοινωνία που παρερμηνεύτηκε από τον αρχικό έλεγχο.
Η προσέγγιση επιχειρεί να συνδυάσει την ταχύτητα με την αποτελεσματικότερη κατανόηση του περιεχομένου, περιορίζοντας παράλληλα τις περιττές προειδοποιήσεις.
Οι προσωπικές συνομιλίες παραμένουν στη συσκευή
Το σημαντικότερο χαρακτηριστικό της νέας λύσης είναι ο τρόπος προστασίας των προσωπικών δεδομένων.
Η ανάλυση πραγματοποιείται τοπικά, χωρίς να απαιτείται η αποστολή των μηνυμάτων σε servers της Google ή της κυβέρνησης της Σιγκαπούρης.
Αυτό έχει ιδιαίτερη σημασία για τις εφαρμογές που χρησιμοποιούν end-to-end encryption, καθώς το περιεχόμενο των μηνυμάτων προστατεύεται κατά τη μεταφορά του μεταξύ των συνομιλητών.
Η νέα τεχνολογία επιχειρεί να προσφέρει ένα πρόσθετο επίπεδο προστασίας, εξετάζοντας το περιεχόμενο στο ίδιο το smartphone, όπου ο χρήστης έχει ήδη πρόσβαση στα μηνύματά του.
Η Google DeepMind διευκρινίζει ότι η ενεργοποίηση της λειτουργίας θα απαιτεί τη συγκατάθεση του χρήστη και θα εξαρτάται από τους όρους και τις δυνατότητες της εφαρμογής στην οποία θα ενσωματωθεί.
Αυτό σημαίνει ότι το σύστημα δεν αποκτά αυτόματα πρόσβαση σε όλες τις συνομιλίες που υπάρχουν στη συσκευή.
Εκπαίδευση σε πραγματικές μεθόδους εξαπάτησης
Η ανάπτυξη της τεχνολογίας πραγματοποιήθηκε με βάση μεθόδους εξαπάτησης που έχουν καταγραφεί στη Σιγκαπούρη.
Η εξειδικευμένη έκδοση του Gemma εκπαιδεύτηκε με ανωνυμοποιημένα δεδομένα από αναφορές απατών και πληροφορίες για εγκληματικές δραστηριότητες, χωρίς να χρησιμοποιούνται ιδιωτικά δεδομένα ταυτοποίησης πολιτών.
Η διαδικασία προσαρμογής του μοντέλου πραγματοποιήθηκε σε ελεγχόμενο περιβάλλον cloud που διαχειρίζεται η GovTech.
Οι ερευνητές πραγματοποίησαν επίσης δοκιμές με συνθετικούς διαλόγους και τοπικά σύνολα δεδομένων, εξετάζοντας διαφορετικές μεθόδους κοινωνικής μηχανικής.
Η επιλογή της Σιγκαπούρης δεν είναι τυχαία. Σύμφωνα με τα στοιχεία που παρουσιάζει η Google DeepMind, οι απάτες αντιπροσωπεύουν περισσότερο από το μισό των καταγεγραμμένων εγκλημάτων στη χώρα, με οικονομικές απώλειες που ξεπερνούν τα 4 δισ. δολάρια Σιγκαπούρης από το 2019.
Οι πιο σύνθετες μορφές κοινωνικής μηχανικής ευθύνονται πλέον για ποσοστό που μπορεί να φτάνει το 80% των συνολικών οικονομικών απωλειών.
Πότε θα έρθει σε Android και Ελλάδα
Η νέα τεχνολογία βρίσκεται σε στάδιο προετοιμασίας για σταδιακή εφαρμογή στη Σιγκαπούρη, με αρχικό προσανατολισμό σε συσκευές Android.
Η Google δεν έχει ανακοινώσει ακόμη συγκεκριμένη ημερομηνία γενικής διάθεσης, ούτε έχει διευκρινίσει ποιες εφαρμογές ανταλλαγής μηνυμάτων θα υποστηρίζονται πρώτες.
Αντίστοιχα, δεν υπάρχει επίσημη ανακοίνωση για κυκλοφορία στην Ελλάδα ή στην υπόλοιπη Ευρώπη.
Η εταιρεία αφήνει ανοιχτό το ενδεχόμενο επέκτασης της τεχνολογίας σε άλλες χώρες, εφόσον προχωρήσει επιτυχώς η αρχική εφαρμογή της.
Παραμένει επίσης άγνωστη η αποτελεσματικότητά της σε ευρεία πραγματική χρήση, καθώς δεν έχουν δημοσιοποιηθεί αναλυτικά ποσοστά ακρίβειας, λανθασμένων προειδοποιήσεων ή απειλών που ενδέχεται να μην εντοπίζονται.
Η εξέλιξη, πάντως, δείχνει μια σημαντική αλλαγή στην κυβερνοασφάλεια των smartphones.
Η ανίχνευση απάτης δεν περιορίζεται πλέον στην αναγνώριση επικίνδυνων ιστοσελίδων και γνωστών κακόβουλων μηνυμάτων, αλλά επεκτείνεται στην προσπάθεια κατανόησης των τεχνικών χειραγώγησης που χρησιμοποιούνται σε ολόκληρες συνομιλίες.
Εφόσον αποδειχθεί αποτελεσματική και διατηρήσει τις εγγυήσεις ιδιωτικότητας, η συγκεκριμένη προσέγγιση θα μπορούσε να αποτελέσει σημαντικό εργαλείο προστασίας από ψηφιακές απάτες, χωρίς να απαιτείται η μεταφορά προσωπικών επικοινωνιών στο cloud.
