Skip to content Skip to sidebar Skip to footer

OpenAI και Google έβγαλαν εφαρμογή που εντοπίζει τα deepfake

Η OpenAI έχει θέσει ως πρωταρχικό της στόχο να αλλάξει ριζικά το θολό τοπίο της ψηφιακής δημιουργίας, καθώς ο εντοπισμός μιας εικόνας που έχει παραχθεί εξ ολοκλήρου από αλγόριθμους γίνεται πλέον μια ολοένα και πιο δύσκολη πρόκληση.

Η διαρκής βελτίωση της ποιότητας και της αληθοφάνειας των ψηφιακών δημιουργιών έχει οδηγήσει σε μια άνευ προηγουμένου διάδοση παραπλανητικού οπτικού υλικού, γνωστού στον τεχνολογικό κλάδο και ως AI slop, το οποίο κατακλύζει με ανησυχητικούς ρυθμούς τις ψηφιακές πλατφόρμες.

Αναγνωρίζοντας το μέγεθος του προβλήματος, η OpenAI αποφάσισε να δράσει άμεσα και, προκειμένου να φέρει εις πέρας αυτό το τεράστιο και εξαιρετικά περίπλοκο εγχείρημα, επέλεξε την Google ως τον βασικό της στρατηγικό εταίρο στην προσπάθεια επαλήθευσης ψηφιακών αρχείων.

Η εταιρεία προχώρησε στην επίσημη ανακοίνωση μιας πολύ σημαντικής αναβάθμισης στον τρόπο με τον οποίο διαχειρίζεται την προέλευση του περιεχομένου, διαδικασία που αναφέρεται συχνά με τον όρο content provenance. Πρόκειται ουσιαστικά για τον τεχνικό μηχανισμό μέσω του οποίου το κοινό, οι επαγγελματίες και οι διάφορες πλατφόρμες μπορούν να διαπιστώσουν με ασφάλεια από πού ακριβώς προήλθε μια ψηφιακή εικόνα και, κυρίως, εάν για τη δημιουργία της χρησιμοποιήθηκαν παραγωγικά εργαλεία τεχνητής νοημοσύνης.

Αυτή η νέα, εξαιρετικά φιλόδοξη στρατηγική δεν περιορίζεται απλώς σε ένα μεμονωμένο ψηφιακό εργαλείο, αλλά απαρτίζεται από τρία βασικά, στενά αλληλένδετα μέρη: την πλήρη συμμόρφωση της εταιρείας με τα αυστηρά πρότυπα του C2PA, μια πρωτοποριακή συνεργασία watermarking με τη Google και, τέλος, ένα εντελώς νέο δημόσιο εργαλείο το οποίο μπορεί να χρησιμοποιήσει ο καθένας για να επαληθεύσει μόνος του την αυθεντικότητα των εικόνων που συναντά στο διαδίκτυο.

Η ενσωμάτωση μεταδεδομένων και η συμμόρφωση στο πρότυπο C2PA

Τι αλλάζει λοιπόν στην πράξη με αυτή τη νέα τεχνολογική προσέγγιση που εισάγει η OpenAI στο οικοσύστημά της; Από τις αρχές του 2024, η εταιρεία είχε ήδη ξεκινήσει μια μαζική προσπάθεια να προσθέτει κρυπτογραφικά μεταδεδομένα, τα οποία φέρουν την επίσημη ονομασία Content Credentials, σε όλες ανεξαιρέτως τις εικόνες που δημιουργούνταν από τα δικά της παραγωγικά εργαλεία.

Αυτά τα πολύτιμα μεταδεδομένα ενσωματώνονται βαθιά μέσα στον ίδιο τον κώδικα των παραγόμενων αρχείων εικόνας και περιέχουν σαφείς, κρυπτογραφημένες πληροφορίες που εξηγούν και πιστοποιούν τον ακριβή τρόπο με τον οποίο δημιουργήθηκε το εκάστοτε αρχείο, αφήνοντας ένα ευδιάκριτο ψηφιακό ίχνος.

Η κρίσιμη, ωστόσο, εξέλιξη των ημερών είναι ότι η εταιρεία έχει πλέον καταστεί επισήμως ένας C2PA Conforming Generator. Η τεχνική αυτή πιστοποίηση σημαίνει πρακτικά ότι άλλες τεχνολογικές πλατφόρμες, δημοφιλή κοινωνικά δίκτυα και μεγάλοι οργανισμοί, μπορούν πλέον να διαβάζουν με απόλυτη αξιοπιστία και να εντοπίζουν άμεσα αυτές τις πληροφορίες προέλευσης, κάθε φορά που τα συστήματά τους έρχονται σε επαφή με οπτικό περιεχόμενο.

Αυτό το γεγονός δημιουργεί ένα ισχυρό δίχτυ ασφαλείας και ενισχύει την εμπιστοσύνη στην παγκόσμια ψηφιακή αγορά, καθώς το πρωτόκολλο επικοινωνίας γίνεται κοινό και αναγνωρίσιμο από όλα τα εμπλεκόμενα μέρη της βιομηχανίας.

Η ισχύς του SynthID και η τεχνολογία watermarking της Google

Η μεγαλύτερη και πλέον καθοριστική είδηση, ωστόσο, κρύβεται στη νέα στρατηγική συνεργασία με την Google. Η OpenAI προσθέτει πλέον σταθερά και αθόρυβα την κορυφαία τεχνολογία SynthID, η οποία έχει αναπτυχθεί από το εξειδικευμένο τμήμα Google DeepMind, σε κάθε νέα εικόνα που παράγεται μέσω της δημοφιλούς πλατφόρμας ChatGPT και του επίσημου API της εταιρείας. Η ειδοποιός διαφορά αυτής της πρωτοποριακής τεχνολογίας watermarking σε σχέση με τις παλαιότερες, παραδοσιακές μεθόδους είναι πραγματικά κομβική για την ουσιαστική προστασία των δεδομένων.

Αντίθετα με τα απλά μεταδεδομένα, τα οποία μπορούν πολύ εύκολα να αφαιρεθούν ή να καταστραφούν εσκεμμένα όταν κάποιος χρήστης βγάζει ένα γρήγορο screenshot ή όταν επαναμεταφορτώνει μια εικόνα σε ένα συμπιεσμένο περιβάλλον κοινωνικής δικτύωσης, το σύστημα SynthID ενσωματώνει ένα εντελώς αόρατο watermark απευθείας στα ίδια τα pixels της εικόνας.

Ο τεχνικός αυτός μηχανισμός είναι ειδικά και προσεκτικά σχεδιασμένος ώστε να επιβιώνει από τις συνήθεις ψηφιακές επεμβάσεις και τις βίαιες μετατροπές – όπως η περικοπή, η συμπίεση αρχείων ή η προσθήκη χρωματικών φίλτρων – που υπό κανονικές συνθήκες θα διέγραφαν εντελώς τα ίχνη ενός συμβατικού εντοπισμού. Αυτά τα δύο ανεξάρτητα συστήματα ελέγχου πλέον λειτουργούν απόλυτα αρμονικά. Τα μεταδεδομένα αναλαμβάνουν να μεταφέρουν τις αναλυτικές πληροφορίες προέλευσης, ενώ το αόρατο watermark λειτουργεί ως ένα άτρωτο, εφεδρικό σύστημα ασφαλείας στον πυρήνα της εικόνας.

Η δημόσια πλατφόρμα επαλήθευσης ψηφιακών αρχείων

Για να κάνει όλη αυτή την προηγμένη τεχνολογία άμεσα προσιτή στο ευρύ καταναλωτικό κοινό, η OpenAI διαθέτει πλέον σε μορφή προεπισκόπησης ένα εντελώς νέο, δημόσιο εργαλείο επαλήθευσης. Η διαδικασία ελέγχου έχει σχεδιαστεί για να είναι εξαιρετικά απλή και κατανοητή για τον τελικό χρήστη. Το μόνο που απαιτείται είναι η απευθείας μεταφόρτωση της ύποπτης εικόνας στην κεντρική σελίδα του συστήματος, δίνοντας στον επισκέπτη τον πλήρη έλεγχο της πληροφορίας που καταναλώνει.

Μόλις ολοκληρωθεί το ανέβασμα του αρχείου, το ψηφιακό εργαλείο αναλαμβάνει αυτομάτως να σαρώσει τον κώδικα και τη δομή των pixels για να ελέγξει συνδυαστικά τόσο την ύπαρξη των Content Credentials, όσο και την παρουσία των ανθεκτικών SynthID watermarks. Με αυτόν τον τρόπο προσπαθεί να καθορίσει με τη μέγιστη δυνατή βεβαιότητα εάν η εικόνα παρήχθη πραγματικά με τη χρήση των εργαλείων της αμερικανικής εταιρείας. Αυτή η άμεση και δωρεάν πρόσβαση σε επαγγελματικά εργαλεία ανίχνευσης δίνει στους καθημερινούς χρήστες και τους ερευνητές ένα εξαιρετικά ισχυρό όπλο απέναντι στην καλπάζουσα παραπληροφόρηση.

Οι τεχνολογικοί περιορισμοί και η ανάγκη για καθολική αποδοχή

Παρά τον ενθουσιασμό για τα νέα εργαλεία, υπάρχει μια πολύ σημαντική τεχνική παράμετρος που πρέπει να λαμβάνεται πάντα και σοβαρά υπόψη από όλους μας. Σε περίπτωση που το δημόσιο εργαλείο της OpenAI δεν καταφέρει να εντοπίσει ούτε το κρυφό watermark ούτε τα σχετικά μεταδεδομένα κατά τη διάρκεια της σάρωσης ενός αρχείου, δεν πρόκειται να αποφανθεί οριστικά και αμετάκλητα ότι η εικόνα δεν έχει παραχθεί από κάποιο παραγωγικό μοντέλο.

Αυτό συμβαίνει διότι τόσο η ψηφιακή σήμανση όσο και τα μεταδεδομένα μπορούν ακόμα, υπό πολύ συγκεκριμένες συνθήκες και με τη χρήση εξαιρετικά εξειδικευμένων ψηφιακών εργαλείων, να πλαστογραφηθούν από κακόβουλους χρήστες που επιθυμούν να αποκρύψουν την πραγματική πηγή της εικόνας.

Επιπροσθέτως, πρέπει να επισημανθεί ένα εξίσου σημαντικό κενό στην τρέχουσα αγορά: δεν έχουν προχωρήσει όλες οι εταιρείες του χώρου σε στρατηγικές συνεργασίες με την Google προκειμένου να συμπεριλάβουν την τεχνολογία SynthID στις δικές τους πλατφόρμες παραγωγής εικόνων.

Εκτός εάν το συγκεκριμένο σύστημα watermarking, ή κάποιο άλλο αυστηρά αντίστοιχο και ανοιχτό πρότυπο, υιοθετηθεί καθολικά και υποχρεωτικά από κάθε υπάρχον παραγωγικό μοντέλο της αγοράς, απολύτως κανένα εργαλείο επαλήθευσης δεν πρόκειται ποτέ να είναι σε θέση να εγγυηθεί με απόλυτη βεβαιότητα ότι μια εικόνα δεν έχει δημιουργηθεί από ψηφιακούς αλγόριθμους.

Παρά τους αναπόφευκτους τεχνικούς περιορισμούς, η συγκεκριμένη κίνηση αποτελεί αναμφίβολα ένα τεράστιο και ιδιαιτέρως αποφασιστικό βήμα προς τη σωστή κατεύθυνση.

Οι συνθετικές εικόνες έχουν προκαλέσει ένα πρωτοφανές ψηφιακό χάος και απόλυτο αποπροσανατολισμό τα τελευταία χρόνια, καθώς χρησιμοποιούνται ευρέως για καθαρά δόλιους σκοπούς, από την κατασκευή και διασπορά επικίνδυνων ψευδών ειδήσεων έως την άμεση εξαπάτηση ανυποψίαστων πολιτών. Η δημιουργία και η επιβολή ενός αξιόπιστου, κεντρικού συστήματος αναγνώρισης είναι πλέον απολύτως επιβεβλημένη για την εύρυθμη και διαφανή λειτουργία του σύγχρονου διαδικτύου.

📍 ⏳ Το Χρονικό της Είδησης: DEEPFAKE