Στην εποχή της Τεχνητής Νοημοσύνης, η γραμμή μεταξύ πραγματικότητας και ψηφιακής κατασκευής γίνεται ολοένα και πιο δυσδιάκριτη. Αυτή η αλήθεια επιβεβαιώθηκε με τον πιο ηχηρό τρόπο τις τελευταίες ημέρες, όταν ένα βίντεο που δημιουργήθηκε από το νέο εργαλείο της ByteDance, το Seedance 2.0 –της μητρικής εταιρείας του TikTok– έγινε viral, προκαλώντας θαυμασμό για τις τεχνικές του δυνατότητες αλλά και έντονη ανησυχία για τις ηθικές του προεκτάσεις.
H εταιρεία αναγκάστηκε να προβεί σε άμεσες δηλώσεις, υποσχόμενη να ενισχύσει τα μέτρα ασφαλείας της πλατφόρμας της.
Το επίμαχο κλιπ απεικόνιζε δύο από τους μεγαλύτερους αστέρες του Χόλιγουντ, τον Tom Cruise και τον Brad Pitt, σε μια σκηνή που θύμιζε έντονα την αισθητική της ταινίας Fight Club. Η λεπτομέρεια, ο φωτισμός και η φυσικότητα των κινήσεων ήταν σε τέτοιο επίπεδο που πολλοί χρήστες δυσκολεύτηκαν να πιστέψουν ότι δεν πρόκειται για πραγματικά πλάνα, αλλά για προϊόν αλγορίθμων.
📍 Η εξέλιξη της είδησης: seedance
Το εργαλείο Seedance 2.0 και η δύναμη της εικόνας
Το βίντεο δημιουργήθηκε χρησιμοποιώντας το Seedance 2.0, το νέο μοντέλο παραγωγής βίντεο από κείμενο (text-to-video) που λάνσαρε η ByteDance. Το Seedance 2.0 αποτελεί την απάντηση του κινεζικού κολοσσού στο Sora της OpenAI και το Kling της Kuaishou, προσφέροντας βελτιωμένη κίνηση και φωτορεαλισμό. Επιτρέπει στους χρήστες να πληκτρολογούν σενάρια και να λαμβάνουν ως αποτέλεσμα βίντεο υψηλής ευκρίνειας.
Ωστόσο, η ευκολία με την οποία το εργαλείο μπόρεσε να αναπαράγει τα πρόσωπα και τις εκφράσεις διάσημων ηθοποιών χωρίς τη συγκατάθεσή τους, ανέδειξε αμέσως το τεράστιο κενό ασφαλείας. Το βίντεο με τους Cruise και Pitt δεν ήταν απλώς ένα αστείο· ήταν μια επίδειξη δύναμης που απέδειξε ότι η τεχνολογία deepfake έχει φτάσει σε επίπεδα που μπορούν να παραπλανήσουν μαζικά την κοινή γνώμη.
Η αντίδραση της ByteDance: «Θα το διορθώσουμε»
Αντιμέτωπη με τον κίνδυνο ρυθμιστικών παρεμβάσεων και νομικών προσφυγών, η ByteDance κινήθηκε γρήγορα. Εκπρόσωπος της εταιρείας δήλωσε ότι η πλατφόρμα θα ενισχύσει άμεσα τους μηχανισμούς ελέγχου περιεχομένου στο Seedance 2.0.
Συγκεκριμένα, η εταιρεία δεσμεύτηκε για τα εξής μέτρα:
- Αυστηρότερη Σήμανση (Watermarking): Όλα τα βίντεο που παράγονται από το Seedance 2.0 θα φέρουν ευδιάκριτη και μόνιμη σήμανση που θα ενημερώνει τον θεατή ότι πρόκειται για περιεχόμενο δημιουργημένο από Τεχνητή Νοημοσύνη. Στόχος είναι να μην υπάρχει καμία αμφιβολία για την προέλευση του υλικού.
- Φίλτρα Αναγνώρισης Προσώπου: Θα ενσωματωθούν αλγόριθμοι που θα μπλοκάρουν αυτόματα τη δημιουργία βίντεο που χρησιμοποιούν τα χαρακτηριστικά γνωστών δημοσίων προσώπων, πολιτικών και διασημοτήτων, εκτός αν υπάρχει ρητή άδεια.
- Έλεγχος των Prompts: Το σύστημα θα απορρίπτει εντολές κειμένου (prompts) που ζητούν ρητά τη δημιουργία παραπλανητικού υλικού ή deepfakes υπαρκτών προσώπων.
