Η Anthropic βρίσκεται στο επίκεντρο έντονης συζήτησης, καθώς ερευνητής της παραιτήθηκε δημόσια κατηγορώντας την εταιρεία και τους ανταγωνιστές της ότι κινούνται ανεύθυνα προς την αυτοβελτιούμενη υπερνοημοσύνη. Λίγες ώρες αργότερα, ο επικεφαλής alignment της ίδιας εταιρείας επιβεβαίωσε δημόσια τις ανησυχίες, εκτιμώντας ότι η πιθανότητα η τεχνητή νοημοσύνη να εξοντώσει την ανθρωπότητα μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Ο Jacob Coxon, ο οποίος εργάστηκε τα τελευταία τρία χρόνια σε έρευνα pretraining τόσο στην OpenAI όσο και στην Anthropic, ανακοίνωσε την παραίτησή του στις 8 Σεπτεμβρίου μέσα από ανάρτηση στο X. Η αποχώρησή του αναφέρθηκε αρχικά από τη Wall Street Journal.
Οι κατηγορίες που διατυπώθηκαν
Η τοποθέτησή του δεν αφήνει περιθώρια παρερμηνείας. Υποστήριξε ότι καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα και ότι τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας με τις ζωές όλων.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Προειδοποίησε επίσης ότι τα μελλοντικά συστήματα θα μπορούν να παραβιάζουν οτιδήποτε, να ανατρέπουν ολόκληρους τομείς μέσα σε μία νύχτα και να αποκτούν πραγματική εξουσία και πόρους. Το βαρύτερο σημείο της ανάρτησής του αφορά ωστόσο όσα λέγονται εκτός δημοσιότητας: όπως ανέφερε, όσοι κατασκευάζουν αυτά τα συστήματα πιστεύουν ειλικρινά ότι μπορούν να εξοντώσουν την ανθρωπότητα έως το τέλος της δεκαετίας, ενώ πολλά στελέχη διατυπώνουν δημοσίως μετριοπαθείς θέσεις και ιδιωτικά εκφράζουν τον ίδιο φόβο.
Η επιβεβαίωση από την ίδια την εταιρεία
Η ανάρτηση θα μπορούσε να θεωρηθεί μεμονωμένη τοποθέτηση αποχωρούντος εργαζομένου, αν δεν είχε ακολουθήσει η δημόσια στήριξη από στέλεχος που παραμένει στην εταιρεία.
Ο Evan Hubinger, Alignment Science Lead της Anthropic, δήλωσε ότι ο συνάδελφός του έχει δίκιο και ότι πράγματι πιστεύουν ειλικρινά πως η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Τοποθέτησε την προσωπική του εκτίμηση σε πάνω από 10% μέσα στην επόμενη δεκαετία, προσθέτοντας ότι, παρότι θεωρεί πως η εταιρεία καταβάλλει κάθε προσπάθεια, δεν υπάρχει ακόμη σχέδιο για την επίλυση του alignment στην υπερνοημοσύνη – ούτε φαίνεται να βρίσκονται σε τροχιά προς κάτι τέτοιο.
Σε επόμενη ανάρτηση διευκρίνισε ότι ο κίνδυνος από τα σημερινά μοντέλα παραμένει χαμηλός, επικαλούμενος τη σχετική έκθεση της εταιρείας. Η ανησυχία του, όπως ανέφερε, αφορά την υπερνοημοσύνη που θα προκύψει από recursive self-improvement – διαδικασία η οποία, σύμφωνα με τα λεγόμενά του, εξελίσσεται ταχύτερα από όσο αναμενόταν.
Τι είναι το recursive self-improvement
Πρόκειται για την ιδέα ότι ένα σύστημα μπορεί να βελτιώνει τον εαυτό του χωρίς ουσιαστική ανθρώπινη παρέμβαση, όπου κάθε νέα έκδοση του μοντέλου AI σχεδιάζει μια ακόμη ικανότερη έκδοση.
Η δυνατότητα αυτή δεν έχει επιτευχθεί ακόμη, αποτελεί ωστόσο στόχο των μεγάλων εργαστηρίων AI- ενώ σημαντικό μέρος του κώδικα που γράφεται σήμερα στον κλάδο παράγεται ήδη με τη βοήθεια τεχνητής νοημοσύνης. Ο ερευνητής που παραιτήθηκε δήλωσε στη Wall Street Journal ότι θεωρεί πιθανά τα πιο επιθετικά σενάρια, με τα πράγματα να ξεφεύγουν από κάθε έλεγχο ήδη μέχρι το τέλος του επόμενου έτους.
Τι πρέπει να ληφθεί υπόψη
Η αξιολόγηση τέτοιων δηλώσεων απαιτεί ψυχραιμία και από τις δύο πλευρές. Δεν πρόκειται για ακτιβιστές εκτός κλάδου αλλά για ανθρώπους που εργάζονται στα ίδια τα εργαστήρια – στοιχείο που προσδίδει βαρύτητα.
Ταυτόχρονα, οι εκτιμήσεις αυτές παραμένουν προσωπικές και δεν στηρίζονται σε μετρήσιμη μεθοδολογία. Η απόδοση ποσοστού 10% σε ένα γεγονός που δεν έχει προηγούμενο δεν αποτελεί στατιστική πρόβλεψη αλλά υποκειμενική εκτίμηση. Δεν πρόκειται εξάλλου για την πρώτη τέτοια αποχώρηση: νωρίτερα φέτος είχε παραιτηθεί από την ομάδα ασφαλείας της εταιρείας άλλος ερευνητής για αντίστοιχους λόγους. Στις απαντήσεις κάτω από τις σχετικές αναρτήσεις καταγράφηκαν επίσης έντονες αντιδράσεις από όσους θεωρούν υπερβολικά τα σενάρια εξαφάνισης.
Γιατί αφορά και την Ευρώπη
Η συζήτηση αποκτά συγκεκριμένη διάσταση στο ευρωπαϊκό πλαίσιο. Ο Κανονισμός για την Τεχνητή Νοημοσύνη προβλέπει ήδη υποχρεώσεις για μοντέλα γενικού σκοπού με συστημικό κίνδυνο, ανάμεσά τους αξιολόγηση, αναφορά σοβαρών περιστατικών και μέτρα κυβερνοασφάλειας.
Δηλώσεις αυτού του τύπου, προερχόμενες από στελέχη που εργάζονται στα ίδια τα εργαστήρια, τροφοδοτούν άμεσα τη συζήτηση για το αν οι υποχρεώσεις αυτές επαρκούν. Το ερώτημα δεν είναι πλέον θεωρητικό: όταν η εταιρεία που έχει χτίσει τη δημόσια εικόνα της γύρω από την ασφάλεια παραδέχεται ότι δεν διαθέτει σχέδιο για το επόμενο στάδιο, το βάρος μετατοπίζεται αναπόφευκτα στους ρυθμιστές.
