Anthropic: Μία τρομακτική δύναμη από AI agents εξελίσουν τους εαυτούς τους

Η Anthropic δημοσίευσε για πρώτη φορά συγκεκριμένα νούμερα για το πόσο μέρος της ανάπτυξης των μοντέλων της εκτελείται πλέον από την ίδια την τεχνητή νοημοσύνη. Το πιο εύγλωττο στοιχείο: το Claude ηγείται του 26% της έρευνας και ανάπτυξης της εταιρείας, όταν τον Φεβρουάριο του 2026 το αντίστοιχο ποσοστό ήταν κάτω από 1%.

Η δημοσίευση αφορά τρεις κατηγορίες μετρήσεων – τον βαθμό στον οποίο η τεχνητή νοημοσύνη χτίζει την επόμενη έκδοση του εαυτού της, τη δυνατότητα εποπτείας των agents που λειτουργούν στα συστήματα της εταιρείας, και την κατανομή της υπολογιστικής ισχύος ανάμεσα σε έρευνα δυνατοτήτων και έρευνα ασφάλειας.

Τι δείχνει ο δείκτης αυτοματοποίησης

Το χρήσιμο κομμάτι είναι και το επικίνδυνο - η νέα λειτουργία του Claude

Η μέτρηση στηρίζεται σε κλίμακα που αναπτύχθηκε από ερευνητικό οργανισμό και εκτείνεται από το επίπεδο μηδέν – καμία εμπλοκή τεχνητής νοημοσύνης – έως το επίπεδο πέντε, όπου το σύστημα λειτουργεί πλήρως αυτόνομα χωρίς άνθρωπο στη διαδικασία.

Τον Αύγουστο του 2026, το Claude δεν λειτουργεί πλήρως αυτόνομα σε κανένα τμήμα της εργασίας. Ηγείται ωστόσο του 26% – μπορεί δηλαδή να ολοκληρώνει το μεγαλύτερο μέρος μιας εργασίας από γενική οδηγία, με τον άνθρωπο σε ρόλο επόπτη. Το ποσοστό της εργασίας που βρίσκεται στο επίπεδο της συνεργασίας ή υψηλότερα ξεπερνά το 90%.

Η ταχύτητα της μεταβολής είναι το πραγματικά αξιοσημείωτο στοιχείο. Από κάτω του 1% σε 26% μέσα σε έξι μήνες – ρυθμός που εξηγεί γιατί η συζήτηση για την επιβράδυνση της ανάπτυξης έχει ενταθεί τόσο απότομα.

Τριάντα χιλιάδες agents ταυτόχρονα

Η δεύτερη κατηγορία μετρήσεων αφορά την εποπτεία. Σύμφωνα με τα στοιχεία, περίπου 30.000 agents εκτελούν ερευνητική και τεχνική εργασία στην εταιρεία ανά πάσα στιγμή, στην πιο ευρέως χρησιμοποιούμενη εσωτερική πλατφόρμα.

Οι ενέργειές τους ελέγχονται από δύο τύπους μηχανισμών παρακολούθησης, με τρεις δείκτες να καταγράφονται: το ποσοστό των ενεργειών που περνούν από έλεγχο, ο χρόνος που μεσολαβεί μέχρι την εξέταση μιας ενέργειας και το ποσοστό των δραστηριοτήτων που μπλοκάρονται ή επισημαίνονται για περαιτέρω έλεγχο.

Η εταιρεία αναγνωρίζει ρητά το όριο αυτής της προσέγγισης: τα μεμονωμένα περιστατικά κακής συμπεριφοράς είναι σπάνια, όταν όμως λειτουργούν εκατομμύρια ή δισεκατομμύρια agents, ακόμη και σπάνια γεγονότα συμβαίνουν τακτικά.

Το νούμερο που προκαλεί ερωτήματα

Το Claude διαβάζει πλέον τις καρτέλες σου και συνεχίζει τη δουλειά στον υπολογιστή

Η τρίτη μέτρηση είναι και η πιο αμφιλεγόμενη. Κατά την εβδομάδα που εξετάστηκε, περίπου 6% της υπολογιστικής ισχύος που διατέθηκε σε έρευνα και ανάπτυξη κατευθύνθηκε σε εργασίες ασφάλειας. Το ποσοστό ανεβαίνει στο 12% όταν εξετάζεται αποκλειστικά η έρευνα που οδηγείται από τεχνητή νοημοσύνη.

Η εταιρεία σπεύδει να διευκρινίσει ότι πρόκειται για συντηρητικές εκτιμήσεις – όταν μια εργασία εξυπηρετούσε εξίσου τις δυνατότητες και την ασφάλεια, καταγραφόταν στην πρώτη κατηγορία. Επισημαίνει επίσης ότι η έρευνα ασφάλειας καταναλώνει εκ φύσεως λιγότερη ισχύ, καθώς στηρίζεται σε σχεδιασμό πειραμάτων από ερευνητές και όχι σε μαζικούς κύκλους εκπαίδευσης.

Η διευκρίνιση είναι εύλογη. Δεν αναιρεί ωστόσο το γεγονός ότι ο συντριπτικός όγκος των πόρων κατευθύνεται στην ενίσχυση των δυνατοτήτων και όχι στον έλεγχό τους.

Γιατί δημοσιεύονται αυτά τα στοιχεία

Το CLAUDE Opus 5 φτάνει «κοντά» στο κορυφαίο μοντέλο της Anthropic — και η κυβέρνηση παρακολουθεί

Η χρονική συγκυρία δεν είναι τυχαία. Η δημοσίευση ακολουθεί την παραίτηση ερευνητή της εταιρείας που κατήγγειλε ανεύθυνη κούρσα προς την υπερνοημοσύνη, καθώς και το κείμενο του διευθύνοντος συμβούλου Dario Amodei για την ανάγκη συντονισμένης επιβράδυνσης.

Η εταιρεία ανακοινώνει παράλληλα ότι θα εντάξει ανεξάρτητους αξιολογητές από πολλαπλούς οργανισμούς στις εσωτερικές της διαδικασίες, με πρόσβαση σε συστήματα και δεδομένα αντίστοιχη με εκείνη των εσωτερικών ομάδων αξιολόγησης κινδύνου.

Τι πρέπει να προσεχθεί

Εδώ χρειάζεται η απαραίτητη κριτική ματιά. Οι μετρήσεις παράγονται από την ίδια την εταιρεία, με δικά της μοντέλα να αξιολογούν δικά της συστήματα – πρόβλημα που η ίδια αναγνωρίζει, σημειώνοντας ότι το μοντέλο-κριτής ενδέχεται να επαναλαμβάνει τα σφάλματα εκείνου που ελέγχει.

Δεν υπάρχει επίσης κοινή μεθοδολογία που θα επέτρεπε σύγκριση ανάμεσα σε εργαστήρια. Η ίδια η εταιρεία προτείνει τη δημιουργία τέτοιου προτύπου, χωρίς αυτό να υφίσταται σήμερα.

Για την Ευρώπη, η πρωτοβουλία έχει άμεσο ενδιαφέρον. Ο Κανονισμός για την Τεχνητή Νοημοσύνη απαιτεί ήδη διαφάνεια και αναφορά κινδύνων για μοντέλα γενικού σκοπού με συστημικό κίνδυνο. Μετρήσεις αυτού του τύπου δείχνουν τι θα μπορούσε πρακτικά να απαιτήσουν οι ευρωπαϊκές αρχές – με τη διαφορά ότι η εθελοντική δημοσίευση δεν υποκαθιστά τον υποχρεωτικό έλεγχο από ανεξάρτητη αρχή.