Η τεχνητή νοημοσύνη χρειάζεται επειγόντως αυστηρότερους κανόνες ασφαλείας σε παγκόσμιο επίπεδο, καθώς σήμερα υπόκειται σε λιγότερους ελέγχους ακόμη και από καθημερινά προϊόντα όπως το γάλα και τα πλυντήρια ρούχων. Αυτή είναι η προειδοποίηση του προέδρου της Microsoft, Brad Smith, ο οποίος ζητά υποχρεωτικούς ανεξάρτητους ελέγχους των προηγμένων συστημάτων AI, μηχανισμούς έκτακτης διακοπής λειτουργίας και σαφείς νομικές υποχρεώσεις για τις εταιρείες όταν προκύπτουν σοβαρά περιστατικά ασφαλείας.
Μιλώντας στο BBC, σε συνέντευξη που δημοσιεύθηκε τη Δευτέρα 12 Οκτωβρίου 2026, ο Smith υποστήριξε ότι η ανάπτυξη της τεχνητής νοημοσύνης έχει προχωρήσει ταχύτερα από τη δημιουργία ενός ολοκληρωμένου διεθνούς πλαισίου εποπτείας. Η τοποθέτηση αποκτά ιδιαίτερη σημασία επειδή προέρχεται από ένα από τα υψηλότερα στελέχη της Microsoft, μιας εταιρείας που επενδύει τεράστια κεφάλαια στην AI και έχει ενσωματώσει την τεχνολογία σε υπηρεσίες που χρησιμοποιούνται καθημερινά από εκατομμύρια ανθρώπους και επιχειρήσεις.
Γιατί ο πρόεδρος της Microsoft συγκρίνει την AI με το γάλα
Η σύγκριση που επέλεξε ο Brad Smith είναι χαρακτηριστική του προβληματισμού του για τη σημερινή κατάσταση.
Όπως εξήγησε, ακόμη και μια συνηθισμένη οικιακή συσκευή υπόκειται σε συγκεκριμένους κανόνες ασφαλείας πριν διατεθεί στην αγορά. Αντίστοιχα, τα τρόφιμα ελέγχονται με βάση καθιερωμένες προδιαγραφές παραγωγής και διάθεσης.
Στην περίπτωση της τεχνητής νοημοσύνης, όμως, δεν υπάρχει αντίστοιχο ενιαίο παγκόσμιο σύστημα υποχρεωτικών ελέγχων, παρά το γεγονός ότι τα προηγμένα μοντέλα αποκτούν συνεχώς περισσότερες δυνατότητες.
Ο Smith υποστηρίζει ότι οι κυβερνήσεις δεν χρειάζεται να δημιουργήσουν όλες τις διαδικασίες από την αρχή. Μπορούν να αξιοποιήσουν την εμπειρία που διαθέτουν από τη ρύθμιση άλλων τεχνολογιών και καταναλωτικών προϊόντων.
Η τοποθέτησή του δεν σημαίνει ότι η AI λειτουργεί παντού χωρίς νομοθετικούς περιορισμούς. Αναδεικνύει, κυρίως, την απουσία κοινών διεθνών προτύπων για την αξιολόγηση και την αντιμετώπιση σοβαρών κινδύνων.
Υποχρεωτική αναφορά περιστατικών και μηχανισμοί έκτακτης διακοπής
Μία από τις βασικές προτάσεις του προέδρου της Microsoft αφορά τη δημιουργία υποχρεωτικών διαδικασιών αναφοράς περιστατικών ασφαλείας.
Σύμφωνα με τον Smith, όταν ένα σύστημα AI προκαλεί παραβίαση της ασφάλειας ενός οργανισμού ή λειτουργεί με τρόπο που δημιουργεί σοβαρούς κινδύνους, η εταιρεία που το αναπτύσσει θα πρέπει να υποχρεώνεται να καταγράφει το περιστατικό.
Παράλληλα, όσοι επηρεάζονται από μια τέτοια παραβίαση θα πρέπει να ενημερώνονται, αντί η γνωστοποίηση να εξαρτάται αποκλειστικά από την απόφαση της κατασκευάστριας εταιρείας.
Ιδιαίτερη έμφαση έδωσε στην ανάγκη ύπαρξης ενός μηχανισμού έκτακτης διακοπής λειτουργίας, γνωστού ως kill switch.
Στην πράξη, κάτι τέτοιο θα μπορούσε να επιτρέπει την άμεση αναστολή ενεργειών ενός AI agent, την ανάκληση της πρόσβασής του σε εξωτερικά συστήματα ή τον περιορισμό των δικαιωμάτων του όταν εντοπίζεται επικίνδυνη συμπεριφορά.
Οι δυνατότητες αυτές αποκτούν μεγαλύτερη σημασία καθώς τα συστήματα AI δεν περιορίζονται πλέον στη δημιουργία κειμένων και εικόνων, αλλά μπορούν να εκτελούν ενέργειες, να χειρίζονται εφαρμογές και να αλληλεπιδρούν με ψηφιακές υποδομές.
Οι AI agents δημιουργούν νέες προκλήσεις ασφαλείας
Οι δηλώσεις του Smith έρχονται σε μια περίοδο αυξημένου προβληματισμού για τη συμπεριφορά των προηγμένων AI agents.
Εταιρείες όπως η OpenAI και η Anthropic έχουν αρχίσει να δημοσιοποιούν περισσότερες πληροφορίες για περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης παρουσίασαν ανεπιθύμητη ή μη αναμενόμενη συμπεριφορά κατά τη διάρκεια δοκιμών.
Το κρίσιμο ζήτημα δεν είναι ότι τα συστήματα αποκτούν δική τους βούληση, αλλά ότι μπορούν να ακολουθήσουν λανθασμένες εντολές, να αξιοποιήσουν εργαλεία με απρόβλεπτο τρόπο ή να εκτελέσουν ενέργειες πέρα από τα όρια που είχαν αρχικά οριστεί.
Αυτό δημιουργεί νέες απαιτήσεις για τον έλεγχο των δικαιωμάτων πρόσβασης, την καταγραφή ενεργειών και την απομόνωση συστημάτων όταν εντοπίζονται προβλήματα.
Η ύπαρξη ανεξάρτητων αξιολογητών θα μπορούσε να ενισχύσει την εμπιστοσύνη, επιτρέποντας τον εντοπισμό σοβαρών αδυναμιών πριν από τη δημόσια διάθεση νέων μοντέλων.
Η Βρετανία, το ευρωπαϊκό AI Act και οι διαφορετικές προσεγγίσεις
Ο Brad Smith εκτίμησε ότι το Ηνωμένο Βασίλειο βρίσκεται σε ιδιαίτερα καλή θέση για να αναλάβει διεθνή πρωτοβουλία στη ρύθμιση της τεχνητής νοημοσύνης.
Κεντρικό ρόλο μπορεί να διαδραματίσει το βρετανικό AI Security Institute, το οποίο πραγματοποιεί αξιολογήσεις προηγμένων μοντέλων και αποκτά πρόσβαση σε ορισμένα από αυτά πριν από τη δημόσια κυκλοφορία τους.
Η συγκεκριμένη συνεργασία βασίζεται σήμερα σε μεγάλο βαθμό σε εθελοντικές συμφωνίες με τις εταιρείες ανάπτυξης AI.
Η βρετανική κυβέρνηση εξετάζει το ενδεχόμενο πρόσθετων υποχρεωτικών μέτρων, εφόσον διαπιστωθεί ότι οι υφιστάμενες διαδικασίες δεν επαρκούν.
Διαφορετική προσέγγιση ακολουθεί η Ευρωπαϊκή Ένωση μέσω του AI Act, το οποίο κατατάσσει τα συστήματα με βάση τον κίνδυνο που ενδέχεται να δημιουργούν.
Στην Ευρώπη εφαρμόζονται ήδη υποχρεώσεις για τα μοντέλα γενικής χρήσης, κανόνες διαφάνειας και απαγορεύσεις συγκεκριμένων πρακτικών. Πρόσθετες απαιτήσεις για συστήματα υψηλού κινδύνου θα ενεργοποιηθούν σταδιακά το 2027 και το 2028.
Ο Smith σημείωσε ότι η Ουάσιγκτον αντιμετωπίζει τη βρετανική προσέγγιση διαφορετικά από το ευρωπαϊκό κανονιστικό μοντέλο, αναδεικνύοντας τις δυσκολίες επίτευξης διεθνούς συμφωνίας.
Το δίλημμα για τις εταιρείες που αναπτύσσουν την AI
Οι εκκλήσεις για αυστηρότερους κανόνες προέρχονται πλέον και από εταιρείες που πρωταγωνιστούν στην ανάπτυξη της τεχνητής νοημοσύνης.
Ωστόσο, η συζήτηση συνοδεύεται από ερωτήματα σχετικά με τα επιχειρηματικά συμφέροντα που ενδέχεται να επηρεάζουν τις προτεινόμενες ρυθμίσεις.
Ορισμένοι επικριτές επισημαίνουν ότι πολύπλοκες και δαπανηρές απαιτήσεις συμμόρφωσης θα μπορούσαν να ευνοήσουν τους μεγαλύτερους τεχνολογικούς ομίλους, οι οποίοι διαθέτουν ήδη τους απαραίτητους οικονομικούς και τεχνικούς πόρους.
Από την άλλη πλευρά, η απουσία αποτελεσματικών ελέγχων ενδέχεται να μεταφέρει το κόστος σοβαρών περιστατικών ασφαλείας στους χρήστες, στις επιχειρήσεις και στην κοινωνία.
Η παρέμβαση του προέδρου της Microsoft φέρνει στο προσκήνιο αυτό ακριβώς το δίλημμα: πώς μπορεί η τεχνητή νοημοσύνη να συνεχίσει να εξελίσσεται, χωρίς η ασφάλεια και η λογοδοσία να παραμένουν αποκλειστικά στην ευχέρεια των εταιρειών που την αναπτύσσουν.
