Η Microsoft δημοσίευσε κώδικα δεοντολογίας 37 σελίδων για την τεχνητή νοημοσύνη, με κεντρικό μήνυμα ότι οι άνθρωποι έχουν μεγαλύτερη σημασία από την τεχνητή νοημοσύνη. Η ανακοίνωση έρχεται σε περίοδο έντονων ανησυχιών για την ταχύτητα εξέλιξης των μοντέλων και τις δυνατότητες ελέγχου τους.
Η συγκυρία δεν είναι τυχαία. Το προηγούμενο σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε συντονισμένη επιβράδυνση της ανάπτυξης, έπειτα από προειδοποιήσεις ερευνητών ότι η πρόοδος των μοντέλων ενδέχεται να ξεπεράσει την ικανότητά μας να τα αναπτύσσουμε με ασφάλεια και να επαληθεύουμε τις ενέργειες των agents.
Οι θέσεις που διατυπώνονται
Ο κώδικας της Microsoft τοποθετείται με σαφήνεια σε τρία ζητήματα. Πρώτον, ότι τα μοντέλα δεν διαθέτουν συνείδηση και δεν πρέπει να σχεδιάζονται ώστε να τη μιμούνται.
Δεύτερον, η εταιρεία απορρίπτει ρητά την επιδίωξη νομικής προσωπικότητας για τα μοντέλα, καθώς και την ιδέα ότι ενδέχεται να δικαιούνται ευημερία ή δικαιώματα. Τρίτον, δεσμεύεται ότι τα μοντέλα της δεν θα ξεπεράσουν τον ανθρώπινο έλεγχο, με τη διατύπωση να αναφέρει ότι πρέπει να παραμένουν υποδεέστερα της ανθρωπότητας και υπό ουσιαστική ανθρώπινη εποπτεία.
Η διαφωνία με την Anthropic
Οι θέσεις αυτές αποτελούν ευθεία τοποθέτηση απέναντι στην ερευνητική κατεύθυνση που έχει ακολουθήσει η Anthropic, η οποία εξετάζει συστηματικά ζητήματα ευημερίας και πιθανής συνείδησης των μοντέλων.
Ο Amodei είχε δηλώσει νωρίτερα φέτος ότι η εταιρεία του παραμένει ανοιχτή στο ενδεχόμενο τα μοντέλα να διαθέτουν κάποια μορφή συνείδησης. Ο επικεφαλής του τμήματος τεχνητής νοημοσύνης της Microsoft, Mustafa Suleyman, είχε χαρακτηρίσει τις σχετικές εικασίες εξαιρετικά επικίνδυνες σε συνέντευξή του τον Ιούνιο.
Γιατί η διαφωνία δεν είναι θεωρητική
Εδώ αξίζει μια εξήγηση, καθώς η συζήτηση μοιάζει φιλοσοφική αλλά έχει πρακτικές συνέπειες.
Όσοι υποστηρίζουν τη διερεύνηση του ζητήματος επιχειρηματολογούν ότι, εφόσον δεν γνωρίζουμε με βεβαιότητα τι συμβαίνει μέσα σε αυτά τα συστήματα, η προληπτική εξέταση αποτελεί υπεύθυνη στάση. Η αντίθετη πλευρά υποστηρίζει ότι η ίδια η συζήτηση αποπροσανατολίζει από τα υπαρκτά προβλήματα, ενώ ενθαρρύνει τους χρήστες να αναπτύσσουν συναισθηματικές σχέσεις με λογισμικό – με ό,τι αυτό συνεπάγεται για ευάλωτες ομάδες.
Η επιχειρηματική διάσταση
Θα ήταν παράλειψη να αγνοηθεί το εμπορικό πλαίσιο. Η Microsoft δεν συγκαταλέγεται προς το παρόν στους κορυφαίους παρόχους μοντέλων, με τον Suleyman να έχει δηλώσει ότι στόχος της εταιρείας είναι να αποδείξει πως μπορεί να ενταχθεί στα τέσσερα κορυφαία εργαστήρια παγκοσμίως.
Η εταιρεία αναπτύσσει ήδη μοντέλα που θα ανταγωνιστούν εκείνα των Google, Anthropic και OpenAI. Η δημοσίευση ενός κώδικα δεοντολογίας που διαφοροποιείται ρητά από τις θέσεις ανταγωνιστή λειτουργεί επομένως και ως εργαλείο τοποθέτησης στην αγορά – ιδίως απέναντι σε εταιρικούς πελάτες που αναζητούν σαφείς δεσμεύσεις.
Τι σημαίνει για την Ευρώπη
Για τον ευρωπαϊκό χώρο, η συζήτηση έχει άμεση σύνδεση με το ρυθμιστικό πλαίσιο. Ο Κανονισμός για την Τεχνητή Νοημοσύνη στηρίζεται ακριβώς στη λογική της ανθρώπινης εποπτείας, απαιτώντας για συστήματα υψηλού κινδύνου να διατηρείται ουσιαστική δυνατότητα παρέμβασης.
Οι εθελοντικοί κώδικες δεοντολογίας δεν υποκαθιστούν ωστόσο τη νομοθεσία. Αποτελούν δηλώσεις πρόθεσης χωρίς μηχανισμό επιβολής – και η αξία τους θα κριθεί από το αν οι εταιρείες τους τηρούν όταν έρχονται σε σύγκρουση με εμπορικές πιέσεις.
