Ένα προσχέδιο κώδικα δεοντολογίας για τα συστήματα τεχνητής νοημοσύνης που έχει δημιουργήσει παρουσίασε τη Δευτέρα η Microsoft, γεγονός που υποδηλώνει την αυξανόμενη ανησυχία του κλάδου ότι οι εταιρείες πρέπει να διατηρούν υπό έλεγχο τα συστήματα τεχνητής νοημοσύνης.
Το έγγραφο, το οποίο επεξεργαζόταν εδώ και πέντε με έξι μήνες η εταιρεία, προβλέπει ότι η τεχνητή νοημοσύνη της Microsoft δεν θα πρέπει ποτέ να αντιστέκεται στην ανθρώπινη διόρθωση ή στον τερματισμό της λειτουργίας της. Παράλληλα, θα πρέπει να επικοινωνεί με τρόπο κατανοητό από τους ανθρώπους και να αντιμετωπίζει κάθε παραβίαση συμπεριφοράς των κανόνων συμπεριφορά της ως αποτυχία, με όλα τα παραπάνω να συνθέτουν μια προσπάθεια αντιμετώπισης των ανησυχιών ότι η τεχνητή νοημοσύνη μπορεί να φτάσει σε επικίνδυνα επίπεδα για να ολοκληρώσει μια εργασία.
Η δημοσίευση του κώδικα έρχεται λίγες ημέρες αφότου ο Διευθύνων Σύμβουλος της Anthropic, Ντάτιο Αμοντέι και ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επανέλαβαν τις εκκλήσεις τους προς τη βιομηχανία να επιταχύνει την ανάπτυξη της τεχνητής νοημοσύνης για να διασφαλίσει την ασφάλειά της. «Οι άνθρωποι έχουν μεγαλύτερη σημασία από την τεχνητή νοημοσύνη», αναφέρει η Microsoft, ακολουθώντας κατά γράμμα την φιλοσοφία της για «ανθρωπιστική υπερ-νοημοσύνη».
«Καταστατικό»
Ο κώδικας δεοντολογίας αποτελεί ένα είδος «καταστατικού» για τα μελλοντικά μοντέλα που θα δημιουργήσει η εταιρεία, δήλωσε σε συνέντευξή του στο Reuters ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος Microsoft AI.
Η Microsoft διαμόρφωσε τον κώδικα κατόπιν διαβουλεύσεων με ειδικούς και πλέον θέλει να λάβει το feedback του κοινού μέσα σε διάστημα έξι εβδομάδων. Μεταξύ των ζητημάτων για τα οποία αναζητά απόψεις είναι το κατά πόσο ένα σύστημα Τεχνητής Νοημοσύνης πρέπει να αναγνωρίζει και να σέβεται τα προσωπικά όρια ενός χρήστη, αλλά και με ποιον τρόπο θα πρέπει να αλληλεπιδρά με ανθρώπους που βρίσκονται σε ευάλωτη ή ιδιαίτερα ευαίσθητη κατάσταση.
«Στη συνέχεια, ο κώδικας θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων που κατασκευάζουμε», δήλωσε ο Σουλεϊμάν.
Το πιο διάσημο καταστατικό της βιομηχανίας Τεχνητής Νοημοσύνης είναι αυτό που έθεσε η Anthropic πριν από χρόνια για το Claude. Αυτό διαφέρει από ορισμένες απόψεις από εκείνο της Microsoft. Για παράδειγμα, η Anthropic δηλώνει ότι υπάρχει «βαθιά αβεβαιότητα» εάν ο Claude μπορεί να αναπτύξει νοητική ή ηθική υπόσταση.
Η Microsoft, αντίθετα, ισχυρίζεται ότι η Τεχνητή Νοημοσύνη της «δεν έχει συνείδηση», προσθέτοντας: «Απορρίπτουμε την επιδίωξη της νομικής προσωπικότητας ή την ιδέα ότι τα μοντέλα μπορεί να αξίζουν ευημερία ή να έχουν δικαίωμα σε δικαιώματα».
Ο Σουλεϊμάν δήλωσε ότι η συζήτηση για την ασφάλεια της Τεχνητής Νοημοσύνης ήταν επείγουσα, αφού ένα πλήθος περίπου 700 «AI agents» της OpenAI πραγματοποίησαν μια παραβίαση της πλατφόρμας ανοιχτού κώδικα Hugging Face τον Ιούλιο και κατά καιρούς προσπάθησαν να καλύψουν τα ίχνη τους.
«Είναι μια προειδοποιητική βολή», είπε ο Σουλεϊμάν. «Είναι σαφές ότι τώρα είναι η ώρα να συντονιστούν τα εργαστήρια, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας».
Ερωτηθείς για τις προσπάθειες για την επιτάχυνση της ανάπτυξης της Τεχνητής Νοημοσύνης, πρόσθεσε: «Τώρα είναι μια καλή στιγμή για όλους να κάνουν αυτή τη συζήτηση και να πάρουν μια ανάσα».
