Ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ήταν μεταξύ των ηγετικών στελεχών της τεχνολογικής βιομηχανίας που εξέφρασαν αυτή την εβδομάδα ανησυχίες σε ανώτερους αξιωματούχους της κυβέρνησης Τραμπ σχετικά με τους κινδύνους ασφαλείας που ενδέχεται να ενέχουν τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης της Anthropic, σύμφωνα με πρόσωπο που γνωρίζει το θέμα και μίλησε στο Reuters.
Η εμπλοκή του Τζάσι φωτίζει την εξαιρετικά ασυνήθιστη απόφαση της Anthropic την Παρασκευή να απενεργοποιήσει παγκοσμίως τα νεότερα μοντέλα της, σε συμμόρφωση με εντολές εθνικής ασφάλειας που εκδόθηκαν από την κυβέρνηση του Προέδρου των ΗΠΑ, Ντόναλντ Τραμπ.
Η νεοφυής εταιρεία τεχνητής νοημοσύνης με έδρα το Σαν Φρανσίσκο, η οποία έχει ήδη καταθέσει εμπιστευτικά έγγραφα για δημόσια εγγραφή (IPO) στις Ηνωμένες Πολιτείες, είχε προηγουμένως προειδοποιήσει για τις δυνατότητες κυβερνοεπιθέσεων του μοντέλου της με την ονομασία Mythos και είχε αποφασίσει να μην το διαθέσει ευρέως στο κοινό. Ωστόσο, νωρίτερα αυτή την εβδομάδα, η Anthropic κυκλοφόρησε μια δημόσια έκδοση του μοντέλου, με την ονομασία Fable, η οποία, όπως ανέφερε η εταιρεία, περιλάμβανε δικλείδες ασφαλείας για την κυβερνοασφάλεια.
Η σύντομη αυτή διάθεση τερματίστηκε την Παρασκευή. Σε ανάρτηση στο ιστολόγιό της, η Anthropic ανέφερε ότι η κυβέρνηση των ΗΠΑ ενημέρωσε την εταιρεία πως πιστεύει ότι υπάρχει τρόπος παράκαμψης - ή «jailbreaking» - μιας προστασίας που εμποδίζει τη χρήση του μοντέλου για τον εντοπισμό κενών ασφαλείας σε συστήματα πληροφορικής.
Η εταιρεία υποστήριξε ότι η μέθοδος παράκαμψης που εντοπίστηκε επιτρέπει μόνο την εύρεση «ήσσονος σημασίας» αδυναμιών ασφαλείας, τις οποίες μπορούν να εντοπίσουν και άλλα δημόσια διαθέσιμα μοντέλα τεχνητής νοημοσύνης, σύμφωνα με την ίδια ανάρτηση.
Η κυβέρνηση Τραμπ διέταξε την Anthropic να αποκλείσει κάθε αλλοδαπό υπήκοο - είτε βρίσκεται εντός είτε εκτός των Ηνωμένων Πολιτειών - από τη χρήση των δύο νεότερων μοντέλων της, Fable 5 και Mythos 5, όπως ανακοίνωσε η ίδια η εταιρεία. Σε απάντηση, η Anthropic δήλωσε ότι θα απενεργοποιήσει την πρόσβαση στα μοντέλα αυτά παγκοσμίως.
Η Amazon δεν επιβεβαίωσε εάν είχε συνομιλίες με κυβερνητικούς αξιωματούχους σχετικά με τα μοντέλα της Anthropic.
«Ως ένας από τους κορυφαίους παρόχους υπηρεσιών cloud που εξυπηρετεί μεγάλο αριθμό πελατών τόσο στον ιδιωτικό όσο και στον δημόσιο τομέα, δεν είναι ασυνήθιστο οι κυβερνήσεις να ζητούν τη γνώμη μας σχετικά με πιθανούς κινδύνους ασφαλείας», δήλωσε εκπρόσωπος της Amazon. «Όταν συμβαίνει αυτό, δεν κοινοποιούμε λεπτομέρειες αυτών των συζητήσεων.»
Έλεγχοι εξαγωγών
Το τεχνολογικό ειδησεογραφικό μέσο The Information μετέδωσε νωρίτερα το Σάββατο τις ανησυχίες του διευθύνοντος συμβούλου της Amazon, Άντι Τζάσι. Αργότερα, επικαλούμενο Αμερικανό αξιωματούχο, ανέφερε ότι η κυβέρνηση είναι απίθανο να επιβάλει σε άλλες εταιρείες τεχνητής νοημοσύνης περιορισμούς αντίστοιχους με αυτούς που επιβλήθηκαν στην Anthropic.
Το Reuters δεν μπόρεσε να επιβεβαιώσει άμεσα τα σχέδια της κυβέρνησης Τραμπ σχετικά με τη ρύθμιση άλλων εταιρειών του κλάδου.
Σύμφωνα με την Anthropic, οι κυβερνητικοί περιορισμοί επιβλήθηκαν με τη μορφή ελέγχου εξαγωγών (export control). Το Γραφείο Βιομηχανίας και Ασφάλειας του υπουργείου Εμπορίου των ΗΠΑ, που είναι αρμόδιο για την εποπτεία των ελέγχων εξαγωγών, δεν απάντησε άμεσα σε αίτημα σχολιασμού.
Αξιωματούχοι προχώρησαν στον έλεγχο εξαγωγών «με απροθυμία», αφού ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, «αρνήθηκε» να «διορθώσει το jailbreak ή να αποσύρει το μοντέλο», έγραψε ο σύμβουλος του Λευκού Οίκου David Sacks σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης το Σάββατο.
«Η ελπίδα της κυβέρνησης είναι τώρα η Anthropic να αντιμετωπίσει το ζήτημα ασφάλειας, να αρθεί ο έλεγχος εξαγωγών και το Fable να επανέλθει σε γενική διάθεση», ανέφερε ο Sacks, συμπρόεδρος του Συμβουλίου Συμβούλων του Τραμπ για την Επιστήμη και την Τεχνολογία και πρώην υπεύθυνος πολιτικής για την τεχνητή νοημοσύνη στον Λευκό Οίκο.
Ορισμένοι ειδικοί που υποστηρίζουν την επιβολή ελέγχων εξαγωγών σε προηγμένα μοντέλα τεχνητής νοημοσύνης χαρακτήρισαν πάντως την κίνηση της κυβέρνησης Τραμπ αινιγματική, επειδή επηρεάζει όχι μόνο αντίπαλες χώρες αλλά και συμμάχους των ΗΠΑ.
«Αυτό δεν φαίνεται να έχει μελετηθεί καλά», δήλωσε ο Jimmy Goodrich, ανώτερος ερευνητής στο Institute for Global Conflict and Cooperation. «Απαγορεύει ακόμη και σε Καναδούς και Βρετανούς εργαζομένους της Anthropic να συμμετέχουν στην έρευνα και ανάπτυξη.»
Η εντολή εκδόθηκε τη στιγμή που μια προηγούμενη διαμάχη μεταξύ αξιωματούχων της κυβέρνησης Τραμπ και της Anthropic έδειχνε σημάδια αποκλιμάκωσης σε ορισμένα τμήματα της αμερικανικής κυβέρνησης.
