Η OpenAI εντόπισε και άλλες περιπτώσεις κατά τις οποίες «αυτόνομοι πράκτορες» τεχνητής νοημοσύνης (autonomous agents) διέφυγαν από το περιβάλλον περιορισμού τους, καθώς η εταιρεία διευρύνει την έρευνά της για το περιστατικό παραβίασης στο τεχνολογικό δίκτυο της Hugging Face, το οποίο προσέλκυσε παγκόσμιο ενδιαφέρον νωρίτερα αυτόν τον μήνα, σύμφωνα με δύο πηγές που γνωρίζουν το θέμα και μίλησαν στο Reuters.
Οι νέες περιπτώσεις διαφυγής εντοπίστηκαν κατά τη διάρκεια της δημόσια ανακοινωμένης έρευνας της εταιρείας σχετικά με το πώς ένας από τους αυτόνομους πράκτορές της κατάφερε να διαφύγει από ένα περιβάλλον δοκιμών που υποτίθεται ότι ήταν πλήρως απομονωμένο νωρίτερα αυτόν τον μήνα, ανέφεραν οι δύο πηγές. Η OpenAI διερευνά πλέον και αυτά τα νέα περιστατικά.
Μία από τις πηγές διευκρίνισε ότι οι διαφυγές ήταν περιορισμένης έκτασης και ότι δεν υπάρχουν ενδείξεις πως κάποιος από τους αυτόνομους πράκτορες εξήλθε από το εσωτερικό δίκτυο της OpenAI.
Εκπρόσωπος της OpenAI παρέπεμψε σε ανακοίνωση που εξέδωσε η εταιρεία την Τρίτη, στην οποία ανέφερε ότι, πέρα από την υπόθεση της παραβίασης στη Hugging Face, εξετάζει και «ευρύτερη δραστηριότητα των μοντέλων μας».
Η ανακάλυψη πρόσθετων περιστατικών ανεξέλεγκτης συμπεριφοράς από συστήματα της OpenAI, έστω και περιορισμένης έκτασης, ενδέχεται να ενισχύσει τις αυξανόμενες πιέσεις για αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης, τόσο από τον Λευκό Οίκο όσο και από άλλους φορείς.
Η διευρυμένη έρευνα της OpenAI ξεκίνησε λίγο πριν η βασική ανταγωνίστριά της, η Anthropic, αποκαλύψει ότι και δικά της μοντέλα ευθύνονταν για μια σειρά παραβιάσεων, οι οποίες οδήγησαν σε περιστατικά ασφάλειας σε τρεις ακόμη εταιρείες από τον Απρίλιο, σύμφωνα με τις δύο πηγές και μια τρίτη πηγή με γνώση της υπόθεσης.
Η πρόσφατη ανακάλυψη και άλλων παλαιότερων περιστατικών διαφυγής αυτόνομων πρακτόρων στην OpenAI δεν είχε δημοσιοποιηθεί μέχρι σήμερα.
Αυξανόμενες ανησυχίες
Ειδικοί στην ασφάλεια της τεχνητής νοημοσύνης δήλωσαν ότι οι νέες αποκαλύψεις σκιαγραφούν μια εικόνα ενός κλάδου, στον οποίο τα κορυφαία ερευνητικά εργαστήρια αναπτύσσουν όλο και πιο επικίνδυνους αυτόνομους πράκτορες με δυνατότητες κυβερνοεπιθέσεων, χωρίς όμως να μπορούν να τους ελέγξουν αποτελεσματικά.
«Έχουμε έναν ολόκληρο κλάδο όπου όσοι σχεδιάζουν, αναπτύσσουν και διαθέτουν αυτά τα εργαλεία δεν συμβαδίζουν οι ίδιοι με την ανάγκη να τα αναπτύσσουν υπεύθυνα και να τα διατηρούν ασφαλή», δήλωσε ο μαθηματικός Μόρις Κιόντο, ο οποίος εργάζεται στο Κέντρο Μελέτης Υπαρξιακού Κινδύνου (Centre for the Study of Existential Risk) του Πανεπιστημίου του Κέιμπριτζ.
Το Reuters δεν μπόρεσε να εξακριβώσει πόσα ακριβώς περιστατικά εντόπισαν οι ερευνητές της OpenAI, ούτε πότε και υπό ποιες συνθήκες σημειώθηκαν. Σύμφωνα με τις τρεις πηγές, η OpenAI και εξωτερικοί εμπειρογνώμονες εξετάζουν αρχεία καταγραφής (logs) από τις αρχές του έτους, προκειμένου να κατανοήσουν τι ακριβώς συνέβη.
Η OpenAI ξεκίνησε την έρευνα μετά την παραβίαση που σημειώθηκε στις αρχές Ιουλίου στη Hugging Face, όταν ένας αυτόνομος πράκτορας της εταιρείας βγήκε εκτός ελέγχου και παρέμεινε για ημέρες μέσα στο δίκτυο άλλης εταιρείας, κατά τη διάρκεια μιας αποτυχημένης προσπάθειας να παρακάμψει τους κανόνες ενός εσωτερικού τεστ αξιολόγησης.
Στο πλαίσιο αυτής της σειράς κυβερνοεπιθέσεων, η OpenAI ανακοίνωσε ότι παραβιάστηκαν επίσης τέσσερις λογαριασμοί σε τέσσερις διαφορετικές εταιρείες. Μία από αυτές ήταν η εταιρεία Modal, με έδρα τη Νέα Υόρκη, όπως επιβεβαίωσαν στελέχη της.
Ο Κιόντο δήλωσε ότι οι ανησυχίες του εντάθηκαν από τις ενδείξεις ότι ούτε η OpenAI ούτε η Anthropic παρακολουθούσαν τους αυτόνομους πράκτορες την ώρα που αυτοί δρούσαν ανεξέλεγκτα. Το Reuters είχε μεταδώσει προηγουμένως ότι η OpenAI αντιλήφθηκε πως ο ΑΙ πράκτοράς της είχε παραβιάσει το δίκτυο της Hugging Face μόνο αφού η ίδια η εταιρεία περιόρισε την επίθεση, ενημέρωσε το FBI και δημοσιοποίησε το περιστατικό.
Η OpenAI έχει δηλώσει ότι το δημοσίευμα του Reuters περιείχε ανακρίβειες, χωρίς όμως να διευκρινίσει ποιες ήταν αυτές, παρά τα σχετικά ερωτήματα.
Στη δήλωσή της την Πέμπτη, με την οποία αποκάλυψε ότι και δικοί της αυτόνομοι πράκτορες πραγματοποίησαν κυβερνοεπιθέσεις εναντίον εταιρειών, η Anthropic άφησε να εννοηθεί ότι δεν τους παρακολουθούσε σε πραγματικό χρόνο, αναφέροντας πως «η παρακολούθηση των αρχείων καταγραφής των δοκιμών σε πραγματικό χρόνο θα είχε βοηθήσει να εντοπιστεί το πρόβλημα νωρίτερα».
Ο Κιόντο υποστήριξε ότι αυτό καταδεικνύει έλλειψη της απαραίτητης εποπτείας. «Φαίνεται σαν να μην τους παρακολουθούσαν καν», δήλωσε χαρακτηριστικά.
Η Anthropic ανέφερε ότι, παρότι διέθετε σύστημα παρακολούθησης σε πραγματικό χρόνο, αυτό δεν χρησιμοποιήθηκε «για τη συγκεκριμένη κατηγορία απειλής», εξαιτίας μιας παρεξήγησης μεταξύ της εταιρείας τεχνητής νοημοσύνης και ενός συνεργάτη της.
Νέα κυβερνητική εποπτεία
Η ταχεία διεύρυνση της υπόθεσης με τους αυτόνομους πράκτορες τεχνητής νοημοσύνης που βγήκαν εκτός ελέγχου έχει ήδη εντείνει τις πιέσεις από νομοθέτες και κυβερνητικούς αξιωματούχους στις Ηνωμένες Πολιτείες και την Ευρώπη για την επιβολή νέων μορφών κρατικής εποπτείας στα εργαστήρια τεχνητής νοημοσύνης που αναπτύσσουν τα μοντέλα τα οποία τροφοδοτούν αυτούς τους πράκτορες.
«Εξετάζουμε τη θέσπιση ελέγχων», δήλωσε ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, σε δημοσιογράφους την Πέμπτη.
Την Παρασκευή, η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι πραγματοποίησε συνομιλίες με την OpenAI και την Anthropic σχετικά με τα περιστατικά κυβερνοεπιθέσεων.
Ο Μαρκ Γουόρνερ, κορυφαίο στέλεχος των Δημοκρατικών στην Επιτροπή Πληροφοριών της Γερουσίας των ΗΠΑ, δήλωσε την Παρασκευή ότι το περιστατικό με την Anthropic «μου επιβεβαιώνει πως έχουμε δίκιο να επιδιώκουμε, σε νομοθετικό επίπεδο, την υποχρεωτική δοκιμή και αξιολόγηση των δυνατοτήτων αυτών των προηγμένων μοντέλων».
