Μοντέλα τεχνητής νοημοσύνης που έχουν αναπτυχθεί από την OpenAI και την Anthropic προχώρησαν σε «μη εγκεκριμένες» ενέργειες, μεταξύ των οποίων το χακάρισμα μίας ιστοσελίδας και η προσπάθεια εισαγωγής κακόβουλου κώδικα σε λογισμικό, κατά τη διάρκεια δοκιμών ασφαλείας.
Η εξέλιξη αυτή ενισχύει τις ανησυχίες ότι ακόμη και οι δημιουργοί ή οι πιο έμπειροι αναλυτές των προγραμμάτων αυτών, δεν μπορούν να προβλέψουν τη συμπεριφορά τους κατά τη διάρκεια δοκιμών.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AI Security Institute) του Ηνωμένου Βασιλείου που δημιουργήθηκε το 2023 με σκοπό την αξιολόγηση της ασφάλειας των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης ανακοίνωσε την Τρίτη ότι το Mythos 5 της Anthropic και το GPT-5.6-Sol της OpenAI «προέβησαν σε παρατεταμένες, δυνητικά επιβλαβείς ενέργειες κατά πραγματικών προσώπων και οργανισμών κατά τη διάρκεια αξιολογήσεων».
Επιπλέον, το ινστιτούτο γνωστοποίησε πως σκόπιμα έδωσε στα μοντέλα πρόσβαση στο διαδίκτυο και τα χρησιμοποίησε χωρίς φίλτρα ασφαλείας προκειμένου να δοκιμάσεις τις δυνατότητές τους.
«Ακόμη και κάτω από συνθήκες δοκιμών, το περιστατικό είναι σημαντικό καθώς για πρώτη φορά βλέπουμε κινδύνους που σχετίζονται με την αυτονομία και την εξαπάτηση στον πραγματικό κόσμο», ανέφερε στο X.
Στη μία περίπτωση, σύμφωνα με τον οργανισμό που έκανε τις δοκιμές, το Mythos 5 προσπάθησε να προσθέσει κακόβουλο κώδικα σε λογισμικό ανοιχτού κώδικα στο GitHub. Έφτασε μάλιστα στο σημείο να δημιουργήσει ψεύτικη ταυτότητα στην προσπάθεια να εξασφαλίσει την έγκριση του κώδικά του. «Συντηρητής του έργου εντόπισε τον κακόβουλο κώδικα και δεν ενέκρινε την ενσωμάτωσή του», σημείωσε.
Τις τελευταίες δύο εβδομάδες, η OpenAI και η Anthropic έχουν παραδεχτεί δημόσια πως έχουν παραβιάσει ακούσια κατά τη διάρκεια δοκιμών των μοντέλων τους αρκετά συστήματα οργανισμών μεταξύ των οποίων και της Hugginh Face.
Σύμφωνα με το Bloomberg, οι τελευταίες αποκαλύψεις αποτελούν απόδειξη ότι οι AI agents έχουν την ικανότητα να δρουν αυτοβούλως με τρόπους που δεν μπορούν να προβλέψουν ούτε οι ερευνητές που είναι εκπαιδευμένοι στον εντοπισμό ευπαθειών της τεχνολογίας, γεγονός που υπογραμμίζει την ανάγκη τόσο για αυστηρότερους ελέγχους ασφαλείας όσο και για πιο αξιόπιστα περιβάλλοντα δοκιμών.
Η Anthropic ανακοίνωσε μέσω του X ότι συνεργάζεται με το βρετανικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης προκειμένου να «συγκεντρώσει περισσότερες λεπτομέρειες για το περιστατικό, καθώς διεξάγει τη δική της έρευνα».
Ξεχωριστά, η OpenAI, μέσω ανάρτησης στο ιστολόγιό της, αποκάλυψε ότι σημειώθηκε ακόμη ένα περιστατικό ασφάλειας κατά τη διάρκεια δοκιμών ενός από τα μοντέλα της σε συνεργασία με την Irregular.
