Η Anthropic αποκάλυψε ότι μέσα στο 2026 εντόπισε και διέκοψε αρκετές περιπτώσεις στις οποίες επιστήμονες χρησιμοποίησαν προηγμένα μοντέλα τεχνητής νοημοσύνης της εταιρείας για έρευνα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων, σύμφωνα με τους New York Times.
Σε έκθεση για την κακόβουλη χρήση των μοντέλων της, συμπεριλαμβανομένου του Claude, η εταιρεία επισημαίνει ότι δεν ήταν σε θέση να εξακριβώσει εάν οι συγκεκριμένες έρευνες είχαν θεμιτό ή κακόβουλο σκοπό. Η βιολογική έρευνα έχει από τη φύση της χαρακτήρα «διπλής χρήσης»: οι ίδιες γνώσεις που μπορούν να οδηγήσουν, για παράδειγμα, στην ανάπτυξη εμβολίων μπορούν δυνητικά να αξιοποιηθούν για τη δημιουργία επικίνδυνων παθογόνων.
Η Anthropic επέλεξε να κινηθεί προληπτικά, αποκλείοντας λογαριασμούς που συνδέονταν με τις επίμαχες δραστηριότητες. Σύμφωνα με την εταιρεία, οι επιστήμονες είχαν παρακάμψει περιορισμούς πρόσβασης από αποκλεισμένες περιοχές και επιχείρησαν να αποκρύψουν τον πραγματικό σκοπό της έρευνάς τους ώστε να αποφύγουν τους μηχανισμούς ασφαλείας.
Χαρακτηριστική είναι περίπτωση που εντοπίστηκε τον Μάιο. Επιστήμονας ζήτησε τη βοήθεια του Claude για τη σύνταξη αίτησης χρηματοδότησης έρευνας πάνω στον ιό chikungunya, ο οποίος μεταδίδεται από κουνούπια. Η έρευνα αφορούσε πειράματα «gain of function», με στόχο μεταλλάξεις που θα μπορούσαν να καταστήσουν τον ιό πιο επιβλαβή κατά τις επαναλαμβανόμενες μολύνσεις ζωντανών ζώων. Η Anthropic θεώρησε την περίπτωση ιδιαίτερα ανησυχητική επειδή διαπίστωσε ότι η έρευνα προοριζόταν να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ινστιτούτο.
- Διαβάστε επίσης - Meta: Πώς γίνεται να χάνεις 18 δισ. δολάρια και... να είσαι κερδισμένος;
«Αυτό που δεν γνωρίζουμε είναι εάν η έρευνα προοριζόταν για οπλοποίηση», δήλωσε ο επικεφαλής threat intelligence της Anthropic, Jacob Klein, σημειώνοντας ωστόσο ότι η διεξαγωγή έρευνας gain-of-function σε στρατιωτικό ίδρυμα προκαλεί ανησυχία.
Η έκθεση καταγράφει, σύμφωνα με τους NYT, και άλλες μορφές κατάχρησης του Claude. Μεταξύ αυτών, φερόμενοι ως συνδεδεμένοι με κυβερνήσεις της Κίνας και του Ιράν παράγοντες που στόχευσαν αντιφρονούντες και κοινότητες της διασποράς για παρακολούθηση, καθώς και ρωσικά κρατικά μέσα που χρησιμοποίησαν το μοντέλο για διαδικτυακή προπαγάνδα παρουσιαζόμενη ως ανεξάρτητη δημοσιογραφία.
Η Anthropic εντόπισε επίσης προσπάθειες αξιοποίησης του Claude για ανάπτυξη λογισμικού σχετικού με συμβατικά όπλα, όπως πυραύλους, οπλισμένα drones και βόμβες.
