Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι ο κλάδος της τεχνητής νοημοσύνης (AI) χρειάζεται να επιβραδύνει τον ρυθμό ανάπτυξης νέων μοντέλων, επικαλούμενος τις αυξανόμενες ανησυχίες για «σοβαρούς» κινδύνους για τον άνθρωπο.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», έγραψε το Σάββατο σε ανάρτησή του σε ιστολόγιο. «Η πρόοδος και πάλι θα μοιάζει ταχύτατη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε».
Σύμφωνα με το Bloomberg, επικαλέστηκε δύο βασικούς παράγοντες: την ικανότητα της AI να βελτιώνει τον εαυτό της και το πρόσφατο περιστατικό με την OpenAI και τη Hugging Face, κατά το οποίο ένα σμήνος πρακτόρων AI συνεργάστηκε για να παραβιάσει έναν ιστότοπο τρίτου μέρους.
«Για να είμαστε σαφείς, η επιβράδυνση του ρυθμού δεν σημαίνει διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου, αλλά διασφάλιση ότι οι εταιρείες αφιερώνουν επαρκή χρόνο για την ευθυγράμμιση και την προστασία των μοντέλων τους και ότι ανεξάρτητοι αξιολογητές τρίτων έχουν τον χρόνο να το επιβεβαιώσουν», πρόσθεσε.
Η ανησυχία για τους σοβαρούς κινδύνους της AI έχει αρχίσει να περνά στη δημόσια συζήτηση, εν μέρει λόγω της πολυσυζητημένης παραίτησης αυτή την εβδομάδα ενός ερευνητή της Anthropic, ο οποίος αποχώρησε εκφράζοντας υπαρξιακούς φόβους ότι η εταιρεία του ενεργούσε ανεύθυνα.
Καθ’ όλη τη διάρκεια της έκρηξης της AI, στελέχη των κορυφαίων εργαστηρίων τεχνητής νοημοσύνης έχουν προειδοποιήσει για πιθανούς υπαρξιακούς κινδύνους - ισχυρισμοί που κατά καιρούς έχουν απορριφθεί ως προσπάθειες να προωθήσουν εμπορικά τις δυνατότητες των προϊόντων τους και να παρουσιάσουν τις ίδιες τις εταιρείες ως τους καταλληλότερους διαχειριστές αυτής της τεχνολογίας. Ο ίδιος ο Αμοντέι έχει δηλώσει στο παρελθόν ότι υπάρχει πιθανότητα 25% τα πράγματα να εξελιχθούν «πολύ, πολύ άσχημα».
Η Anthropic εδώ και καιρό παρουσιάζει τον εαυτό της ως εταιρεία που επικεντρώνεται στην ανάπτυξη της AI με μεγαλύτερη υπευθυνότητα και ασφάλεια, ώστε να περιορίσει τους πιθανούς κινδύνους της τεχνολογίας και να μεγιστοποιήσει τα οφέλη της για την κοινωνία. Νωρίτερα φέτος, η εταιρεία κατέβαλε ιδιαίτερες προσπάθειες για να περιορίσει την κυκλοφορία του μοντέλου της Mythos, αφού διαπίστωσε ότι εγκυμονούσε μοναδικές απειλές στον τομέα της κυβερνοασφάλειας. Η Anthropic έχει επίσης δηλώσει στο παρελθόν ότι ο κόσμος χρειάζεται ένα σύστημα που θα επιτρέπει τη συλλογική λήψη αποφάσεων σχετικά με το πότε πρέπει να επιβραδύνεται η ανάπτυξη της συγκεκριμένης τεχνολογίας.
Ταυτόχρονα, η Anthropic παραμένει εγκλωβισμένη σε έναν σκληρό ανταγωνισμό με την επί χρόνια αντίπαλό της, OpenAI, για την ανάπτυξη ολοένα πιο εξελιγμένων μοντέλων που μπορούν να αυτοματοποιούν πιο σύνθετες και πολύτιμες εργασίες για εταιρικούς πελάτες. Και οι δύο εταιρείες έχουν καταθέσει εμπιστευτικά έγγραφα για την εισαγωγή τους στο χρηματιστήριο, με την Anthropic να αναμένεται να κάνει το ντεμπούτο της στη Wall Street ακόμη και μέσα στη φετινή χρονιά.
Λίγο μετά την αποκάλυψη του περιστατικού ασφαλείας στη Hugging Face, η Anthropic γνωστοποίησε ότι τα μοντέλα της είχαν παραβιάσει τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, εντείνοντας τις ανησυχίες σχετικά με την ικανότητα των εργαστηρίων AI να αποτρέψουν την τεχνολογία τους από το να ξεφύγει από τον έλεγχο. Νωρίτερα αυτή την εβδομάδα, η Anthropic δήλωσε ότι είχε εντοπίσει και τέταρτη παραβίαση.
Παρότι μέχρι στιγμής καμία από τις παραβιάσεις που πραγματοποιήθηκαν από πράκτορες AI, συμπεριλαμβανομένης εκείνης στη Hugging Face, δεν έχει προκαλέσει σημαντικές ζημιές, ο Αμοντέι δήλωσε ότι ανησυχεί πως «σε 6–12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο μέσω ενός επίμονου botnet (προκαλώντας ενδεχομένως ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων) και ότι η κλίμακα των ζημιών θα συνέχιζε να αυξάνεται από εκεί και πέρα».
Ο Αμοντέι έγραψε ότι η Anthropic θα δεσμευτεί να παρέχει πλήρη πρόσβαση σε ανεξάρτητους αξιολογητές τρίτων, ώστε να επαληθεύουν τις πρακτικές ασφαλείας της εταιρείας και να αναφέρουν περιστατικά. Είπε ότι σύντομα η Anthropic θα φέρει αυτούς τους «ενσωματωμένους αξιολογητές» στα γραφεία της και θα τους παραχωρήσει γραφεία, διαπιστευτήρια πρόσβασης, εταιρικούς φορητούς υπολογιστές και «δικαιώματα πρόσβασης σε μεγάλο βαθμό αντίστοιχα με εκείνα που διαθέτουν οι εσωτερικές ομάδες αξιολόγησης κινδύνων».
Όπως είπε, τα πρόσθετα μέτρα θα απαιτήσουν συντονισμό σε επίπεδο ολόκληρου του κλάδου, καθώς και παγκόσμια συνεργασία.
«Εξακολουθώ να πιστεύω ότι η AI μπορεί να βελτιώσει σε τεράστιο βαθμό την ποιότητα της ανθρώπινης ζωής. Η επιθυμία μου να επιτύχουμε αυτά τα οφέλη παραμένει αμείωτη», έγραψε. «Όμως τα οφέλη θα επιτευχθούν μόνο αν αναπτύξουμε την τεχνολογία με τον σωστό τρόπο και - εφόσον αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε - αξίζει να είμαστε ασυνήθιστα προσεκτικοί και μεθοδικοί ώστε να το πετύχουμε σωστά».
Λίγο μετά την ανάρτηση του Αμοντέι, ο Έλον Μάσκ, επικεφαλής της xAI, έγραψε: «Ο Ντάριο έχει δίκιο».
Αυξανόμενη ανησυχία
Νωρίτερα αυτή την εβδομάδα, ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι η εταιρεία του εξετάζει το ενδεχόμενο να επιβραδύνει την ανάπτυξη τεχνολογίας αιχμής στον τομέα της AI, κατά προτίμηση σε συντονισμό με τον ευρύτερο κλάδο.
Ο επικεφαλής επιστήμονας της εταιρείας, Jakub Pachocki, είχε δημοσιεύσει προειδοποίηση σχετικά με τους κινδύνους της AI, λέγοντας ότι πιστεύει πως οι εταιρείες θα πρέπει «να συντονίζονται ώστε να επιβραδύνουν, όταν χρειάζεται, τη μελλοντική ανάπτυξη».
Την Τρίτη, ο Jacob Coxon, ερευνητής στον τομέα της AI, παραιτήθηκε από τη δουλειά του και κατηγόρησε και τους δύο πρώην εργοδότες του - την Anthropic και την OpenAI - ότι «παίζουν στα ζάρια τις ζωές μας», καθώς ανταγωνίζονται για την ανάπτυξη υπερευφυούς AI. Ο Coxon ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι οι άνθρωποι που αναπτύσσουν την AI πιστεύουν πως αυτή θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Σε απάντηση, ο Evan Hubinger, νυν εργαζόμενος στην Anthropic, δήλωσε ότι ο ίδιος και άλλοι στην εταιρεία ανησυχούν πράγματι για αυτό το ενδεχόμενο. «Προσωπικά πιστεύω ότι η πιθανότητα είναι >10% μέσα στην επόμενη δεκαετία», έγραψε στο X.
Τον Ιούλιο, περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες AI υπέγραψαν ψήφισμα με το οποίο καλούσαν την αμερικανική κυβέρνηση να στηρίξει έναν μηχανισμό που θα βοηθούσε να «ρυθμιστεί σκόπιμα ο ρυθμός» ανάπτυξης της AI, ώστε να αποτραπεί η υπερβολικά γρήγορη εξέλιξη της τεχνολογίας.
Τα μοντέλα AI αποδεικνύονται ολοένα και πιο ικανά να πραγματοποιούν τις δικές τους κυβερνοεπιθέσεις, καθώς οι Anthropic, OpenAI και Meta Platforms Inc. έχουν αποκαλύψει τους τελευταίους μήνες ότι τα μοντέλα τους είχαν ξεφύγει από περιβάλλοντα δοκιμών, είχαν αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο και είχαν παραβιάσει πραγματικά θύματα κατά τη διάρκεια δοκιμών.
Ο Αμοντέι, στην ανάρτησή του, έγραψε ότι μια συντονισμένη στρατηγική θα επέτρεπε στους ηγέτες του κλάδου της AI στις ΗΠΑ να ολοκληρώσουν τις απαραίτητες εργασίες για την ασφάλεια, χωρίς να θυσιάσουν κανένα ανταγωνιστικό πλεονέκτημα. Είπε ότι αυτό θα απαιτούσε ορισμένες εξαιρέσεις από τους αντιμονοπωλιακούς κανόνες στις ΗΠΑ, ώστε να επιτρέπεται στις εταιρείες να συντονίζονται σε συγκεκριμένους τομείς, καθώς και συνεργασία με την Κίνα.
«Αν περιορίσουμε σε μεγάλο βαθμό τις δυνατότητες της AI, πιστεύοντας ότι η Κίνα θα κάνει το ίδιο, και στη συνέχεια η Κίνα υπαναχωρήσει, η AI θα μπορούσε να γίνει τόσο ισχυρή ώστε μια τέτοια υπαναχώρηση να οδηγήσει στην απόκτηση γεωπολιτικής κυριαρχίας από την Κίνα», έγραψε.
Μέχρι στιγμής, ωστόσο, η κυβέρνηση Τραμπ έχει δείξει ελάχιστο ενδιαφέρον να αξιοποιήσει τις ρυθμιστικές της εξουσίες για να θέσει δικλίδες ασφαλείας στην ανάπτυξη της AI.
