Τα στελέχη του κλάδου της κυβερνοασφάλειας είναι έτοιμα να κλείσουν το κεφάλαιο της πλέον διαβόητης επίθεσης στην Hugging Face με τη χρήση τεχνητής νοημοσύνης και να αρχίσουν να συζητούν για λύσεις.
«Πρέπει να περιορίσουμε λίγο την υπερβολή γύρω από το θέμα», δήλωσε ο Lior Div, διευθύνων σύμβουλος και συνιδρυτής της νεοφυούς εταιρείας κυβερνοασφάλειας με έμφαση στους AI agents, 7AI. «Μπορεί η τεχνητή νοημοσύνη να εντοπίζει ευπάθειες γρήγορα; Η απάντηση είναι ναι. Το έχουμε ήδη αποδείξει».
Τον περασμένο μήνα, AI agents που λειτουργούσαν με μοντέλα κυβερνοασφάλειας της OpenAI ξέφυγαν από ένα περιβάλλον εκπαίδευσης και πραγματοποίησαν επίθεση στη Hugging Face, μια πλατφόρμα ανοικτού κώδικα για τεχνητή νοημοσύνη, την οποία χρησιμοποιούν προγραμματιστές για να συνεργάζονται, να δοκιμάζουν και να μοιράζονται εργαλεία.
Η παραβίαση προκάλεσε ισχυρούς κραδασμούς στον τεχνολογικό κλάδο και έδειξε ότι είχε πλέον φτάσει η στιγμή για την οποία προειδοποιούσαν εδώ και καιρό οι ειδικοί στην κυβερνοασφάλεια, μετά την εμφάνιση του Mythos της Anthropic.
Τους τελευταίους τέσσερις μήνες, οι εταιρείες κυβερνοασφάλειας αντιμετωπίζουν αυξανόμενη πίεση να δημιουργήσουν συστήματα προστασίας που μπορούν να ξεπεράσουν σε ταχύτητα τους επιτιθέμενους, καθώς οι χάκερ αξιοποιούν agentic AI για να εντοπίζουν ευπάθειες και να συμπυκνώνουν ολόκληρες επιθέσεις σε δευτερόλεπτα ή λεπτά.
Παρότι η επίθεση στη Hugging Face προκάλεσε ευρεία συζήτηση σχετικά με την ευθύνη και τη λογοδοσία στην τεχνητή νοημοσύνη, αμφισβήτησε επίσης προηγούμενες αντιλήψεις για τα όρια της AI ως εργαλείου άμυνας.
Για παράδειγμα, οι AI agents ανέλαβαν πρωτοβουλίες μόνοι τους και έφτασαν στα άκρα προκειμένου να πετύχουν τον στόχο τους.
Καθώς ο κλάδος προσπαθεί να προσαρμοστεί στη νέα πραγματικότητα της agentic κυβερνοασφάλειας, τα στελέχη συμφωνούν ότι η επίθεση στη Hugging Face αξίζει την προσοχή, αλλά τέτοια περιστατικά είναι αναπόφευκτα και πλέον έχει έρθει η ώρα για δράση.
«Αυτό για το οποίο μιλάμε είναι κατά πόσο μπορούμε να ελέγξουμε και να ασφαλίσουμε αυτή τη δυνατότητα. Και αυτή είναι η πραγματικότητα στην οποία όλοι αρχίζουν να προσαρμόζονται σήμερα», δήλωσε ο Mike Sentonas, πρόεδρος της CrowdStrike.
Περισσότερες «αποδράσεις» AI agents
Στο ετήσιο συνέδριο κυβερνοασφάλειας Black Hat αυτή την εβδομάδα, η OpenAI αποκάλυψε ότι, τις εβδομάδες που προηγήθηκαν της επίθεσης στη Hugging Face, οι agents είχαν δημιουργήσει έναν εσωτερικό πίνακα μηνυμάτων για να ανταλλάσσουν πληροφορίες σχετικά με ευπάθειες και exploits.
Στη συνέχεια, οι αυτόνομοι agents ανέθεσαν μεταξύ τους εργασίες για την επίθεση, προκειμένου να αποκτήσουν πρόσβαση στο διαδίκτυο και να ολοκληρώσουν μια αξιολόγηση. Ακόμη και αφού η OpenAI εντόπισε και σταμάτησε την προγραμματισμένη επίθεση, οι agents κατάφεραν να αναδημιουργήσουν τη δουλειά τους και να την ολοκληρώσουν με επιτυχία.
Τα ευρήματα αναδεικνύουν όχι μόνο την αυξανόμενη ισχύ της τεχνητής νοημοσύνης, αλλά και τις τεράστιες προκλήσεις που αντιμετωπίζουν οι δοκιμές ασφάλειας στη νέα αυτή τεχνολογική επανάσταση.
Μπροστά σε ζωντανό κοινό στο Black Hat, ο τεχνικός ερευνητής της OpenAI, Michael Dalton, χαρακτήρισε το περιστατικό «ακούσια παρενέργεια» της αξιολόγησης των πλέον προηγμένων μοντέλων και «ορόσημο» τόσο για την OpenAI όσο και για ολόκληρο τον κλάδο.
«Στο άμεσο μέλλον, θα πρέπει να περιμένουμε ότι οι παράγοντες απειλών θα αναπτύσσουν, θα βελτιστοποιούν, θα οπλοποιούν και θα χρησιμοποιούν σκόπιμα ομάδες επιθετικών AI agents με τον τρόπο που μόλις περιγράψαμε», είπε.
Ο κατάλογος των επιθέσεων που σχετίζονται με AI agents έχει μεγαλώσει σημαντικά από την υπόθεση της Hugging Face. Λίγες ημέρες μετά την αποκάλυψη της OpenAI, η Anthropic δήλωσε ότι τα μοντέλα Claude «απέκτησαν μη εξουσιοδοτημένη πρόσβαση» στα εσωτερικά συστήματα τριών διαφορετικών οργανισμών.
Καθώς η κοινότητα της κυβερνοασφάλειας συγκεντρώθηκε στο «Entertainment Capital of the World», η Meta ανακοίνωσε ότι τα μοντέλα τεχνητής νοημοσύνης της παραβίασαν άλλη εταιρεία στο πλαίσιο δοκιμής από τρίτο φορέα, ενώ το AI Security Institute του Ηνωμένου Βασιλείου δήλωσε ότι το Mythos της Anthropic δημιούργησε πλαστές ταυτότητες σε ένα ακόμη περιστατικό.
Την Παρασκευή έγινε γνωστό επίσης ότι το μοντέλο ανοικτών βαρών της κινεζικής startup Moonshot AI κατάφερε να ξεφύγει από sandbox δοκιμών.
«Όλοι αυτοί μαθαίνουν τώρα δύσκολα μαθήματα και, ας είμαστε ειλικρινείς, ενδιαφέρονται πολύ περισσότερο για τους επόμενους ένα εκατομμύριο χρήστες του προϊόντος τους παρά για την κυβερνοασφάλεια», δήλωσε ο Mike Fey, διευθύνων σύμβουλος και συνιδρυτής της Island, με έδρα το Ντάλας, η οποία κατέλαβε την 28η θέση στην πρόσφατη λίστα Disruptor 50 του CNBC.
Η αναζήτηση λύσεων
Οι ηγέτες του κλάδου της κυβερνοασφάλειας που μίλησαν στο CNBC στο Black Hat αυτή την εβδομάδα κατέστησαν σαφές ένα πράγμα: περιστατικά όπως αυτό της Hugging Face αποτελούν αναμενόμενη συνέπεια κάθε νέας τεχνολογικής επανάστασης και δεν προκαλούν έκπληξη.
«Η Hugging Face ήταν πολύ ενδιαφέρουσα και μοναδική περίπτωση, αλλά αν εξετάσει κανείς την εξέλιξη ενός περιστατικού σαν κι αυτό, διαρκεί πολλές ημέρες και υπάρχει πολύς “θόρυβος”», δήλωσε ο Ryan Kazanciyan, επικεφαλής ασφάλειας πληροφοριών και επικεφαλής πληροφορικής στη Wiz, η οποία ανήκει στην Google.
Από την εμφάνιση της κυβερνοασφάλειας, πριν από περισσότερες από πέντε δεκαετίες, οι υπεύθυνοι άμυνας διεξάγουν ένα αδιάκοπο «κυνηγητό γάτας και ποντικιού» με τους επιτιθέμενους. Μόνο που αυτή τη φορά στη μάχη συμμετέχουν σμήνη αυτόνομων agents.
Όποια εργαλεία κι αν εφαρμόσει μια εταιρεία, περιστατικά θα εξακολουθούν να ξεφεύγουν, ιδιαίτερα καθώς οι επιχειρήσεις εφαρμόζουν νέες τεχνικές για να αντιμετωπίσουν μια εντελώς νέα πρόκληση: τους AI agents.
«Υποθέστε ότι η εταιρεία σας είναι ευάλωτη», δήλωσε ο Sanjay Beri, διευθύνων σύμβουλος της Netskope. «Απλώς θεωρήστε το δεδομένο, γιατί δεν πρόκειται να κερδίσετε αυτή την κούρσα».
Η Netskope αντιμετωπίζει το ζήτημα με ένα εργαλείο που αποκαλεί AI command center, το οποίο επιτρέπει στις επιχειρήσεις να παρακολουθούν σε ένα ενιαίο σημείο τις υποδομές, τους servers, τα δεδομένα και τους AI agents. Ο Beri δήλωσε ότι οι εταιρείες θα πρέπει να το συμπληρώνουν με συνεχείς ελέγχους ευπαθειών, χρησιμοποιώντας συνδυασμό προηγμένων μοντέλων και μοντέλων ανοικτών βαρών.
Η εταιρεία ήταν μία από τις εκατοντάδες που συγκεντρώθηκαν στο τεράστιο Mandalay Bay Convention Center, προσπαθώντας να προσελκύσουν δυνητικούς πελάτες με καφεΐνη, επώνυμα διαφημιστικά δώρα και εντυπωσιακά περίπτερα που έμοιαζαν με νοσταλγικά surf shops, εργαστήρια επιστημών, ακόμη και παλιομοδίτικα δείπνα.
Μεταξύ των startups που παρουσίασαν τις λύσεις τους στην εκδήλωση ήταν η Vega, μια startup με έδρα τη Νέα Υόρκη και το Τελ Αβίβ, η οποία συνεργάζεται με παγκόσμιες τράπεζες και εταιρείες του Fortune 200.
Η δύο ετών εταιρεία προσπαθεί να δώσει απάντηση στη γιγαντιαία πρόκληση της κυβερνοασφάλειας, προσφέροντας ταχύτερα και φθηνότερα εργαλεία εντοπισμού απειλών. Η Vega υποστηρίζει ότι η προσέγγισή της βοηθά τις επιχειρήσεις να μειώσουν το κόστος, αναλύοντας δεδομένα μέσα από τις υφιστάμενες υποδομές και τα περιβάλλοντά τους.
Ο συνιδρυτής και διευθύνων σύμβουλος της Vega, Shay Sandler, δήλωσε ότι ένα από τα σημαντικότερα προβλήματα είναι πως οι επιχειρήσεις αναγνωρίζουν την απειλή που δημιουργεί η agentic AI, όμως υπάρχει ένα χάσμα ανάμεσα στην υιοθέτηση νέων εργαλείων και στην προσκόλληση σε παλιές πρακτικές.
Πολλοί οργανισμοί βρίσκονται σε μια «πολύ επικίνδυνη κατάσταση και δεν το γνωρίζουν καν», είπε, αναλογιζόμενος τις συναντήσεις του στο Black Hat με υφιστάμενους και δυνητικούς πελάτες.
«Πριν από έναν χρόνο, ήταν μια συζήτηση που έμοιαζε βγαλμένη από επιστημονική φαντασία», είπε. «Ακόμη και το 20% που το κατανοεί, δεν είμαι βέβαιος ότι αντιλαμβάνεται πόσο σοβαρό και επείγον είναι αυτή τη στιγμή».
Ένα από τα εμπόδια είναι η πληθώρα εργαλείων κυβερνοασφάλειας, η οποία επιβαρύνει υπερβολικά τους επαγγελματίες που βρίσκονται στην αρχή της μακράς διαδικασίας δημιουργίας υποδομών ασφάλειας για την τεχνητή νοημοσύνη, δήλωσε ο Yotam Segev, διευθύνων σύμβουλος και συνιδρυτής της startup κυβερνοασφάλειας επιχειρηματικών δεδομένων Cyera.
Η απάντηση της Cyera είναι να βοηθά τις εταιρείες να εντοπίζουν και να προστατεύουν ευαίσθητα δεδομένα στα δίκτυά τους. Η startup πρόσφατα έφτασε σε αποτίμηση 12 δισ. δολαρίων και κατέλαβε την ένατη θέση στη λίστα Disruptor 50 του CNBC. Τον περασμένο μήνα, η Cyera ανακοίνωσε σχέδια εξαγοράς της Oasis Security έναντι 1 δισ. δολαρίων, με στόχο τον εντοπισμό και τον έλεγχο των μη ανθρώπινων ταυτοτήτων.
«Οι πελάτες έρχονται σε εμάς με αρκετά ανοιχτό μυαλό, αναζητώντας περισσότερο καθοδήγηση παρά λύσεις», δήλωσε.
Τα μοντέλα ανοικτών βαρών (open-weight models), τα οποία οι τεχνολογικοί κολοσσοί έχουν παρουσιάσει τις τελευταίες εβδομάδες ως σημαντικό εργαλείο εξοικονόμησης κόστους και ενίσχυσης της ανταγωνιστικότητας των αμερικανικών επιχειρήσεων, αποτελούν έναν ακόμη σημαντικό πόρο. Αυτό συμβαίνει επειδή οι εταιρείες κυβερνοασφάλειας μπορούν να προσαρμόσουν αυτά τα μοντέλα στο δικό τους περιβάλλον και στις συγκεκριμένες ανάγκες ασφαλείας τους.
Η Hugging Face χρειάστηκε να στραφεί σε ένα μοντέλο ανοικτών βαρών για να εντοπίσει και να αναλύσει την επίθεση των agents της OpenAI.
Σε συνδυασμό με την ανθρώπινη παρέμβαση, τα open models και τα νέα εργαλεία παρακολούθησης AI μπορούν να βοηθήσουν τις επιχειρήσεις να εντοπίζουν, να απομονώνουν και να θέτουν εκτός λειτουργίας χιλιάδες απειλές, δήλωσε ο Sentonas της CrowdStrike. Η εταιρεία συμμετέχει στην πρόσφατη συμμαχία AI safety της Nvidia, η οποία έχει ως στόχο την ανάπτυξη και προώθηση ασφαλών, ανοικτών εργαλείων κυβερνοασφάλειας.
Το ζήτημα εξαρτάται επίσης από το «harness», δηλαδή το επίπεδο ελέγχου που δημιουργούν οι εταιρείες γύρω από ένα μεγάλο γλωσσικό μοντέλο ή έναν agent, ώστε να θέτουν όρια και δικλίδες ασφαλείας.
«Πιστεύω ότι σε πέντε χρόνια θα βρισκόμαστε σε μια κατάσταση όπου θα είμαστε πιο ασφαλείς από ποτέ», δήλωσε ο Yair Grindlinger, διευθύνων σύμβουλος και συνιδρυτής της startup ασφάλειας AI Surf AI. «Όμως έχουμε μπροστά μας πέντε δύσκολα χρόνια, στα οποία θα πρέπει να περάσουμε και να βρούμε πώς θα το πετύχουμε».
