Υπήρξε μια στιγμή στο φετινό Kaspersky Horizons στη Ρώμη όπου η συζήτηση για την κυβερνοασφάλεια έπαψε να αφορά μόνο servers, firewalls και κακόβουλο λογισμικό. Η αίθουσα είχε μόλις παρακολουθήσει ένα AI σύστημα να ξεγελά έναν μηχανισμό αναγνώρισης προσώπου με anime φωτογραφίες τύπου Ghibli, όταν ένας από τους ομιλητές έθεσε το δύσκολο ερώτημα: «Μήπως οι κυβερνοεπιθέσεις δεν στοχεύουν πλέον μόνο τα συστήματα αλλά την ίδια την πραγματικότητα;»
Καθώς μάλιστα οι ειδικοί της κυβερνοασφάλειας προχωρούσαν στις παρουσιάσεις τους, αρκετές φορές προέκυπτε το συμπέρασμα ότι η νέα εποχή των κυβερνοαπειλών δεν αφορά μόνο το ποιος αποκτά πρόσβαση σε ένα δίκτυο αλλά και το ποιος επηρεάζει την αντίληψη, τη συμπεριφορά, την κρίση και τελικά την ίδια την ανθρώπινη σκέψη.
Όλα αυτά φυσικά με την βοήθεια της τεχνητής νοημοσύνης, η οποία όπως επισημάνθηκε από τους ερευνητές, αλλάζει ταυτόχρονα και την άμυνα και την επίθεση, αλλά κυρίως αλλάζει την ταχύτητα με την οποία εξελίσσονται όλα.
Οι AI agents αλλάζουν το παιχνίδι της κυβερνοασφάλειας
Ένα από τα πρόσωπα που κυριάρχησαν στο συνέδριο Kaspersky Horizons, που συγκέντρωσε στη Ρώμη προ εβδομάδων ερευνητές κυβερνοασφάλειας, νομικούς, συμβούλους AI και ειδικούς στις κυβερνοαπειλές, ήταν ο Dimitry Galov, επικεφαλής της ομάδας GReAT της Kaspersky, o οποίος επικεντρώθηκε στο πώς η AI μετακινείται πλέον από το στάδιο του «assistant» στο στάδιο του «operator».
«Η τεχνητή νοημοσύνη μειώνει το λειτουργικό κόστος όχι μόνο για τους αμυνόμενους αλλά και τους επιτηθέμενους (attackers) ενώ πολλαπλασιάζει τις δυνατόηττες και στα δύο στρατόπεδα, με διαφορετική κάθε φορά στόχευση» ανέφερε χαρακτηριστικά ο Garov.
Αναλύοντας το παραπάνω επεσήμανε ότι αν στην πλευρά των αμυνόμενων - επιχειρήσεων η ΤΝ βοηθά στην επίσπευση του εντοπισμού μια επίθεσης, αυτοματοποιεί ανά περιπτώσεις την απόκριση μειώνοντας το φόρτο εργασίας για τους αναλυτές και διευκολύνει στην ιεράρχηση των προτεραιοτήτων, προσφέρει αντίστοιχα πλεονεκτήματα και στην πλευρά των επιτιθέμενων - κυβερνοεγκληματιών. Συμβάλλει στην αναγνώριση στόχων (recon) μπορεί να κλιμακώσει εύκολα το phising και να το κάνει πιο στοχευμένο με την χρήση deepfakes, βοηθά την ταχεία ανάπτυξη κακόβουλου λογισμικού (Malware), μπορεί να συλλέξει πληροροφρίες από ανοιχτές πηγές ακόμα και να αυτοματοποιήσει τις δραστηριότητες των κυβερνοεγκληματιών. Ειδοποιός διαφορά βέβαια είναι ότι ενώ οι επιτιθέμενοι χρειάζονται μόνο μία επιτυχία, οι αμυνόμενοι καλούνται να προστατεύσουν τα πάντα, όπως τόνισε.
Καθώς μάλιστα περνάμε από τα AI tools στους AI agents που αποκτούν πρόσβαση σε δεδομένα, workflows, cloud υπηρεσίες και εταιρικά συστήματα, η οπτική της κυβερνοασφάλειας» φαίνεται να αλλάζει εκ βάθρων.
Η νέα «αλυσίδα εφοδιασμού» των κυβερνοεπιθέσεων
Σε μια προσπάθεια να εξηγήσει την διαφορά ανέφερε ότι «μια εταιρεία σήμερα δεν περιορίζεται στο δικό της δίκτυο. Η νέα επιχειρηματική περίμετρος περιλαμβάνει τεχνολογικούς παρόχους (vendors), διασυνδέσεις συστημάτων (integrations), στοιχεία ανοιχτού κώδικα (open-source components), cloud υπδομές, ροές ανταλλαγής δεδομένων (data exchange flows) και αυτόνομα συστήματα AI, ευρύτερα γνωστά ως AI agents. Σε αυτό το αλληλοεξαρτώμενο δίκτυο, όπως σημείωσε ο Garov, «μια παραβίαση σε ένα μόνο στοιχείο της αλυσίδας μπορεί να επηρεάσει ταυτόχρονα εκατοντάδες ή και χιλιάδες οργανισμούς που χρησιμοποιούν την ίδια τεχνολογική υποδομή».
Tόνισε δε ότι το πρόβλημα δεν είναι θεωρητικό καθώς ήδη μία στις τρεις επιχειρήσεις επηρεάστηκε από επίθεση στην «εφοδιαστική αλυσίδα λογισμικού» το τελευταίο δωδεκάμηνο και έφερε ως παράδειγμα την παραβίαση της πλατφόρμας LiteLLM από την ομάδα TeamPCP. Η πλατφόρμα, με περίπου 95 εκατ. downloads μηνιαίως, χρησιμοποιείται ευρέως σε εφαρμογές που βασίζονται σε OpenAI, CrewAI και DSPy. Σύμφωνα με τα στοιχεία που παρουσιάστηκαν, κακόβουλα πακέτα στο PyPI αξιοποιήθηκαν για την κλοπή API keys, cloud credentials, κωδικών βάσεων δεδομένων και αρχείων crypto wallets, επηρεάζοντας οργανισμούς σε ΗΠΑ, Ινδία και Ευρώπη.
Εξίσου ανησυχητικά ήταν τα στοιχεία που παρέθεσε για την αύξηση των κυβερνοαπειλών με την χρήση της ΑΙ. Για παράδειγμα μόνο το 2026 εντοπίστηκαν περισσότερες από 92.000 κακόβουλες επιθέσεις μεταμφιεσμένες σε AI υπηρεσίες.
Αναλυτικότερα
- το 49% των fake AI applications αφορούσε ψεύτικες εφαρμογές ChatGPT,
- το 18% ψευδείς εφαρμογές του Claude,
- και άλλο ένα 18% ψευδείς εφαρμογές του Gemini
Παράλληλα, η Kaspersky εντόπισε πάνω από 15.000 malware που παρουσιάζονταν ως agentic AI software, μεταξύ των οποίων trojans, banking trojans, spyware, malware downloaders, backdoors και exploits.
Αύξηση της τάξης του 59% καταγράφηκε στις επιθέσεις με λογισμικά υποκλοπής (infostealers) κατά τη διάρκεια του περασμένου έτους. Αυτά τα κακόβουλα προγράμματα δρουν μιμούμενα γνωστές πλατφόρμες Τεχνητής Νοημοσύνης, όπως το OpenClaw, το Claude και το Doubao, και διανέμονται μέσω της τεχνικής «malwaretising» - χρησιμοποιούν δηλαδή απατηλές διαφημίσεις στα GoogleAds για να παρασύρουν τους χρήστες. Στοχεύοντας συστήματα με λειτουργικά Windows και macOS, οι συγκεκριμένοι «κλέφτες πληροφοριών» αποκτούν πρόσβαση σε ευαίσθητα δεδομένα από προγράμματα περιήγησης (web browsers) καθώς και από ψηφιακά πορτοφόλια κρυπτονομισμάτων (cryptocurrency wallets) τα οποία χρησιμοποιούν είτε για κατασκοπεία, είτε για παρενόχληση εκφοβισμό ή και για οικονομική εκμετάλλευση μέσω της μεταπώλησής τους στο dark web.
Στα σχετικά παραδείγματα που έφερε ο Garov περιλαμβάνεται η κινεζική ομάδα Silver Fox APT, η οποία διένειμε ψεύτικες εκδόσεις Claude για Windows, Linux και macOS με στόχο μακροχρόνια κυβερνοκατασκοπεία και συλλογή ευαίσθητων δεδομένων, αλλά και η «μόλυνση» του OpenClaw ecosystem και του ClawHub marketplace, όπου επιτιθέμενοι ανέβαζαν «malicious skills» μεταμφιεσμένα ως νόμιμα AI εργαλεία, εξαπατώντας τους χρήστες που τα εγκαθιστούσαν.
Οι ψευδαισθήσεις του cognitive AI
Πέρα βέβαια από τις αλλαγές που φέρνει η υιοθέτηση της ΤΝ στην τεχνική πλευρά τεχνικό πεδίο της κυβερνοασφάλειας, η επίδραση επεκτείνεται και σε άλλα πεδία, ενδεχομένως πιο φιλοσοφικά, όπως εξήγησε κατά την δική της παρουσίαση η Noushin Shabab.
Η επικεφαλής ερευνήτρια ασφαλείας της ομάδας GReAT παρουσίασε το concept της «γνωστικής AI» (cognitive AI) - των συστημάτων δηλαδή που δεν περιορίζονται στην επεξεργασία δεδομένων αλλά εξελίσσονται προς την κατεύθυνση της ερμηνείας της ανθρώπινης συμπεριφοράς, της ανάλυσης νευρωνικών σημάτων και της πρόβλεψης αποφάσεων καθώς και της δυνατότητας επίδρασης πάνω στην ανθρώπινη σκέψη.
«Οι σκέψεις μας δεν είναι πλέον τόσο ιδιωτικές όσο πιστεύουμε», ανέφερε χαρακτηριστικά η Shabab. Όπως εξήγησε, τα σημερινά συστήματα AI δεν μπορούν κυριολεκτικά να «διαβάσουν» το μυαλό μας, μπορούν όμως ήδη να επηρεάζουν συμπεριφορές και αποφάσεις μέσω προσωποποιημένου περιεχομένου και ελέγχου της πληροφορίας σε τεράστια κλίμακα.
Σε αυτό το πλαίσιο το phishing μπορεί να μετατραπεί σε κάτι πολύ πειστικό, δυναμικό και προσωποποιημένο. Σύμφωνα με την ίδια στο μέλλον τέτοιες επιθέσεις θα αξιοποιούν συμπεριφορικά δεδομένα, ψυχολογικά προφίλ και συναισθηματικά ερεθίσματα ώστε να προσαρμόζονται αυτόματα σε κάθε θύμα. Κι όλα αυτά την ώρα που σύμφωνα με στοιχεία της Kaspersky, το phishing αντιστοιχεί ήδη περίπου στο 15% των πιο συχνών μεθόδων επίθεσης διεθνώς.
Η σκέψη της δε πήγε ένα βήμα παρακάτω με την ερευνήτρια να διερωτάται κατά πόσο η AI μπορεί πλέον να αναδιαμορφώνει συλλογικά την αντίληψη της πραγματικότητας.
«Οι πλατφόρμες κοινωνικής δικτύωσης μάς έχουν ήδη δείξει πώς τα αλγοριθμικά συστήματα ενισχύουν τους κλειστούς κύκλους πληροφόρησης και την κοινωνική πόλωση. Η γνωστική τεχνητή νοημοσύνη έρχεται να πολλαπλασιάσει αυτές τις δυνατότητες και να επιταχύνει δραματικά την επιρροή τους», ανέφερε, προειδοποιώντας ότι το επόμενο πεδίο αντιπαράθεσης ενδέχεται να είναι η ίδια η «νοητική ιδιωτικότητα».
Όσο για τις βασικές απειλές που αναμένεται να ενταθούν τα επόμενα χρόνια, αφορούν σύμφωνα με την ίδια και την Kaspersky, τέσσερις βασικές πτυχές Τις εξαιρετικά στοχευμένες επιθέσεις κοινωνικής μηχανικής με τη χρήση τεχνητής νοημοσύνης, την χειραγώγηση της κοινής γνώμης και της ανθρώπινης συμπεριφοράς, την δημιουργία αναλυτικών ψηφιακών προφίλ που μπορούν να αξιοποιηθούν για κακόβουλους σκοπούς, καθώς και τις διεπαφές εγκεφάλου–υπολογιστή (Brain-Computer Interfaces - BCIs) που φέρνουν εντελώς νέους κινδύνους στο προσκήνιο.
