Η φωτογραφία μοιάζει αυθεντική. Το πρόσωπο επίσης. Το ίδιο και το χαμόγελο. Το σύστημα facial recognition την εγκρίνει χωρίς δεύτερη σκέψη. Στην οθόνη εμφανίζεται το γνώριμο μήνυμα: access granted. Μόνο που πίσω από την οθόνη δεν βρίσκεται ο πραγματικός χρήστης. Βρίσκεται ένας κυβερνοεγκληματίας που έχει μόλις χρησιμοποιήσει την τεχνητή νοημοσύνη για να ξεγελάσει ένα σύστημα online ταυτοποίησης πελάτη — από αυτά που χρησιμοποιούν σήμερα fintech εφαρμογές, ψηφιακές τράπεζες ή υπηρεσίες KYC για να επιβεβαιώσουν ότι «είστε πράγματι εσείς».
Το παραπάνω δεν αποτελεί σενάριο κάποιου νέου επεισοδίου του Black Mirror αλλά πρόσφατο πείραμα της Ομάδας Παγκόσμιας Έρευνας και Ανάλυσης (GReAT) της Kaspersky, μιας από τις μεγαλύτερες εταιρείες κυβερνοασφάλειας παγκοσμίως, με παρουσία σε περισσότερες από 200 χώρες και εκατοντάδες εκατομμύρια προστατευόμενες συσκευές διεθνώς. Το πείραμα παρουσιάστηκε στους δημοσιογράφους που συμμετείχαν στο Kaspersky Horizons, το οποίο έλαβε χώρα προ ημερών στη Ρώμη.
«Seeing is No Longer Believing» («Το να βλέπεις δεν σημαίνει πλέον ότι μπορείς να πιστεύεις») ήταν ο τίτλος του live demo που παρουσίασε ο Maher Yamout, Senior Security Researcher της Kaspersky, επιχειρώντας να αναδείξει την άνοδο των συνθετικών απειλών που γεννά η ευρεία χρήση της AI, όχι μόνο από επιχειρήσεις και απλούς χρήστες, αλλά και από τους ίδιους τους κυβερνοεγκληματίες.
Και μέσα από την παρουσίασή του κατέστησε σαφές ότι κάτι που μέχρι πριν από μερικά χρόνια έμοιαζε σχεδόν αδύνατο - αυτά τα συστήματα δημιουργήθηκαν άλλωστε για να αντικαταστήσουν τους αδύναμους κωδικούς πρόσβασης με κάτι θεωρητικά μοναδικό και αδύνατο να παραποιηθεί, το ίδιο το ανθρώπινο πρόσωπο - σήμερα όχι μόνο είναι τεχνικά εφικτό αλλά αρχίζει να αποκτά και συγκεκριμένες… οδηγίες χρήσης.
Το πείραμα
Όπως εξήγησε ο ίδιος σε συνέντευξη του στο Insider.gr, η ιδέα γεννήθηκε σχεδόν τυχαία, «ένα Σαββατοκύριακο πειραματισμού». Στο επίκεντρο βρέθηκαν τα συστήματα facial recognition και facial verification που χρησιμοποιούνται σήμερα τόσο σε front-end όσο και σε back-end εφαρμογές: από fintechs και τραπεζικές υπηρεσίες μέχρι πανεπιστήμια, online πλατφόρμες ταυτοποίησης και κατασκευαστές smartphones. Όσο για το ερώτημα, έθετε επί τάπητος φυσικά την αξιοπιστία τους στην εποχή της generative AI.
Για να το απαντήσει, η ομάδα της Kaspersky δοκίμασε διαφορετικά σενάρια παραποίησης εικόνας. Σε ένα από τα πειράματα, μια κανονική φωτογραφία «γέρασε» μέσω AI. Παρ’ όλα αυτά, το σύστημα συνέχιζε να αναγνωρίζει το πρόσωπο επιτυχώς. Το ανθρώπινο μάτι από την άλλη - τουλάχιστον των συμμετεχόντων στο Kaspersky Horizons- διέκρινε εμφανώς ότι επρόκειτο για μια παραποιημένη εικόνα.
Στη συνέχεια οι ερευνητές δοκίμασαν το αντίστροφο: κράτησαν την εικόνα οπτικά ίδια, αλλά ζήτησαν από την AI να προσθέσει αόρατες αλλοιώσεις στα pixels. Το αποτέλεσμα ήταν εντυπωσιακό: ο άνθρωπος έβλεπε ακριβώς το ίδιο πρόσωπο, όμως ο αλγόριθμος άρχισε να αποτυγχάνει.
Σε άλλο πείραμα, μια πλάγια φωτογραφία μετατράπηκε με την βοήθεια της AI σε πλήρως «ευθυγραμμισμένο» πρόσωπο — η AI ουσιαστικά «φαντάστηκε» τη μισή πλευρά του προσώπου που δεν φαινόταν ποτέ στην αρχική εικόνα. Παρ’ όλα αυτά και πάλι το σύστημα αναγνώρισης λειτούργησε κανονικά και η πρόσβαση εγκρίθηκε.
Το πιο παράξενο δε, ήταν το λεγόμενο «Ghibli experiment». Μια anime εκδοχή ανθρώπινου προσώπου, εμπνευσμένη από την αισθητική των ταινιών Studio Ghibli, η οποία και πάλι αναγνωρίστηκε από το σύστημα ως ορθή, και μάλιστα με υψηλότερο ποσοστό επιτυχίας από την αυθεντική φωτογραφία…
Το συμπέρασμα όλων των παραπάνω ήταν απλό: Σήμερα ένας κυβερνοεγκληματίας μπορεί να πάρει μια απλή φωτογραφία ενός χρήστη από τα social media, να τη «γεράσει», να τη «διορθώσει», να δημιουργήσει νέες γωνίες προσώπου που δεν υπήρξαν ποτέ ή ακόμη και να μετατρέψει το πρόσωπο σε anime εκδοχή τύπου Ghibli — χωρίς απαραίτητα να χάσει τα χαρακτηριστικά που αναγνωρίζει η μηχανή. Μπορεί επίσης να προσθέσει αόρατο «θόρυβο» στα pixels μιας εικόνας, έτσι ώστε το ανθρώπινο μάτι να βλέπει ακριβώς το ίδιο πρόσωπο αλλά ο αλγόριθμος να αποτυγχάνει να το αναγνωρίσει. «Όλα αυτά είναι ταυτόχρονα περίεργα αλλά και εξαιρετικά ενδιαφέροντα», ανέφερε ο κ. Yamout, αφήνοντας να εννοηθεί πως η AI αρχίζει να ανατρέπει πολλές βασικές παραδοχές που είχαμε μέχρι σήμερα.
Μια εξ αυτών και η αίσθηση της ασφάλειας στον ψηφιακό αλλά και τον φυσικό κόσμο που τα τελευταία χρόνια γίνονται όλο και πιο αλληλένδετα συνδεδεμένοι. «Όποιος χρησιμοποιεί facial recognition θα πρέπει πλέον να εξετάσει επιπλέον επίπεδα ασφαλείας. Το ίδιο συνέβη παλαιότερα και με τους κωδικούς πρόσβασης: όταν αποδείχθηκε ότι δεν αρκούν, προστέθηκαν νέοι μηχανισμοί επαλήθευσης, όπως biometrics, fingerprints ή γεωγραφική ταυτοποίηση» ανέφερε χαρακτηριστικά.
Εξήγησε δε ότι τα συστήματα facial verification χρησιμοποιούνται στις μέρες μας πολύ πιο εκτεταμένα απ’ όσο αντιλαμβάνεται ο μέσος χρήστης, λειτουργώντας σε αρκετές περιπτώσεις στο «παρασκήνιο» εφαρμογών, χωρίς ο χρήστης να το αντιλαμβάνεται. Διευκρίνισε ωστόσο ότι δεν λειτουργούν όλα με τον ίδιο τρόπο, φέρνοντας ως παράδειγμα τα smartphones. «Τα περισσότερα smartphones χρησιμοποιούν διαφορετικές τεχνολογίες, όπως 3D scanning και υπέρυθρη ανάλυση βάθους, οι οποίες είναι πιο σύνθετες και πιο δύσκολα λανθάνουν» τόνισε.
Ακόμα και με αυτή την εξαίρεση βέβαια, τα κενά ασφαλείας φαίνεται να πληθαίνουν σε μια εποχή που οι επιθέσεις κάθε μορφής πολλαπλασιάζονται. Η συνθήκη απαιτεί νέα μέτρα, τα οποία και θα μπορούσαν και πάλι σε σύντομο χρονικό διάστημα να κριθούν παρωχημένα και ούτω καθεξής, δημιουργώντας έναν αέναο κύκλο…
Το άλλο ερώτημα που ανακύπτει καθώς και τα μέτρα πολλαπλασιάζονται είναι το «πόσο παρεμβατικά θέλουμε να γίνουν τα μελλοντικά συστήματα ασφαλείας;» Όπως παραδέχθηκε, η διαχωριστική γραμμή ανάμεσα στην ασφάλεια και την ιδιωτικότητα γίνεται ολοένα πιο λεπτή. «Ακόμη κι εγώ έχω απενεργοποιήσει το facial recognition στο κινητό μου, γεγονός όμως που σε κάποιες χώρες όπου τα τραπεζικά συστήματα απαιτούν αποκλειστικά facial recognition για πρόσβαση στις εφαρμογές τους, θα με καθιστούσε λιγότερο λειτουργικό» ανέφερε χαρακτηριστικά.
Και φυσικά η προαναφερθείσα συνθήκη δεν περιορίζεται μόνο στα συστήματα αναγνώρισης εικόνας, επεσήμανε ο Yamout υπενθυμίζοντας την προ διετίας περίπτωση του δημοσιογράφου του Vice, Joseph Cox, ο οποίος κατάφερε να ξεγελάσει το voice verification της ίδιας του της τράπεζας χρησιμοποιώντας συνθετική εκδοχή της φωνής του. «Αν αυτό έγινε πριν δύο χρόνια φανταστείτε τι μπορούν να κάνουν σήμερα τέτοια εργαλεία που αναπαράγουν τον τόνο κάποιου, τις παύσεις, τις αναπνοές ακόμα και τις μικρές διακυμάνσεις στη φωνή με εντυπωσιακή ακρίβεια».
Σε αυτό το τοπίο η ανταπόκριση των επιχειρήσεων φαίνεται να μην ακολουθεί τον απαιτούμενο ρυθμό. «Πολλές επιχειρήσεις σήμερα συνεχίζουν να χρησιμοποιούν voice verification ως βασικό εργαλείο ταυτοποίησης. Γενικά οι επιχειρήσεις αντιδρούν αργά» απάντησε σχετική ερώτηση του insider. Κι αυτό γιατί όπως εξήγησε χρειάζεται χρόνος για να κατανοήσουν ποιος επηρεάζεται, πόσο σοβαρός είναι ο κίνδυνος, και ποια πρέπει να είναι τα νέα αντίμετρα ασφαλείας που πρέπει να πάρουν.
Το ίδιο αργά κινείται σύμφωνα με τον ίδιο και η νομοθεσία ώστε να επιβάλλει ένα έξτρα επίπεδο ασφαλείας. Ο λόγος είναι ο ίδιος. Όσο όμως οι κυβερνήσεις και οι ρυθμιστικές αρχές προσπαθούν να καταλάβουν το πραγματικό μέγεθος του κινδύνου για να νομοθετήσουν αποτελεσματικά, οι εξελίξεις τρέχουν.
Οι κυβερνοαπειλές στην εποχή της γεωπολιτικής αστάθειας
Όσο για το τρέχον τοπίο των κυβερνοαπειλών, το οποίο τα τελευταία χρόνια έχει παρατηρηθεί να επηρεάζεται από τις γεωπολιτικές εξελίξεις, ο κ. Yamout παρουσίασε μια κατάσταση όχι και τόσο ανησυχητική.
Όπως είπε, μετά το ξέσπασμα της κρίσης στη Μ. Ανατολή η συνολική εικόνα του malware στην ευρύτερη περιοχή παραμένει σχετικά σταθερή ή και πτωτική σε ορισμένες κατηγορίες. Υπάρχει όμως μία σημαντική εξαίρεση: τα financial malware (κακόβουλο λογισμικό που στοχεύει οικονομικές συναλλαγές, τραπεζικούς λογαριασμούς, στοιχεία καρτών και online banking δεδομένα) και τα banking trojans (κακόβουλου λογισμικού που «μεταμφιέζεται» ως νόμιμη εφαρμογή ή αρχείο με στόχο να υποκλέψει τραπεζικά στοιχεία, κωδικούς και πρόσβαση σε λογαριασμούς online banking).
Κατά την εκτίμησή του, η συμπεριφορά θυμίζει σε έναν βαθμό την περίοδο της πανδημίας όπου παρατηρήθηκε εντονότερη διαδικατυακή παρουσία, απομακρυσμένη εργασία και πολυάριθμες ηλεκτρονικές συναλλαγές, άρα και μεγαλύτερη έκθεση σε επιθέσεις. «Αυτό που μπορούμε να υποθέσουμε είναι ότι οι άνθρωποι έμειναν σπίτι καθώς εξελίσσονται οι επιθέσεις οπότε γι' αυτό και τα πανομοιότυπα χαρακτηριστικά με την πανδημία».
Η εικόνα για τις κρατικά υποστηριζόμενες επιθέσεις κυβερνοκατασκοπείας (APT attacks) βέβαια είναι πιο σύνθετη. «Τέτοιου τύπου επιθέσεις είναι δύσκολο να μετρηθούν άμεσα, καθώς πρόκειται για μακροχρόνιες επιχειρήσεις που λειτουργούν διαρκώς στο παρασκήνιο» εξήγησε. Παρ’ όλα αυτά, παραδέχθηκε ότι σε περιόδους διεθνών κρίσεων οι σχετικές δραστηριότητες αυξάνονται.
Το μέλλον είναι αμφίσημο
Για τον Yamout, το πιο ανησυχητικό στοιχείο για το μέλλον δεν είναι μόνο ότι η AI μπορεί να δημιουργήσει ψεύτικες εικόνες, φωνές ή βίντεο, αλλά ότι πλέον θολώνει επικίνδυνα η γραμμή ανάμεσα στο πραγματικό και το αναληθές.
Στην ερώτηση για το αν θα ζήσουμε σε μια εποχή όπου οι κυβερνοεπιθέσεις δεν στοχεύουν μόνο τα συστήματα αλλά την ίδια την πραγματικότητα, ο ερευνητής της Kaspersky απαντά με ερώτηση «Δεν συμβαίνει ήδη αυτό εν μέρει;». Και συνεχίζει: «Δεν μιλάμε μόνο για επιθέσεις σε υποδομές ή δεδομένα αλλά και για επιθέσεις στην αντίληψη και στη γνωστική λειτουργία του ανθρώπου. Μέσω συγκεκριμένου περιεχομένου, εικόνων ή άρθρων μπορεί να διαμορφωθεί η αντίληψη του κοινού - κάτι που ναι μεν δεν είναι καινούργιο, υπήρχε ήδη από την εποχή των παραδοσιακών ΜΜΕ - αλλά η διαφορά με σήμερα είναι ότι η AI «βάζει ρόδες» σε αυτή τη διαδικασία, επιταχύνοντάς την δραματικά και προσφέροντας πολύ πιο ισχυρά εργαλεία επιρροής και χειραγώγησης.
«Παλιά λέγαμε στον κόσμο να κοιτάζει τα μάτια, τα δάχτυλα ή τις ατέλειες μιας εικόνας. Αυτή όμως ήταν η παλιά γενιά AI», σημείωσε. Σήμερα, όπως λέει, οι μεγαλύτερες απειλές ενδέχεται να έρθουν από το λεγόμενο «agentic AI» — συστήματα τεχνητής νοημοσύνης με αυξημένη αυτονομία και δυνατότητα λήψης αποφάσεων. «Μέχρι τώρα είχαμε automation. Πλέον αρχίζουμε να δίνουμε στα συστήματα τον έλεγχο», ανέφερε χαρακτηριστικά. Και κάπου εκεί, το πρόβλημα παύει να είναι μόνο τεχνικό. Γίνεται εν μέρει υπαρξιακό καθώς το «seeing is believing» παύει να ισχύει.
