Πώς μπορούν τα ΑΙ εργαλεία δημιουργίας deepfake να σας εξαπατήσουν

Τρόπους με τους οποίους τα ΑΙ εργαλεία δημιουργίας deepfake μπορούν να σας εξαπατήσουν αλλά και λύσεις για την προστασίας σας, αναλύει η Kaspersky.

Όπως επισημαίνει, τα deepfakes - και τα εργαλεία που χρησιμοποιούνται για τη δημιουργία τους - δεν είναι προς το παρόν καλά ανεπτυγμένα ή ευρέως διαδεδομένα, ωστόσο, οι δυνατότητές τους για χρήση σε συστήματα απάτης είναι εξαιρετικά υψηλές και η τεχνολογία εξελίσσεται διαρκώς.

Τι μπορούν να κάνουν τα deepfakes φωνής;

Το Open AI παρουσίασε πρόσφατα ένα μοντέλο Audio API που μπορεί να δημιουργήσει ανθρώπινη ομιλία και κείμενο με εισαγωγή φωνής. Μέχρι στιγμής, μόνο αυτό το λογισμικό Open AI είναι το πιο κοντινό στην πραγματική ανθρώπινη ομιλία.

Στο μέλλον, τέτοια μοντέλα μπορούν να γίνουν ένα νέο εργαλείο στα χέρια των επιτιθέμενων. Το API ήχου μπορεί να αναπαράγει το καθορισμένο κείμενο με φωνή, ενώ οι χρήστες μπορούν να επιλέξουν με ποια από τις προτεινόμενες επιλογές φωνής θα προφέρεται το κείμενο. Το μοντέλο Open AI, στην υπάρχουσα μορφή του, δεν μπορεί να χρησιμοποιηθεί για τη δημιουργία deepfake φωνών, αλλά είναι ενδεικτικό της ταχείας ανάπτυξης των τεχνολογιών παραγωγής φωνής.

Σήμερα, πρακτικά δεν υπάρχουν συσκευές που να είναι ικανές να παράγουν μια υψηλής ποιότητας deepfake φωνή, που δεν θα διακρίνεται από την πραγματική ανθρώπινη ομιλία. Ωστόσο, τους τελευταίους μήνες, κυκλοφορούν περισσότερα εργαλεία για τη δημιουργία ανθρώπινης φωνής. Προηγουμένως, οι χρήστες χρειάζονταν βασικές δεξιότητες προγραμματισμού, αλλά τώρα γίνεται πιο εύκολο να δουλέψει κανείς με τέτοια εργαλεία. Στο εγγύς μέλλον, μπορούμε να περιμένουμε να δούμε μοντέλα που θα συνδυάζουν τόσο την απλότητα χρήσης όσο και την ποιότητα των αποτελεσμάτων.

Η απάτη με τη χρήση τεχνητής νοημοσύνης είναι ασυνήθιστη, αλλά παραδείγματα «επιτυχημένων» περιπτώσεων είναι ήδη γνωστά. Στα μέσα Οκτωβρίου 2023, ο Αμερικανός επενδυτής επιχειρηματικών κεφαλαίων Tim Draper προειδοποίησε τους followers του στο Twitter ότι οι απατεώνες μπορούν να χρησιμοποιήσουν τη φωνή του σε απάτες. Ο Tim μοιράστηκε ότι τα αιτήματα για χρήματα που γίνονται με τη φωνή του είναι αποτέλεσμα τεχνητής νοημοσύνης, η οποία προφανώς γίνεται όλο και πιο έξυπνη.

Πώς μπορείτε να προστατευτείτε;

Μέχρι στιγμής, η κοινωνία μπορεί να μην αντιλαμβάνεται τα deepfakes φωνής ως πιθανή απειλή στον κυβερνοχώρο. Υπάρχουν πολύ λίγες περιπτώσεις όπου χρησιμοποιούνται με κακόβουλες προθέσεις, επομένως οι τεχνολογίες προστασίας αργούν να εμφανιστούν.

Προς το παρόν, ο καλύτερος τρόπος για να προστατευτείτε είναι να ακούσετε προσεκτικά τι σας λέει αυτός που σας έχει καλέσει στο τηλέφωνο. Εάν η ηχογράφηση είναι κακής ποιότητας, έχει θορύβους και η φωνή ακούγεται ρομποτική, αυτό αρκεί για να μην εμπιστευτείτε τις πληροφορίες που ακούτε.

Ένας άλλος καλός τρόπος για να τεστάρετε αν είναι άνθρωπος αυτός που σας καλεί είναι να του κάνετε προσωπικές ερωτήσεις. Για παράδειγμα, εάν ο καλών αποδειχθεί ότι είναι φωνητικό μοντέλο, μια ερώτηση σχετικά με το αγαπημένο του χρώμα θα τον αφήσει χωρίς απάντηση, καθώς δεν είναι αυτό που συνήθως ζητά ένα θύμα απάτης. Ακόμα κι αν ο επιτιθέμενος καλέσει και αναπαράγει χειροκίνητα την απάντηση σε αυτό το σημείο, η χρονική καθυστέρηση στην απάντηση θα καταστήσει σαφές ότι εξαπατάστε.

Μια ακόμη ασφαλής επιλογή είναι να εγκαταστήσετε μια αξιόπιστη και ολοκληρωμένη λύση ασφαλείας. Αν και δεν μπορούν 100% να ανιχνεύσουν φωνές deepfake, μπορούν να βοηθήσουν τους χρήστες να αποφύγουν ύποπτους ιστότοπους, πληρωμές και λήψεις κακόβουλου λογισμικού, προστατεύοντας τα προγράμματα περιήγησης και ελέγχοντας όλα τα αρχεία στον υπολογιστή.

«Η βασική συμβουλή αυτήν τη στιγμή είναι να μην υπερβάλλουμε και να μην προσπαθούμε να εντοπίσουμε deepfakes φωνής εκεί που δεν υπάρχουν. Προς το παρόν, η διαθέσιμη τεχνολογία είναι απίθανο να είναι αρκετά ισχυρή για να δημιουργήσει μια φωνή που ο άνθρωπος δεν θα μπορούσε να αναγνωρίσει ως τεχνητή. Ωστόσο, πρέπει να γνωρίζετε τις πιθανές απειλές και να είστε προετοιμασμένοι για την προηγμένη απάτη deepfake που θα γίνει μια νέα πραγματικότητα στο εγγύς μέλλον», σχολιάζει ο Dmitry Anikin, Senior Data Scientist της Kaspersky.

Περισσότερες πληροφορίες σχετικά με τα deepfakes φωνής είναι διαθέσιμες μέσω του συνδέσμου.