Το κινεζικό ρυθμιστικό όργανο για τον κυβερνοχώρο εξέδωσε σχέδιο κανόνων για δημόσια διαβούλευση, το οποίο θα ενισχύει την εποπτεία των υπηρεσιών τεχνητής νοημοσύνης που σχεδιάζονται για να μιμούνται ανθρώπινες προσωπικότητες και να αλληλεπιδρούν συναισθηματικά με τους χρήστες.
Σύμφωνα με το Reuters, η κίνηση αυτή υπογραμμίζει την προσπάθεια του Πεκίνου να διαμορφώσει την ταχεία ανάπτυξη της καταναλωτικής AI ενισχύοντας τις απαιτήσεις για ασφάλεια και ηθική.
Οι προτεινόμενοι κανόνες θα ισχύουν για προϊόντα και υπηρεσίες τεχνητής νοημοσύνης που προσφέρονται στο κοινό στην Κίνα και παρουσιάζουν προσομοιωμένα ανθρώπινα χαρακτηριστικά προσωπικότητας, πρότυπα σκέψης και στυλ επικοινωνίας, αλληλεπιδρώντας συναισθηματικά με τους χρήστες μέσω κειμένου, εικόνων, ήχου, βίντεο ή άλλων μέσων.
Το σχέδιο καθορίζει μια ρυθμιστική προσέγγιση που θα απαιτεί από τους παρόχους να προειδοποιούν τους χρήστες για υπερβολική χρήση και να παρεμβαίνουν όταν οι χρήστες εμφανίζουν σημάδια εξάρτησης.
Σύμφωνα με την πρόταση, οι πάροχοι υπηρεσιών θα είναι υποχρεωμένοι να αναλαμβάνουν ευθύνες για την ασφάλεια καθ’ όλη τη διάρκεια ζωής του προϊόντος και να δημιουργούν συστήματα για την αξιολόγηση αλγορίθμων, την ασφάλεια δεδομένων και την προστασία προσωπικών πληροφοριών.
Το σχέδιο στοχεύει επίσης σε πιθανούς ψυχολογικούς κινδύνους. Οι πάροχοι θα πρέπει να εντοπίζουν τις καταστάσεις των χρηστών και να αξιολογούν τα συναισθήματα και το επίπεδο εξάρτησής τους από την υπηρεσία. Εάν διαπιστωθεί ότι οι χρήστες εμφανίζουν ακραία συναισθήματα ή εθιστική συμπεριφορά, οι πάροχοι θα πρέπει να λάβουν τα απαραίτητα μέτρα για παρέμβαση, αναφέρεται στο κείμενο.
Τα μέτρα θέτουν «κόκκινες γραμμές» για το περιεχόμενο και τη συμπεριφορά, προβλέποντας ότι οι υπηρεσίες δεν πρέπει να παράγουν περιεχόμενο που απειλεί την εθνική ασφάλεια, διαδίδει φήμες ή προωθεί βία ή ανάρμοστο περιεχόμενο.
