Σεβαστάκης: Όταν αντιμετωπίζουμε την παραγωγική ΑΙ απλά ως ένα πιο ανεπτυγμένο Google, υποτιμούμε την κατάσταση

Newsroom
Viber Whatsapp
Μοιράσου το
Σεβαστάκης: Όταν αντιμετωπίζουμε την παραγωγική ΑΙ απλά ως ένα πιο ανεπτυγμένο Google, υποτιμούμε την κατάσταση
Τα νέα γλωσσικά μοντέλα και η παραγωγική ΑΙ, δεν είναι απλά εργαλεία -διεισδύουν βαθιά στους τρόπους της γνώσης και στο φάσμα του πολιτισμού, τονίζει ο καθηγητής του ΑΠΘ.

Μεγάλο βάθος έχει η σχέση του Αμερικανού Προέδρου Ντόναλντ Τραμπ με τους μεγιστάνες της τεχνολογίας στις ΗΠΑ, καθώς παρά τις όποιες διακυμάνσεις της, «πατάει» σε ένα κοινό έδαφος: στην αντιπάθεια για τις κανονιστικές ρυθμίσεις, τη φορολόγηση και γενικά τις πολιτικές που βάζουν όρια στις επεκτακτικές κινήσεις των εταιρειών. Την πεποίθηση αυτή εκφράζει, μιλώντας στο ΑΠΕ-ΜΠΕ, ο καθηγητής στο Τμήμα Πολιτικών Επιστημών του ΑΠΘ και συγγραφέας Νικόλας Σεβαστάκης, με αφορμή τη συμμετοχή του σε εκδήλωση της 21ης Διεθνούς 'Εκθεσης Βιβλίου Θεσσαλονίκης, με τίτλο «Για τον πολιτισμό στην εποχή των αλγορίθμων και των ολιγαρχιών». Φυσικά, συμπληρώνει, ο Τραμπ μπορεί να συγκρουστεί με επιμέρους ιδιωτικά συμφέροντα, να χτίζει το δικό του πλάνο και να έχει μια αυτονομία, την ίδια στιγμή όμως υπάρχει μεγάλη σύγκλιση στην αντίθεση προς τις ρυθμίσεις, απέχθεια που τη συμμερίζονται οι άνθρωποι του «Big Tech». «Για αυτόν τον λόγο, ο δεσμός αυτός έχει μεγάλο βάθος, παρότι η προσωπική σχέση που καλλιεργήθηκε μεταξύ Τραμπ και Μασκ μπορεί να αλλάξει και το περίφημο Υπουργείο Κυβερνητικής Αποτελεσματικότητας ενδέχεται να καταργηθεί, και παρότι η στάση των μεγιστάνων της Silicon Valley επηρεάστηκε από τους δασμούς» εκτιμά.

Ως προς το τι μπορεί να σημαίνει για τον πλανήτη αυτή η ολοένα στενότερη σχέση πολιτικής και επιχειρηματικών συμφερόντων του κλάδου της τεχνολογίας, στην ισχυρότερη χώρα της Δύσης, ο κ. Σεβαστάκης επισημαίνει ότι, πλέον, οι ίδιες οι ψηφιακές υποδομές των κρατών είναι σε μεγάλο βαθμό «χρεωμένες» σε λίγες αμερικανικές (κυρίως) επιχειρήσεις υψηλής τεχνολογίας. «Οι επιπτώσεις αυτού του γεγονότος είναι πολλαπλές, αφού οι δημόσιες υπηρεσίες, τα δίκτυα, κρίσιμοι τομείς των εθνικών κρατών είναι στο έλεος αυτών των ιδιωτικών "υπερδυνάμεων"» λέει.

Όταν αντιμετωπίζουμε ως κάτι «χομπίστικο» μια οντότητα που μπορεί να παράγει πολιτική, να γράφει νόμους και να χειραγωγεί

Πόσο πιθανό θεωρεί η Τεχνητή Νοημοσύνη (ΤΝ) να διαμορφώσει νέες μορφές και διαδικασίες πολιτικής εξουσίας στον πλανήτη; Όπως επισημαίνει, υπάρχει μεγάλη συζήτηση για την αλγοριθμική διακυβέρνηση και σωστά -γιατί δεν μπορείς να κάνεις σήμερα πολιτική και κοινωνική ανάλυση, αν δεν δεις την αλλαγή στον ρόλο του κράτους και πώς οι τεχνολογικές αναδιαρθρώσεις αλλάζουν τα δεδομένα. Αυτή η συζήτηση όμως αναλώνεται σε στενούς κύκλους ειδικών. «Και υπάρχει μια άλλη, πιο καθημερινή και μαζική κουβέντα, που επικεντρώνεται κυρίως στους φόβους γύρω από την ΤΝ, κυρίως όμως στις προσδοκίες για τις διευκολύνσεις που παρέχει. Πάρα πολλοί άνθρωποι κρίνουν τα πράγματα με βάση αν μια εφαρμογή της ΤΝ τους διευκολύνει, τους εξοικονομεί χρόνο, τους "βγάζει δουλειά". Παρά τη μεγάλη επιτάχυνση που παρατηρείται στην ανάπτυξή της, την αντιμετωπίζουμε σαν να πρόκειται για μια συμβατική τεχνολογία ή εργαλείο, σαν ένα εμπορικό αντικείμενο με κάμποσο hype, όπως το τελευταίο μοντέλο του iphone» σημειώνει.

Τα νέα γλωσσικά μοντέλα και η παραγωγική Τεχνητή Νοημοσύνη όμως, διευκρινίζει, δεν είναι απλά εργαλεία -διεισδύουν βαθιά στους τρόπους της γνώσης και στο φάσμα του πολιτισμού. «Τα αντιμετωπίζουμε παρόλα αυτά με απερισκεψία και ελαφρότητα, σαν να πρόκειται για κάτι χομπίστικο, στο οποίο μπορούμε απλά να δημιουργήσουμε εικόνες στο στυλ του Studio Ghibli. Οι συνέπειες όμως αυτής της ιστορίας είναι καταλυτικές για αυτό χρειάζεται να είμαστε πολύ πιο αφυπνισμένοι απέναντι σε νέα σχήματα χειραγώγησης και πολύ-επιτήρησης που φυσικά ισχυρίζονται πως υπηρετούν τις επιθυμίες μας και τις επιλογές μας. Στην πραγματικότητα, έχουμε νέες μορφές διακυβέρνησης του πληθυσμού και των μεμονωμένων ατόμων» επισημαίνει ο καθηγητής.

Πρόσφατα έγινε γνωστό ότι τα Ηνωμένα Αραβικά Εμιράτα (ΗΑΕ) σχεδιάζουν την κατάρτιση νομοθεσίας μέσω ΤΝ. Γνωρίζουμε όμως ότι η ΤΝ έχει προκαταλήψεις κατά συγκεκριμένων ομάδων πληθυσμού (χαρακτηριστικό το παράδειγμα της εξαιρετικής έρευνας «Machine Bias» της ProPublica). Υπάρχουν περισσότερες ευκαιρίες ή κίνδυνοι εδώ; «Δεν γνωρίζω ακριβώς τις προτάσεις που γίνονται στα ΗΑΕ, αλλά στρώνεται σταδιακά το έδαφος για μετα-δημοκρατικές τεχνολογίες. Συχνά ακούω ανθρώπους να λένε "αφού οι δικαστές είναι άνθρωποι με προκαταλήψεις, συμφέροντα και εξαρτήσεις, μήπως ένα bot στη Δικαιοσύνη θα είναι τελικά πιο αντικειμενικό"; Είμαι εξαιρετικά σκεπτικός απέναντι σε κάθε διαδικασία που αντικαθιστά με αυτοματισμούς και αλγοριθμικές διαδικασίες την ανθρώπινη διαχείριση μιας δικαστικής ή νομικής διαμάχης. Ειδικά σε κράτη με απολυταρχικά χαρακτηριστικά, με πολύ μικρή λογοδοσία στους πολίτες, σε αυταρχικά ή ημι-αυταρχικά καθεστώτα. Και επίσης, είμαι αντίθετος σε προτάσεις που ζητούν να "ανατεθεί" η παραγωγή πολιτικής σε bots» ξεκαθαρίζει ο κ.Σεβαστάκης.

Το «delivery» που διαστρεβλώνει την ίδια την έννοια της δημιουργίας, η εξουσία στους «μεγάλους παίκτες» κι ο παγκόσμιος μηχανισμός ανομίας

Συχνά λέμε ότι η ΤΝ πρέπει να είναι εναρμονισμένη με τις ανθρώπινες ηθικές αρχές και αξίες. Συμφωνούμε όμως όλοι ως προς το ποιες είναιαυτές; «Ανάλογα με το ποιος ρωτάει, διαμορφώνεται μια άλλη απάντηση, πιο κοντινή στις δικές του αξίες και πεποιθήσεις. Αρχικά νόμιζα πως η παραγωγική ΤΝ (GenAI) θα έχει ισορροπημένο χαρακτήρα, λίγο σαν έκθεση ιδεών στο σχολείο, έναν χαρακτήρα πιο "κεντρώο" -δεν χρησιμοποιώ τη λέξη με την πολιτική έννοια. Αυτό όμως δεν συμβαίνει και στο εσωτερικό της παρεισφρέουν και όλες οι διαιρέσεις, είτε οι πιο προοδευτικές και συμπεριληπτικές είτε οι πιο συντηρητικές και ακραίες, που μεταφέρονται στις απαντήσεις της. Οι κανονιστικές ρυθμίσεις ίσως θα μπορούσαν να το αντιμετωπίσουν αυτό» εκτιμά, μιλώντας στο ΑΠΕ-ΜΠΕ και την Αλεξάνδρα Γούτα.

Κατά τη γνώμη του όμως, ο μεγαλύτερος κίνδυνος είναι ότι οι άνθρωποι στρέφονται πλέον στη λογική του «delivery» -κάνω κάποιες ερωτήσεις ή δίνω παραμέτρους, πατάω ένα κουμπί και μου παραδίδεται αμέσως το αποτέλεσμα, χωρίς να χρειαστεί να κρίνω, να ερευνήσω ή να μάθω- κι αυτό διαστρεβλώνει την ίδια την έννοια της δημιουργίας. Ένας άλλος κίνδυνος είναι, κατά τον κ.Σεβαστάκη, η μεγάλη εξουσία που δίνει η παραγωγική ΤΝ στους μεγάλους παίκτες είτε αυτοί είναι οι μυστικές υπηρεσίες μιας χώρας είτε οι μεγάλες εταιρείες. Δυστυχώς, αυτοί οι κίνδυνοι είναι πολύ δύσκολο να αποφευχθούν. Πάρα πολλές φορές οι οικονομικές και πολιτικές ελίτ είναι δύσκολο να δεσμευτούν στην πράξη ως προς την αναγκαία ρύθμιση ενός πεδίου, γιατί ασκούνται τεράστιες πιέσεις από τον ανταγωνισμό και αν εσύ καθυστερήσεις, ο άλλος θα έχει ήδη φύγει. Έτσι καταλήγουμε να έχουμε ένα παγκόσμιο σύστημα που λειτουργεί σαν μηχανισμός ανομίας» προειδοποιεί.

Προ διετίας ο τραγουδοποιός Νικ Κέιβ έγραψε μια επιστολή για την ΤΝ, στην οποία προειδοποιούσε για τον κίνδυνο να περάσουμε από την υποβοήθηση του μόχθου του δημιουργού στην πλήρη υποκατάστασή του. Μήπως τελικά η ΤΝ μας κάνει λιγότερο δημιουργικούς; «Η υποβοήθηση έχει τη λογική του εργαλείου. Όταν όμως αντιμετωπίζουμε την GenAI ως απλά ένα πιο ανεπτυγμένο Google θεωρώ ότι υποτιμούμε την κατάσταση -στην πραγματικότητα προτείνονται ήδη μορφές αντικατάστασης. Όταν μιλάμε για τέχνη για παράδειγμα, με την παραγωγική ΤΝ μας προσφέρεται με λίγες κινήσεις (παραγγελίας) κάτι πλήρες είτε είναι μουσικό κομμάτι είτε πίνακας ζωγραφικής, ένα ποίημα. Να μην αναφερθώ σε ερευνητικά ή δημοσιογραφικά κείμενα. Ο τρόπος με τον οποίο όλο αυτό παρουσιάζεται σαν παιχνίδι είναι προβληματικός» λέει ο κ.Σεβαστάκης.

Απελπιστικά φτωχοί σε πολιτική και κοινωνική φαντασία και χωρίς σχέδιο για την έξοδο χιλιάδων ανθρώπων από την αγορά εργασίας

Κατά τον καθηγητή, τα συστήματα της αγοράς εργασίας δεν είναι καθόλου προετοιμασμένα για αυτό που συμβαίνει, καθώς η ΤΝ υποκαθιστά την ανθρώπινη πράξη της δημιουργίας. «Ας πούμε ότι (λόγω της χρήσης της ΤΝ) μια αίθουσα σύνταξης θα βρεθεί να έχει τρία-τέσσερα επώνυμα μεγαλοστελέχη κι ελάχιστους ανθρώπους για επιμέλεια κειμένων. Πώς θα διαχειριστεί η αγορά εργασίας και συνολικά η κοινωνία την αντικατάσταση χιλιάδων ανθρώπων; Δεν υπάρχει κανένα σχέδιο ομαλής εξόδου από την αγορά εργασίας για τα μεσαία στελέχη της λεγόμενης δημιουργικής τάξης. Δεν βλέπω καμία πρόνοια και σοβαρή συζήτηση για προωθημένες πολιτικές κοινωνικής ενσωμάτωσης και εισοδηματικής ενίσχυσης για όσους σε πέντε χρόνια θα βρίσκονται "απ' έξω". Είμαστε απελπιστικά φτωχοί σε πολιτική και κοινωνική φαντασία και προσπαθούμε να οικοδομήσουμε το μέλλον αποκλειστικά στο πεδίο της τεχνολογίας, κι αυτό το προάγει και το ιδεολογικό αφήγημα της εποχής του Τραμπ» σημειώνει.

Η γεννητική ή δημιουργική ή παραγωγική ΤΝ (Gen AI) είναι ένα εξαιρετικά χρήσιμο εργαλείο, το οποίο όμως έχει τεράστια δυνατότητα (και συναισθηματικής) επιρροής και χειραγώγησης. Θεραπεύεται αυτό στην πράξη, δεδομένου ιδίως ότι υπάρχουν τόσα ανταγωνιστικά μεταξύ τους συμφέροντα ανάμεσα σε εταιρείες, αλλά και ανάμεσα σε κυβερνήσεις; «Ιδίως η ιδέα της ΤΝ ως υποκατάστατου του ψυχοθεραπευτή έχει πολλά προβληματικά, φετιχιστικά στοιχεία και στοιχεία ψυχικής αλλοτρίωσης. Κάποιοι θα πουν "Γιατί; Και η τηλεόραση δεν βοηθά τους ηλικιωμένους να ξεπεράσουν τη μοναξιά τους"; Εδώ όμως έχουμε κάτι διαφορετικό. Δεν μπορούμε να αυτοσχεδιάζουμε με αυτά τα λεπτά ζητήματα. Δεν είναι memes αυτά που παράγουν. Αν χαρακτηρίζουμε τα Μεγάλα Γλωσσικά Μοντέλα (σ.σ. όπως το ChatGPT, το Gemini ή το Claude) σαν ψηφιακούς παπαγάλους, που γράφουν εύστοχα πράγματα χωρίς να καταλαβαίνουν τι λένε, ενδεχομένως να μπορούν να γίνουν και οι τέλειοι δημαγωγοί και κόλακες. Χρειάζεται μεγάλη εγρήγορση από όλες και όλους μας» υπογραμμίζει.

Το παγκόσμιο προπύργιο της ρύθμισης της ΤΝ βρίσκεται στην Ευρώπη, η οποία όμως συχνά κατηγορείται από τις ίδιες τις επιχειρήσεις της ότι δεν έχει βρει τη χρυσή τομή μεταξύ ρύθμισης και ενθάρρυνσης της επιχειρηματικότητας. Πού μπορεί να βρίσκεται η χρυσή τομή; «Έχω παρατηρήσει ότι ποτέ δεν τίθεται το ερώτημα του σκοπού ως προς τις εφαρμογές που θέλουν να αναπτύξουν αυτές οι επιχειρήσεις. Για ποιον λόγο να υποστηριχθούν, π.χ., εφαρμογές, που κάνουν έναν άνθρωπο χωρίς ταλέντο να φαίνεται πολυτάλαντος; Χρειάζεται να υπάρχει διαχωρισμός σχετικά με όσα υποστηρίζονται, να ξανασκεφτούμε το ηθικό και κοινωνικό κόστος της άγριας εμπορευματοποίησης. Η ταχύτητα με την οποία αναπτύσσεται η ΤΝ δεν εξηγείται μόνο με γεωπολιτικά κριτήρια, αλλά και από τον εμπορικό ανταγωνισμό. Για να ρυθμιστεί κάτι, πρέπει να αναστοχαστούμε πάνω σε αυτό, δεν μπορούμε να ρυθμίσουμε κάτι που ακόμα δεν το έχουμε καν καταλάβει πλήρως. Η Ελλάδα θέλει να παίξει τον ρόλο του διευκολυντή και του μεσολαβητή. Υπάρχουν βέβαια πολλά ανοιχτά ζητήματα, όπως το θέμα με την ενέργεια που καταναλώνουν τα κέντρα δεδομένων ή τις μεγάλες ποσότητες νερού που απαιτούνται για την ψύξη των servers. Aυτά είναι υπαρκτά και σοβαρά, ζητήματα όχι θεωρητικά και προσχηματικά. Για μένα είναι απόλυτα θεμιτές οι αντιρρήσεις για έργα που επιβαρύνουν ακόμα περισσότερο περιοχές, που ήδη αντιμετωπίζουν πρόβλημα λειψυδρίας» καταλήγει.

Πηγή: ΑΠΕ-ΜΠΕ

Ακολουθήστε το insider.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις από την Ελλάδα και τον κόσμο.

BEST OF LIQUID MEDIA

gazzetta
gazzetta reader insider insider