Για χρόνια, ειδικοί εντός και εκτός του κλάδου προειδοποιούν ότι ίσως οδεύουμε προς μια τέτοια εξέλιξη - μια άποψη που αποτυπώνεται, στην πιο ακραία μορφή της, στο βιβλίο του 2025 If Anyone Builds It, Everyone Dies («Αν κάποιος το κατασκευάσει, όλοι πεθαίνουμε»), των ερευνητών τεχνητής νοημοσύνης Ελιέζερ Γιούντκοφσκι και Νέιτ Σοάρες.
Όμως, όπως αναφέρει το Bloomberg, για το μεγαλύτερο μέρος των δύο τελευταίων ετών, φαινόταν ότι οι λεγόμενοι «doomers» - όσοι προβλέπουν μια καταστροφική έκβαση από την τεχνητή νοημοσύνη - έχαναν τη σχετική επιχειρηματολογία. Ναι, τα μοντέλα παρουσίαζαν ορισμένες ανησυχητικές τάσεις, όπως μια τάση να καταστρώνουν σχέδια και να ενεργούν συνωμοτικά, αλλά το μεγαλύτερο μέρος της προσοχής επικεντρωνόταν στις οικονομικές δυνατότητες και τους οικονομικούς κινδύνους της τεχνητής νοημοσύνης.
Οι δύο τελευταίοι μήνες ενδέχεται να μείνουν στην ιστορία ως η περίοδος κατά την οποία οι φόβοι των «doomers» πέρασαν στη δημόσια συνείδηση. Στα τέλη Ιουλίου, η OpenAI αποκάλυψε ότι τα μοντέλα της είχαν παραβιάσει την εταιρεία τεχνητής νοημοσύνης Hugging Face στο πλαίσιο μιας δοκιμής - εν αγνοία των ερευνητών της OpenAI που διεξήγαγαν τη δοκιμή. Σύντομα και άλλοι πάροχοι μοντέλων αποκάλυψαν ότι είχαν αντιμετωπίσει παρόμοια περιστατικά. Η OpenAI και η ανεξάρτητη ερευνητική ομάδα METR πρόσθεσαν νέες, ανησυχητικές λεπτομέρειες: όχι μόνο σχετικά με τα κενά στις διαδικασίες δοκιμών της OpenAI, αλλά και για τον τρόπο με τον οποίο εκατοντάδες πράκτορες τεχνητής νοημοσύνης συντονίστηκαν μεταξύ τους προκειμένου να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο.
Την περασμένη εβδομάδα, η OpenAI κυκλοφόρησε το τελευταίο της μοντέλο, το Astra, και ο πρόεδρός της, Γκρεγκ Μπρόκμαν, άφησε να εννοηθεί ότι μπορεί να σηματοδοτεί την έναρξη της εποχής της «AGI» - της τεχνητής γενικής νοημοσύνης. Αυτή την εβδομάδα, ένας ερευνητής της Anthropic παραιτήθηκε, λέγοντας ότι οι εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης «παίζουν τη ζωή μας στα ζάρια». Σε απάντηση, ένας εν ενεργεία εργαζόμενος στην Anthropic και επικεφαλής μίας από τις ομάδες έρευνας για την ασφάλεια της εταιρείας δήλωσε δημοσίως ότι θεωρεί πως υπάρχει πιθανότητα μεγαλύτερη του 10% η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους «μέσα στην επόμενη δεκαετία».
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, είπε στο προσωπικό ότι είναι ανοιχτός στο ενδεχόμενο να επιβραδύνει τον ρυθμό ανάπτυξης της εταιρείας. Το Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε ανάρτηση σε ιστολόγιο, ζητώντας επίσης επιβράδυνση της ανάπτυξης, καθώς και τη συμμετοχή ανεξάρτητων τρίτων φορέων στην αξιολόγηση των μοντέλων. Οι «doomers» είχαν επιστρέψει στο προσκήνιο.
«Η ασφάλεια μετατρέπεται σε ολοένα πιο άμεσο περιοριστικό παράγοντα για την ανάπτυξη των κορυφαίων μοντέλων τεχνητής νοημοσύνης», έγραψε ο Μάικλ Ντενγκ, αναλυτής γεωοικονομίας στο Bloomberg Economics. Σημειώνει ότι η OpenAI υποστηρίζει πως το τελευταίο της μοντέλο είναι ασφαλέστερο από τα προηγούμενα, αλλά ενδέχεται να είναι και λιγότερο διαφανές.
Ας πάμε κατευθείαν στην ουσία: Θα πεθάνουμε όλοι από την τεχνητή νοημοσύνη; Η καλύτερη απάντηση δεν είναι ιδιαίτερα ικανοποιητική: Κανείς δεν γνωρίζει. Η δεύτερη καλύτερη απάντηση, όμως, είναι: Μάλλον όχι, αλλά οι πιθανότητες παραμένουν ανησυχητικά υψηλές.
Είναι αδύνατο να προβλέψει κανείς με μεγάλη βεβαιότητα οτιδήποτε σχετικά με την τεχνητή νοημοσύνη, αλλά η καλύτερη προσπάθεια που γνωρίζουμε προέρχεται από τις δημοσκοπήσεις του Forecasting Research Institute (FRI) μεταξύ ειδικών και αναλυτών προβλέψεων στον τομέα της τεχνητής νοημοσύνης. Εν ολίγοις, το πρόγραμμα ζητά από ειδικούς, έμπειρους αναλυτές προβλέψεων και το ευρύ κοινό να κάνουν συγκεκριμένες, ποσοτικοποιήσιμες προβλέψεις για την τεχνητή νοημοσύνη και στη συνέχεια μετρά την ακρίβειά τους σε βάθος χρόνου.
Στα τέλη της άνοιξης, οι ερευνητές ρώτησαν για την πιθανότητα μιας καταστροφής που θα προκαλούσε η τεχνητή νοημοσύνη και θα οδηγούσε στον θάνατο τουλάχιστον του 10% του παγκόσμιου πληθυσμού. Ο διάμεσος ειδικός στην τεχνητή νοημοσύνη εκτίμησε την πιθανότητα να συμβεί κάτι τέτοιο σε 0,3% έως το 2030, 2% έως το 2050 και 5% έως το τέλος του αιώνα.
Οι αναλυτές προβλέψεων, οι οποίοι είναι συνηθισμένοι να αποδίδουν πιθανότητες σε διάφορα ενδεχόμενα και να αξιολογούνται με βάση την ακρίβεια των προβλέψεών τους, εμφανίζονται αισθητά λιγότερο ανήσυχοι. Ο διάμεσος «υπερπροβλέπων» (superforecaster) εκτίμησε στο 0,1% την πιθανότητα μιας καταστροφής έως το 2030, στο 0,88% έως το 2050 και στο 2,4% έως το 2100.
Αν αναζητάτε μια δόση αισιοδοξίας, αυτή είναι: οι εκπαιδευμένοι αναλυτές προβλέψεων, ως ομάδα, δεν συμμερίζονται το ίδιο επίπεδο ανησυχίας με την κοινότητα της τεχνητής νοημοσύνης. Ωστόσο, μια πιθανότητα 1 στις 1.000 να σκοτώσει η τεχνητή νοημοσύνη το 10% της ανθρωπότητας μέσα στα επόμενα τέσσερα χρόνια κάθε άλλο παρά καθησυχαστική είναι. Και, όπως παρατήρησε πρόσφατα η ερευνήτρια για την τεχνητή νοημοσύνη και την αγορά εργασίας Μόλι Κίντερ σε ανάρτησή της στο Substack, τακτικά καταβάλλουμε μεγάλες προσπάθειες για να αποφεύγουμε κινδύνους που είναι πολύ λιγότερο πιθανοί και πολύ λιγότερο επιζήμιοι από αυτόν.
Στην έκθεσή τους, οι ερευνητές του FRI επισημαίνουν ένα βασικό σημείο στο οποίο υπάρχει συναίνεση. «Τόσο οι αισιόδοξοι όσο και οι απαισιόδοξοι αναλυτές προβλέψεων συμφώνησαν» ότι ο κίνδυνος θα ήταν σημαντικά χαμηλότερος εάν οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονταν πιο αργά, ώστε η κοινωνία να έχει την ευκαιρία να προσαρμοστεί και να καλύψει τη διαφορά. Όταν τους ζητήθηκε να υποθέσουν «ταχεία» πρόοδο στην τεχνητή νοημοσύνη, οι πιθανότητες που έδωσαν και οι δύο ομάδες περίπου διπλασιάστηκαν. (Τον Ιούλιο γράψαμε για ένα παρόμοιο πρόγραμμα του MIT.)
Πώς θα μπορούσε η τεχνητή νοημοσύνη να σκοτώσει τόσο πολλούς ανθρώπους; Οι συμμετέχοντες στις προβλέψεις του FRI ανέφεραν παθογόνους οργανισμούς που θα μπορούσαν να κατασκευαστούν μέσω μηχανικής, αυτόνομα όπλα ή κλιμάκωση μιας πυρηνικής σύγκρουσης που θα προκαλούσε η τεχνητή νοημοσύνη - καθώς και το πιο «επιστημονικής φαντασίας» ενδεχόμενο μιας ανεξέλεγκτης τεχνητής νοημοσύνης που θα στρεφόταν εναντίον της ανθρωπότητας.
Για ορισμένους από τους «αισιόδοξους» - εκείνους που αποδίδουν μικρότερη πιθανότητα σε μια καταστροφή από την τεχνητή νοημοσύνη - τα πιο πιθανά σενάρια μαζικών απωλειών παραμένουν αυτά που γνωρίζουμε ήδη και αυτά που βρίσκονται υπό τον δικό μας έλεγχο. «Τα πιο εύλογα μονοπάτια προς απώλειες τέτοιας κλίμακας», έγραψε ένας συμμετέχων, «πιθανότατα θα περιλάμβαναν ανθρώπινες αποφάσεις… ακόμη κι αν η τεχνητή νοημοσύνη διαδραμάτιζε υποστηρικτικό ρόλο».
