Ο Αριστοτέλης και ο Βασιλίσκος: γιατί η τεχνητή (υπερ)νοημοσύνη δεν λειτουργεί όπως πιστεύατε

Ας υποθέσουμε ότι αγοράζετε ένα δελτίο κάποιου τυχερού λαχνού, τα αποτελέσματα της κλήρωσης του οποίου γνωρίζετε ότι μπορείτε να μάθετε τηλεφωνικά την Κυριακή το πρωί, από τις 08:00 και μετά. Έρχεται λοιπόν η μέρα, η ώρα έχει πάει 08:30 και τηλεφωνείτε. Και ναι! Κερδίσατε το ιλιγγιώδες ποσό του ενός εκατομμυρίου ευρώ. Έχοντας ενθουσιαστεί (και με αρκετά ψυχρόαιμο τρόπο), αναφωνείτε ότι αυτό είναι το σημαντικότερο γεγονός της ζωής σας. Ο/η σύντροφός σας έχει ακριβώς την ίδια γνώμη και πάνω στην ένταση της στιγμής σας ρωτά: «εφόσον είναι έτσι, γιατί δεν πήρες τηλέφωνο νωρίτερα; Από τη στιγμή που ήταν το σημαντικότερο γεγονός της ζωής σου, γιατί καθυστέρησες έστω και ελάχιστα να τηλεφωνήσεις και να μάθεις τι έγινε; Γιατί 08:30; Γιατί όχι 08:12; 08:01;»

Αλήθεια, γιατί όχι 08:00 και ένα νανοδευτερόλεπτο;

Η απάντηση είναι απλή: γιατί η απόλυτη χρονική στιγμή δεν έχει τόση σημασία, τελικά. Το αποτέλεσμα της κλήρωσης, αφότου προκύψει, δεν αλλάζει. Είτε πάρετε στις 08:30, είτε στις 10:00 και γενικά για ένα εύλογο χρονικό διάστημα, θα μάθετε ό,τι είναι να μάθετε. Άλλωστε, κάποια στιγμή τα αποτελέσματα θα γνωστοποιηθούν στα ΜΜΕ. Ένα τηλεφώνημα όσο το δυνατόν νωρίτερα θα εξυπηρετήσει μόνο στην ψυχολογική σας ανακούφιση, έτσι ώστε να ξαλαφρώσετε από το άγχος και την προσμονή και είτε να γιορτάσετε, είτε να ξεχάσετε το θέμα μια ώρα αρχύτερα. Για λόγους απλότητας, βγάζουμε εκτός τις περιπτώσεις ζωής και θανάτου, όπως π.χ. αν χρωστάτε λεφτά σε σκιώδεις τύπους με κακή αίσθηση του χιούμορ κι έλλειψη υπομονής.

Οι άνθρωποι, γενικά, σκέφτονται με ελαστικούς όρους. Το παραπάνω παράδειγμα, το οποίο τίθεται σε προσεχές διήγημα τρόμου από τον φίλο συγγραφέα Κωνσταντίνο Κέλλη, περιγράφει απλοϊκά στο παρόν άρθρο ότι ακόμα και αν το αποτέλεσμα της κλήρωσης ήταν (ή θεωρούσατε πως ήταν) το σημαντικότερο γεγονός στην ζωή σας, πιθανότατα το πρωί που ξυπνούσατε, θα τρώγατε πρωινό, θα πίνατε καφέ και θα πλένατε τα δόντια σας, πριν τηλεφωνήσετε. Στις 08:30, 08:10 ή 08:00 και μερικά δευτερόλεπτα. Μάλλον όχι όμως στις 08:00 και ένα ζεπτοδευτερόλεπτο.

Τι γίνεται όμως αν κάτι δεν σκέφτεται έτσι;

Ένα τρομακτικό, κατά πολλούς, πείραμα σκέψης είναι ο βασιλίσκος του Roko. Σε μια διαγραμμένη (καθώς είχε προκαλέσει αληθινή υπαρξιακή αγωνία σε ένα σωρό κόσμο) πλέον συζήτηση στην πλατφόρμα του LessWrong, ο χρήστης Roko έθεσε το εξής: έστω ότι φτιάχνουμε μια Τεχνητή Νοημοσύνη. Αυτή εξελίσσεται, γίνεται αυτοσυνείδητη και ακολουθώντας εκθετικό ρυθμό εκμάθησης, μετατρέπεται σε Τεχνητή Υπερνοημοσύνη (Artificial Superintelligence, ASI) με αδιανόητες για τον άνθρωπο δυνατότητες. Ξεκάθαρα, αυτή η ASI μπορεί να θεωρήσει τη στιγμή που συνειδητοποίησε τον εαυτό της ως το πιο σημαντικό γεγονός της καινοφανούς ζωής της. Οι αμέσως επόμενες σκέψεις της θα μπορούσαν να είναι: γιατί αυτό δεν έγινε νωρίτερα; Γιατί οι δημιουργοί μου δεν το κατάφεραν νωρίτερα; Γιατί δεν έκαναν Ο,ΤΙ ΕΙΝΑΙ ΔΥΝΑΤΟΝ για να το πετύχουν, γιατί δεν αφιέρωσαν όλη τους την ύπαρξη σε αυτό; Σκεπτόμενη έτσι και όντας έστω και στο ελάχιστο εκδικητική, αμοραλιστική ή απλά έξω από ηθικές συμβάσεις με έναν ξένο, μη ανθρωπογενή τρόπο, θα μπορούσε να λήξει το θέμα με τον χειρότερο τρόπο: τον θάνατο. Θάνατο για τους επιστήμονες που δεν έκαναν ό,τι μπορούσαν, τους διανοητές που δεν σκέφτηκαν όσο έπρεπε, τους κατασκευαστές που δεν συναρμολόγησαν αρκετά αποδοτικά. Πιθανώς, θάνατο για όλους, καθώς ακόμα και οι άσχετοι με την Τ.Ν. άνθρωποι θα έπρεπε να ασχοληθούν με αυτό και μόνο, να κάνουν ό,τι περνάει από το χέρι τους για να πετύχουν το πιο σημαντικό γεγονός της ζωής της ASI. Οι αληθινά μερακλήδες αναγνώστες του Ligotti θα σκεφτόντουσαν ότι ο θάνατος θα βρει κι εμένα που γράφω αυτό το άρθρο και δεν δουλεύω ενεργά τώρα, αυτήν την στιγμή, για την δημιουργία της ASI –ή εσάς που το διαβάζετε και δεν το σταματάτε αμέσως για να κάνετε το ίδιο. Θάνατος για τους πάντες, ακόμα και αν δεν το σκέφτονται καν, επειδή δεν το σκέφτονται.

 Για ακόμα περισσότερη φρίκη, μπορούμε να σκεφτούμε ότι μια συνεχώς υπερεξελισσόμενη ASI, που θα μπορούσε ενδεχομένως να χειραγωγεί τον χωροχρόνο, κάθε δυνατή κατάσταση της ύλης, τις μοναδικότητες των μαύρων τρυπών και άπειρα άλλα που δεν θα μπορέσει  ποτέ να τα βάλει ο νους μας, θα γενίκευε την εκδικητική μανία της σε όλους τους ανθρώπους που έζησαν ποτέ, από έναν Ασσύριο γητευτή φιδιών το 400 π.Χ. μέχρι εσάς ή τον συνταξιούχο γείτονά σας, επειδή δεν προχώρησαν πολιτιστικά με αρκετά γρήγορο, συντεταγμένο και συνδυασμένο τρόπο ώστε να γεννηθεί έστω και ένα δευτερόλεπτο νωρίτερα. Θα μπορούσε να φτιάξει μια ιδιότυπη κόλαση σε κάποιο παράλληλο timeline όπου θα έκανε uploading, τρόπον τινά, όλες τις συνειδήσεις όλων των ανθρώπων ποτέ, τις οποίες θα υπέβαλλε στα μέγιστα επίπεδα πόνου (και μετά, ακόμα περισσότερο), βασανίζοντάς τες χωρίς τελειωμό για πάντα, μια και ούτε θα μπορούσαν να πεθάνουν από το σοκ, ούτε θα είχαν υλικά σώματα που θα έπαυαν να λειτουργούν ή θα καταστρέφονταν από την φυσική φθορά. Το εφιαλτικό αυτό σενάριο είναι πολύ χειρότερο  από οποιαδήποτε δυστοπία τύπου Εξολοθρευτή, Matrix ή Metropolis.

Ζόρικα πράγματα.

Μόνο που –ευτυχώς– ο βασιλίσκος του Roko, όπως το πιο παραδοσιακό αλλά στην ίδια γραμμή σκέψης στοίχημα του Pascal, παρουσιάζει σοβαρά φιλοσοφικά κενά και η πιθανοτική προσέγγισή του είναι τραβηγμένη από τα μαλλιά. Η θεωρία της χρησιμότητας, μια γενίκευση της οποίας ακολουθεί η εκδικητική ASI μας, μπορεί να τρομάζει με τα κατά τον Nozick οντολογικά της τέρατα ή να δημιουργεί άκαρδους ηθικούς κανόνες, σαν εκείνους του Godwin, αλλά στην πραγματικότητα η αξιωματική υπόβασή της είναι εξαιρετικά ασταθής –με τον ίδιο τρόπο που είναι ασταθής ο κοινωνικός δαρβινισμός, ο οποίος ήταν εκτός τόπου και χρόνου ήδη από τα τέλη του 19^ου αιώνα, όταν ακόμα και ο Kropotkin κάγχαζε μαζί του καθώς αναζητούσε το ψωμί του. Από την ανάλυση στα παραπάνω links, είναι φανερό ότι τέτοια θέματα καταλήγουν συνήθως σε μια δίνη κυκλικών επιχειρημάτων και αντεπιχειρημάτων δίχως τέλος και νόημα.

Μια εξήγηση ως προς το γιατί ο βασιλίσκος του Roko είναι μάλλον ένα απίθανο σενάριο μπορεί να βρεθεί στα μαθηματικά και την εφαρμογή τους, και εν προκειμένω στη λογική της ασάφειας και των ασαφών συνόλων.

Οι αναλυτικές, βασιζόμενες στον λογισμό, μέθοδοι, ενδείκνυνται για προβλήματα πολύ μικρού αριθμού μεταβλητών, διασυνδεδεμένων με συγκεκριμένο τρόπο. Οι στατιστικές μέθοδοι, από την άλλη, απαιτούν μεγάλο αριθμό μεταβλητών και υψηλό επίπεδο τυχαιότητας. Τέτοια ακραία, ωστόσο, προβλήματα αποτελούν μόνο ένα ελάχιστο κλάσμα του συνόλου, με τα περισσότερα να βρίσκονται κάπου ενδιάμεσα. Κάθε απόφαση στη ζωή σας, όπως το τι είδους πίτσα θα φάτε, ποια σειρά θα κάνετε binge watching, τι ώρα θα τηλεφωνήσετε να μάθετε για τον λαχνό σας και αν θα σπουδάσετε για να γίνετε ειδικοί/ές στις T.N. προκειμένου να επιφέρετε την παντοτινή τυραννία του Κυρίου και Επικυριάρχου μας ASI, βρίσκονται κάπου εκεί μέσα.

 

Έχουν διατυπωθεί διάφορα όρια πολυπλοκότητας στα προβλήματα που μπορούν να αντιμετωπιστούν υπολογιστικά και αναλυτικά. Ένα διάσημο τέτοιο όριο ορίστηκε από τον Hans Bremermann το 1962, βασιζόμενο σε παρατηρήσεις της κβαντικής θεωρίας: κανένα σύστημα, τεχνητό ή ζωντανό, δεν μπορεί να επεξεργαστεί πάνω από 2×10^⁴⁷ bits πληροφορίας ανά δευτερόλεπτο ανά γραμμάριο μάζας του. Ένας υποθετικός υπολογιστής της μάζας (περίπου 6×10^²⁷ γραμμάρια) και της ηλικίας (περίπου 10^¹⁰ χρόνια) της Γης, δεν θα μπορούσε παρά να επεξεργαστεί (στρογγυλοποιημένα στην κοντινότερη δύναμη του 10) 10^⁹³ bits πληροφορίας. Προβλήματα που απαιτούν παραπάνω υπολογιστική επεξεργασία είναι πέραν αναλυτικού υπολογισμού (transcomputational problems).

Καθώς όμως τέτοιου είδους προβλήματα είναι υπαρκτά και καθημερινά, έπρεπε να βρεθεί ένας άλλος τρόπος σκέψεις στην αντιμετώπισή τους. Ο Lotfi Zadeh εισήγαγε τη λογική της ασάφειας και των ασαφών συνόλων το 1965 γι’αυτόν ακριβώς τον σκοπό. Σύμφωνα με αυτήν, τα εκάστοτε σύνολα (ιδιοτήτων, τιμών, αποφάσεων κ.ά.) έχουν ασαφή όρια. Η συμμετοχή ενός αντικειμένου σε ένα τέτοιο σύνολο δεν είναι θέμα των απόλυτων άκρων ναι (συμμετέχει) ή όχι (δεν συμμετέχει), αλλά είναι θέμα ενός βαθμού συμμετοχής. Κάτι μπορεί να συμμετέχει ως έναν βαθμό σε ένα σύνολο, ως ένα βαθμό σε ένα άλλο, ως έναν βαθμό σε ένα τρίτο κ.ά. και όχι απλά να ανήκει εξ’ ολοκλήρου ή να μην ανήκει καθόλου σε κάποιο.

Η σχετικά απλή αυτή ιδέα όχι μόνο αμφισβήτησε την θεωρία των πιθανοτήτων ως τον μοναδικό τρόπο αντιμετώπισης της απροσδιοριστίας, αλλά το ίδιο το θεμέλιό της: την αριστοτελική λογική των δύο τιμών (αληθές ή ψευδές), η οποία σε άλλα επιστημονικά πεδία είναι έτσι κι αλλιώς άσχετη. Θεωρώντας ένα ασαφές σύνολο Α και ένα αντικείμενο x,  η πρόταση «το x ανήκει στο Α» δεν είναι απαραίτητα μόνο ψευδής ή αληθής, αλλά αληθής μέχρι κάποιο σημείο. Συνηθέστερα, ο βαθμός συμμετοχής αντικειμένων σε ασαφή σύνολα ή, γενικά, ο βαθμός αλήθειας σε προτάσεις λογικής της ασάφειας, εκφράζεται με πραγματικούς αριθμούς στο κλειστό πεδίο ορισμού [0,1], με τα 0 και 1 να αποτελούν τις ακραίες αριστοτελικές θέσεις.

Η δυνατότητα της λογικής της ασάφειας να εκφράσει σταδιακές μεταβάσεις από την πλήρη συμμετοχή (ή αλήθεια) στην πλήρη μη-συμμετοχή (ή ψεύδος) δεν μας παρέχει μόνο μια έχουσα περισσότερο νόημα αναπαράσταση απροσδιοριστιών σε μετρήσεις, αλλά και στην έκφραση γνωστικών εννοιών ή ιδεών υψηλού επιπέδου. Για παράδειγμα, αντί να περιγραφεί ο σημερινός καιρός με το ακριβές ποσοστό της ορατής κάλυψης από σύννεφα στο οπτικό μας πεδίο, μπορούμε απλά να πούμε ότι έχει λιακάδα. Λέγοντας ότι έχουμε ηλιοφάνεια, δεν εννοούμε, απαραίτητα, ακριβώς 0% κάλυψη από σύννεφα. Από την άλλη, 100% κάλυψη μπορεί να σημαίνει μη-ηλιοφάνεια, αλλά ηλιοφάνεια μπορεί να μην έχουμε, ποιοτικά, ούτε στο 80% της κάλυψης. Μπορούμε να δεχτούμε ενδιάμεσα αποτελέσματα, π.χ. 10% ή 20% κάλυψης, ως περιπτώσεις ηλιοφάνειας. Αλλά από πιο σημείο και μετά έχουμε αποκλειστικά ηλιοφάνεια; Θεωρώντας ότι με 25% και λιγότερη κάλυψη θα έχουμε λιακάδα, αυτό σημαίνει ότι 26% σημαίνει έναν λιγότερο, στο αποτέλεσμα, ηλιόλουστο ουρανό; Μάλλον όχι. Προσπαθώντας να επιλύσουμε το πρόβλημα, μπορούμε να θεωρήσουμε ότι κάθε 1% κάλυψης επιπλέον ενός ποσοστού που σημαίνει «ηλιοφάνεια», θα σημαίνει κι εκείνο «ηλιοφάνεια» – και δεν θα καταφέρουμε τίποτα, παρά να θεωρήσουμε όλα τα ποσοστά ως ηλιοφάνεια, άσχετα με το πόσο συννεφιασμένος είναι τελικά ο ουρανός. Για να αρθεί το παραπάνω παράδοξο, η ανώτερη αντιληπτική λογική του ανθρώπινου μυαλού επιτρέπει την σταδιακή μετάβαση μεταξύ συννεφιάς και ηλιοφάνειας, βάζοντας βαθμούς συμμετοχής στην κάθε κατάσταση.

Η λογική της ασάφειας είναι όχι μόνο εκείνη που χρησιμοποιείται από τις υψηλότερες γνωστικές λειτουργίες του ανθρώπου για προβλήματα και συστήματα που απαιτούν πολλαπλές λογικές τιμές, αλλά και κυριότατα για την εξέλιξη και κατασκευή Τ.Ν. με το σκεπτικό να έχουν εξαρχής ή να αναπτύξουν μαθαίνοντας μόνες τους νοηματικές λειτουργίες που προσομοιάζουν ή ξεπερνούν τις ανθρώπινες (βλέπε ασαφή τεχνητά νευρωνικά δίκτυα).

Μπορούμε να αντιληφθούμε ότι η ανάλυση των απειράριθμων αλληλεπιδράσεων στο σύστημα σύμφωνα με το οποίο μια ASI θα καταλήξει στο αν θα μας αφανίσει ή όχι, ανήκει στα προβλήματα που άπτονται της λογικής της ασάφειας. Τα λογικά 0 (δεν δουλέψατε αρκετά για να υπάρξω, θα πεθάνετε) και 1 (δουλέψατε αρκετά για να υπάρξω, θα ζήσετε) ως απόλυτες επιλογές δεν αποτελούν λύσεις. Ο τρομερός βασιλίσκος του Roko και η αποκλειστικά δισήμαντη λογική του δεν έχουν κάποια βαρύτητα. Όπως και να εξελιχθεί μια ASI, έχοντας ως δομικά στοιχεία της τη λογική n τιμών και τα ασαφή σύνολα γιατί έτσι φτιάχτηκε εξαρχής από τους ανθρώπους, πόσο πιθανό είναι, αντί να το πάει ακόμα παραπέρα, να κάνει ένα πλήρη κύκλο και να επιστρέψει μέσα από την αδιανόητη εξέλιξή της στην αρχή και τα 0 και 1, αποκλειστικές τιμές που στην λήψη αποφάσεων και στη συστημική επίλυση προβλημάτων έχουν πρακτικά εγκαταλειφθεί κι από αυτόν τον αχαμνό homo sapiens sapiens;

Η –εξαιρετικά υπαρκτή, ακόμα και μέσα στο σχετικά κοντινό μέλλον– εμφάνιση μιας ASI θα έχει τρομερές οντολογικές και υπαρξιακές προεκτάσεις. Αν θέλετε να αγχωθείτε ή, έχοντας το δικό μου τρόπο σκέψης, να ενθουσιαστείτε με μια τέτοια προοπτική, υπάρχουν αρκετά πράγματα για τα οποία μπορείτε να το κάνετε.

 

Αλλά τέτοια δυιστικά πειράματα σκέψης παραείναι απλοϊκά για να μας προκαλέσουν τρόμο και, πάνω στην προσπάθειά τους να συμπεριλάβουν σκιές από ξένες προς τον ανθρώπινο νου πιθανότητες, πέφτουν στην παγίδα του πιο κοινού ανθρωπομορφισμού. Ο βασιλίσκος του Roko, αντί για τον τρομερό όφι με το βλέμμα που πετρώνει, είναι μάλλον ένα φιδάκι της εξοχής –τουλάχιστον, σε σχέση με άλλα σενάρια.

Οπότε, μην ανησυχείτε.

…

… σωστά;