“Ψηφιακός Φρανκενστάιν” / γράφει ο Aras Saaid

​«Πόσο επικίνδυνη είναι η απόκτηση γνώσης και πόσο πιο ευτυχισμένος είναι ο άνθρωπος που πιστεύει ότι η πατρίδα του είναι ο κόσμος όλος, από εκείνον που φιλοδοξεί να γίνει κάτοχος μιας δύναμης μεγαλύτερης από τη φύση του.» Μαίρη Σέλλεϋ, Ρομάντζο Φρανκενστάιν

Την 1η Μαΐου 2023, ο Τζέφρι Χίντον (Geoffrey Hinton), ο κορυφαίος επιστήμονας και πατριάρχης του εφευρέτη της (Τεχνητής και Βαθιάς Νοημοσύνης), αυτό με το οποίο ασχολείται τώρα όλος ο ανθρώπινος πολιτισμός και εκτός από αυτό κανένα άλλο θέμα δεν είναι άξιο ενδιαφέροντος και συζήτησης, παραιτήθηκε από τη δουλειά του και άφησε την εταιρεία Google. Κατά τη διάρκεια μιας συνέντευξης στην εφημερίδα (Washington Post) δήλωσε: «Ότι μετανιώνει που αφιέρωσε τη ζωή του σε κάτι που τώρα πρέπει να είναι εναντίον του.»

​Αυτή η δήλωση του (Τζέφρι Χίντον) μας πάει πίσω δύο αιώνες. Πριν από το έτος (1818) μ.Χ., δεν υπήρχε κανένα διάσημο λογοτεχνικό κείμενο που να σχετίζεται με αυτό που ονομάζουμε τώρα: (Επιστημονική Φαντασία), αλλά η Βρετανίδα συγγραφέας (Μαίρη Σέλλεϋ) εμφανίστηκε όταν δημοσίευσε το πρώτο και πιο διάσημο μυθιστόρημά της με το όνομα (Φρανκενστάιν) και σε αυτό σόκαρε τον κόσμο και για εκατοντάδες χρόνια, κράτησε το όνομά της ζωντανό στην παγκόσμια λογοτεχνική σκηνή.

​(Στο μυθιστόρημα Φρανκενστάιν, ένας επιστήμονας με (άψυχα και νεκρά) υλικά δημιουργεί ένα ον με ψυχή και μετά τη δημιουργία του, αποκτά μια ανεξάρτητη ύπαρξη και δεν παραμένει πλέον στην εξουσία και τον έλεγχο του δημιουργού του. Αυτή η μυθική απεικόνιση είναι παρόμοια με την ιστορία της δημιουργίας όταν ο Θεός από κάτι άψυχο (πηλό) δημιουργεί ένα ον με ψυχή όπως ο Αδάμ και αργότερα τρώει από το δέντρο της μηλιάς του παραδείσου και επαναστατεί εναντίον του.)

​Αν μιλήσουμε πιο αναλυτικά για εκείνη τη δήλωση του (Τζέφρι Χίντον), μπορούμε να παρομοιάσουμε την ύπαρξη της τεχνητής νοημοσύνης και των ρομπότ με το ον του (Φρανκενστάιν) της (Μαίρη Σέλλεϋ), με κάτι που βγήκε από τα χέρια του δημιουργού του και απέκτησε μια ανεξάρτητη ύπαρξη και είναι πιθανό μια μέρα σαν ένα γιγάντιο θηρίο να αφεθεί ελεύθερο και να μην συγκρατείται από τον ιδιοκτήτη του και να περπατήσει πάνω στα οστά του εφευρέτη του.

Η ιδέα του μυθιστορήματος της (Μαίρη Σέλλεϋ) είναι μια απεικόνιση ενός θηρίου που ο ίδιος ο άνθρωπος δημιούργησε και δεν μπορεί να το συγκρατήσει. Είναι μια δύναμη που ο άνθρωπος ο ίδιος δημιούργησε και δεν δεσμεύεται πλέον από αυτόν και δεν ελέγχεται από αυτόν. Αυτή είναι μια απεικόνιση για ένα σύστημα ή έναν τρόπο ζωής που πλέον η συνέχεια της ζωής δεν παραμένει στα χέρια μας και ζει ανεξάρτητα από εμάς και η εξουσία του ανθρώπου πάνω του δεν ισχύει και είναι τίποτα. Γι’ αυτό δεν είναι κάτι αδύνατο ο πατριάρχης της τεχνητής νοημοσύνης να πει: «Ότι μετανιώνει που αφιέρωσε τη ζωή του σε κάτι που τώρα πρέπει να είναι εναντίον του.»

​Αν και η ιδέα της ιστορίας του (Φρανκενστάιν) είναι μόνο μια επιστημονική φαντασία και μια υπόθεση για τον μελλοντικό κόσμο του ανθρώπου. Απέναντι σε αυτή την ιστορία του Φρανκενστάιν υπάρχει η ιστορία (Τα Κυκλικά Ερείπια) του (Μπόρχες), σε αυτή την ιστορία αφηγείται την ιστορία της δημιουργίας ενός ανθρώπου βήμα-βήμα για κάποιον άλλον, (ένας άνθρωπος βήμα-βήμα κύτταρο-κύτταρο δημιουργεί έναν άλλον άνθρωπο). Το δημιουργημένο πλάσμα της φαντασίας είναι κάποιος που σηκώνεται και φεύγει και κινείται και έχει όλα τα χαρακτηριστικά ενός κανονικού ανθρώπου, αλλά αντίθετα με το ον του Φρανκενστάιν, η ύπαρξη και η παραμονή του είναι πάντα συνδεδεμένη με τη φαντασία του ατόμου που τον δημιούργησε και δεν μπορεί να γλιτώσει από τον έλεγχό του. Όταν ο άνθρωπος διαβάζει αυτή την ιστορία αναρωτιέται μήπως η τεχνητή νοημοσύνη και τα ρομπότ είναι πάντα παρόμοια με την ιστορία του Μπόρχες συνδεδεμένα με τη δική μας φαντασία και δεν μπορούν να απελευθερωθούν από εμάς και να αποκτήσουν μια ανεξάρτητη ύπαρξη; Αν όμως η συμβολή αυτού είναι αδύνατη, πώς να χειριστούμε αυτή την τεχνολογία;

​Το προηγούμενο διάστημα ο (Σουντάρ Πιτσάι), ο διευθύνων σύμβουλος της εταιρείας (Google) σε μια δημοσιογραφική δήλωση είπε: «Ο κόσμος δεν διοικείται από μηχανικούς και τεχνικούς, δεν χρειάζεται πλέον φιλοσόφους και στοχαστές και η ανθρωπότητα χρειάζεται ηθική». Κανείς δεν αμφιβάλλει ότι σήμερα πληροφορίες και δύναμη πολύ περισσότερες είναι στη διάθεση της ανθρωπότητας σε σχέση με τις προηγούμενες εποχές, αλλά δεν υπάρχει καμία εγγύηση ότι εμείς κατανοούμε πολύ καλύτερα τον εαυτό μας και τον ρόλο μας στο σύμπαν. Γιατί είναι τόσο εύκολο για εμάς να συλλέγουμε περισσότερες πληροφορίες και δύναμη, αλλά είναι τόσο δύσκολο να γίνουμε πιο σοφοί και οι μηχανές να εμφανίζονται πιο σοφές από εμάς;

​Υπό τη σκιά των κινδύνων των μηχανών και της τεχνικής παράλληλα με την εμφάνιση της εποχής της τεχνητής νοημοσύνης, ο μεγάλος Ισραηλινός ιστορικός (Γιουβάλ Νόα Χαράρι) στο νεότερο βιβλίο του με τίτλο: “Nexus: A Brief History of Information Networks from the Stone Age to AI” λέει: Οι πρόγονοί μας συνεχώς κατέληγαν στο συμπέρασμα ότι εμείς έχουμε μια θανάσιμη αδυναμία που μας κάνει να αποκτάμε δυνάμεις που δεν μπορούμε να ελέγξουμε. Αυτός φέρνει δύο μυθικά παραδείγματα, το πρώτο: είναι ο μύθος του (Φαέθων) μιλάει για ένα αγόρι που μαθαίνει ότι είναι γιος του θεού ήλιου (Ήλιου) για να αποδείξει τη θεϊκή καταγωγή του, ζητά από τον πατέρα του να του επιτρέψει να οδηγήσει το άρμα του ήλιου.

Ο Ήλιος προειδοποιεί τον γιο του ότι κανένας θνητός άνθρωπος δεν μπορεί να κρατήσει τα ηνία των ουράνιων αλόγων που σέρνουν το άρμα. Αλλά ο Φαέθων επιμένει σε αυτό και τελικά ο πατέρας του πείθεται. Όταν ο Φαέθων πηγαίνει προς τον ουρανό, χάνει τον έλεγχο των αρμάτων. Ο ήλιος παρεκκλίνει από την πορεία του και καίει όλα τα φυτά και σκοτώνει μεγάλο αριθμό ζωντανών οργανισμών και απειλεί να κάψει τη γη. Εδώ ο Δίας παρεμβαίνει και ρίχνει έναν κεραυνό προς το άρμα και ο αλαζόνας άνθρωπος πέφτει σαν ένα λαμπρό αστέρι από τον ουρανό και οι θεοί επιβάλλουν την εξουσία τους στον ουρανό και σώζουν τον κόσμο.

​Μετά από δύο χιλιάδες χρόνια, όταν η βιομηχανική επανάσταση έκανε τα πρώτα της βήματα και οι μηχανές άρχισαν να αντικαθιστούν τον άνθρωπο, ο (Γιόχαν Βόλφγκανγκ φον Γκαίτε) έγραψε ένα παρόμοιο προειδοποιητικό ποίημα με τίτλο (Ο Μαθητευόμενος Μάγος). Η μπαλάντα του Γκαίτε (ίσως την ξέρουμε από την έκδοση του Γουόλτ Ντίσνεϊ με τον Μίκυ Μάους) μιλάει για το πώς ένας γέρος μάγος, αφήνει τον νεαρό μαθητή του μόνο του σε ένα εργαστήριο και του ζητά να εκτελέσει μερικές εργασίες κατά την απουσία του. Μεταξύ αυτών, πρέπει ο νεαρός να φέρει νερό από το ποτάμι, αλλά ο μαθητής για να κάνει τη δουλειά του λίγο πιο εύκολη διατάζει μια μαγική σκούπα να του φέρει το νερό. Επειδή δεν ξέρει το ξόρκι με το οποίο μπορεί να σταματήσει τη σκούπα, η σκούπα αδιάκοπα φέρνει όλο και περισσότερο νερό, μέχρι που γίνεται απειλή δημιουργίας πλημμύρας μέσα στο εργαστήριο. Σε απόγνωση, ο νεαρός παίρνει ένα τσεκούρι και κόβει τη σκούπα σε δύο κομμάτια, αλλά τώρα δύο σκούπες φέρνουν περισσότερο νερό. Τελικά όταν ο μάγος επιστρέφει, ο μαθητής του ζητά βοήθεια (Κύριε το πρόβλημα είναι μεγάλο! Αυτά τα πνεύματα που κάλεσα, τώρα δεν μπορώ να τα διώξω) ο μάγος αμέσως βάζει τέλος στα μάγια και διατάζει την πλημμύρα να σταματήσει.

Το μάθημα για τον μαθητή και την ανθρωπότητα είναι σαφές: (Ποτέ μην καλείς δυνάμεις που δεν μπορείς να ελέγξεις). Αυτές οι δύο ιστορίες του (Φαέθων και ο Μαθητευόμενος Μάγος) που ο (Γιουβάλ Νόα Χαράρι) φέρνει ως παράδειγμα, δεν σημαίνουν τίποτα άλλο εκτός από το ότι εμείς οι άνθρωποι αποφύγαμε ξεκάθαρα να ακούσουμε την προειδοποίηση του κινδύνου αυτού του εργαλείου.

Ο άνθρωπος έβγαλε το κλίμα του πλανήτη από την ισορροπία και κάλεσε δισεκατομμύρια μαγικές σκούπες, drones, chatbots και άλλα αλγοριθμικά πνεύματα που μπορούν να βγουν από τον έλεγχο και να απελευθερώσουν μια πλημμύρα ανεπιθύμητων αποτελεσμάτων και παρόμοια με το ον του Φρανκενστάιν αποκτούν μια ανεξάρτητη ύπαρξη και περπατούν πάνω στα οστά του ανθρώπου.

​Βιβλιογραφία:

​Harari, Y. N. (2024). Nexus: A Brief History of Information Networks from the Stone Age to AI. Penguin Random House.

​Shelley, M. W. (1818). Frankenstein; or, The Modern Prometheus. Lackington, Hughes, Harding, Mavor, & Jones.

​Borges, J. L. (1964). Labyrinths: Selected Stories and Other Writings. New Directions Publishing.
​Metz, C. (2023, May 1). ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead. The New York Times.

​Goethe, J. W. v. (1797). The Sorcerer’s Apprentice (Der Zauberlehrling). Weimar.

Σημείωση Φαρέτρας:  Ο *Aras Saeed  είναι Κούρδος  συγγραφέας & Μελετητής AI και Media Theory. Είναι το δεύτερο εκλαϊκευμένο επιστημονικό κείμενο που μας στέλνει και δημοσιεύουμε, από το μακρινό Ερμπίλ του Ιρακινού Κουρδιστάν,  “Καλώς ήρθατε στο Μικρό Χωριό”. Χαιρόμαστε γι αυτή την συνεργασία και τον ευχαριστούμε.

Φαρέτρα