“Μπορούμε. Αλλά πρέπει; / Η φρόνηση απέναντι στην Τεχνητή Νοημοσύνη” / γράφει ο Άρης Ορφανίδης

Μια συμβολή στην ηθική του έλλογου τεχνολογικού αυτοπεριορισμού

Ο άνθρωπος έμαθε να μετρά την πρόοδό του με όσα κατάφερε να κάνει δυνατά. Πολύ λιγότερο έμαθε να τη μετρά με όσα, ενώ μπορούσε να κάνει, επέλεξε συνειδητά να μην κάνει. Κι όμως, ίσως η δεύτερη ικανότητα να αποτελεί υψηλότερη ένδειξη πολιτισμικής ωριμότητας από την πρώτη. Η δύναμη αποδεικνύεται όταν υπερβαίνουμε ένα όριο· η φρόνηση όταν γνωρίζουμε ποιο όριο δεν πρέπει να υπερβούμε. Η Τεχνητή Νοημοσύνη φέρνει αυτή τη διάκριση στο κέντρο της εποχής μας και στο επίκεντρο της προσοχής μας. Η συζήτηση περιστρέφεται συνήθως γύρω από το πόσο ισχυρή μπορεί να γίνει, πόσο καλύτερα θα συλλογίζεται, πόσες ανθρώπινες δραστηριότητες θα μπορεί να εκτελεί, πόση αυτονομία θα αποκτήσει και πόσο γρήγορα θα εξελιχθεί. Πίσω όμως από όλα αυτά υπάρχει ένα ερώτημα που ακούγεται πολύ λιγότερο: ακόμη κι αν μπορούμε να δημιουργήσουμε ολοένα ισχυρότερη ΤΝ, είμαστε υποχρεωμένοι να το κάνουμε; Έχουμε σχεδόν ταυτίσει την πρόοδο με την υπέρβαση. Το όριο θεωρείται πρόβλημα προς επίλυση, η αδυναμία πρόκληση προς κατάκτηση και η επιβράδυνση οπισθοδρόμηση. Έτσι διαμορφώνεται ένας ιδιότυπος τεχνολογικός αυτοματισμός: εφόσον κάτι είναι δυνατό, κάποιος θα το πραγματοποιήσει, και εφόσον κάποιος θα το πραγματοποιήσει, καλύτερα να είμαστε εμείς οι πρώτοι. Το «μπορούμε» μετατρέπεται σχεδόν ανεπαίσθητα σε «πρέπει». Ακριβώς εδώ χρειάζεται η φρόνηση. Όχι ως φόβος απέναντι στην πρόοδο ούτε ως άρνηση της επιστήμης, αλλά ως ικανότητα να παρεμβάλλεται ανάμεσα στη δυνατότητα και στην πράξη ένα κρίσιμο ηθικό διάστημα, μέσα στο οποίο ο άνθρωπος αναρωτιέται όχι μόνο αν κάτι είναι εφικτό, αλλά γιατί πρέπει να γίνει, ποιον υπηρετεί, ποιους κινδύνους δημιουργεί, μέχρι πού δικαιούμαστε να προχωρήσουμε και τι θα συμβεί αν κάνουμε λάθος.

Σε αυτό ακριβώς το διάστημα ανάμεσα στη δυνατότητα και στην πράξη γεννιέται η ευθύνη και μαζί της ο αυτοπεριορισμός. Ο αυτοπεριορισμός συχνά παρερμηνεύεται ως αδυναμία, ενώ στην πραγματικότητα προϋποθέτει δύναμη. Εκείνος που δεν μπορεί να κάνει κάτι δεν αυτοπεριορίζεται όταν δεν το κάνει· απλώς αδυνατεί. Αυτοπεριορίζεται πραγματικά εκείνος που μπορεί να προχωρήσει, διαθέτει τα μέσα και ίσως ακόμη και το συμφέρον να το κάνει, αλλά αποφασίζει ότι υπάρχουν λόγοι ισχυρότεροι από την ίδια τη δυνατότητα άσκησης της δύναμής του. Το όριο τότε δεν αποτελεί ήττα αλλά συνειδητή επιλογή. Αυτό είναι ίσως το βαθύτερο ηθικό πρόβλημα που θέτει σήμερα η ανάπτυξη της ΤΝ. Ο σύγχρονος τεχνολογικός πολιτισμός λειτουργεί συχνά σαν να ισχύει ένας άγραφος κανόνας: ό,τι μπορεί να δημιουργηθεί αργά ή γρήγορα θα δημιουργηθεί και, αφού δημιουργηθεί, θα αναζητήσουμε τρόπους να αντιμετωπίσουμε τις συνέπειές του. Πρώτα αυξάνουμε τη δύναμη και ύστερα αναζητούμε τους μηχανισμούς για να τη συγκρατήσουμε. Η φρόνηση απαιτεί την αντίστροφη σειρά: πριν αυξήσουμε τη δύναμη, εξετάζουμε αν μπορούμε να ελέγξουμε τις συνέπειές της. Αυτό δεν σημαίνει ότι πρέπει να σταματήσουμε την Τεχνητή Νοημοσύνη ούτε ότι κάθε περαιτέρω ανάπτυξή της είναι επικίνδυνη. Σημαίνει όμως ότι πρέπει να εγκαταλείψουμε την ιδέα πως η εξέλιξή της οφείλει να είναι απεριόριστη μόνο και μόνο επειδή είναι τεχνικά δυνατή. Υπάρχει τεράστια απόσταση ανάμεσα στην τεχνοφοβία και στην άρνηση του τεχνολογικού απεριόριστου. Το να θέτεις όρια σε μια τεχνολογία δεν σημαίνει ότι την απορρίπτεις· σημαίνει ότι αρνείσαι να δεχθείς πως η τεχνική δυνατότητα αποτελεί από μόνη της επαρκή ηθική δικαιολόγηση.

Ίσως μάλιστα να δίνουμε υπερβολική έμφαση στο πόσο ευφυής μπορεί να γίνει η ΤΝ και όχι αρκετή στο πόσο αυτόνομη θα της επιτρέψουμε να γίνει. Το αποφασιστικό ερώτημα δεν είναι μόνο τι θα μπορεί να γνωρίζει μια μηχανή, αλλά τι θα μπορεί να κάνει χωρίς εμάς. Άλλο ένα σύστημα που προτείνει και άλλο ένα σύστημα που αποφασίζει· άλλο ένα σύστημα που συμβουλεύει και άλλο ένα σύστημα που μπορεί να εκτελεί, να συναλλάσσεται, να παρεμβαίνει σε κρίσιμες υποδομές, να συντονίζει άλλα συστήματα ή να πραγματοποιεί μακρές ακολουθίες ενεργειών χωρίς ουσιαστική ανθρώπινη έγκριση. Το ζήτημα επομένως δεν είναι μόνο πόση νοημοσύνη θα αποκτήσει η ΤΝ, αλλά πόση εξουσία θα της παραχωρήσουμε. Η προβληματική αυτή συναντά τη σύγχρονη συζήτηση περί «ουσιαστικού ανθρώπινου ελέγχου» (meaningful human control), σύμφωνα με την οποία η αυξανόμενη αυτονομία των τεχνητών συστημάτων δεν πρέπει να συνεπάγεται την εξαφάνιση της ανθρώπινης ευθύνης και του ανθρώπινου ελέγχου. Ωστόσο, ίσως χρειάζεται να τεθεί ένα ακόμη προγενέστερο ερώτημα: όχι μόνο πώς θα διατηρήσουμε τον έλεγχο πάνω σε συστήματα στα οποία έχουμε ήδη παραχωρήσει σημαντική αυτονομία, αλλά πόση αυτονομία και εξουσία είναι φρόνιμο να τους παραχωρήσουμε εξαρχής. Ο μεγαλύτερος κίνδυνος δεν είναι ότι κάποτε οι μηχανές ΤΝ θα αρπάξουν την εξουσία βίαια από τον άνθρωπο, αλλά ότι ο ίδιος ο άνθρωπος θα τους την παραχωρήσει σταδιακά. Η νοημοσύνη δεν ταυτίζεται από μόνη της με την εξουσία. Ένα σύστημα μπορεί να είναι εξαιρετικά ικανό χωρίς να διαθέτει αυτομάτως τη δυνατότητα να αποφασίζει, να ενεργεί ή να επιβάλλει τις αποφάσεις του στον πραγματικό κόσμο. Για να αποκτήσει τέτοια δύναμη πρέπει να του παραχωρηθεί πρόσβαση, αυτονομία και πεδίο δράσης. Και αυτή η παραχώρηση μπορεί να μη συμβεί ποτέ ως μία θεαματική και συνειδητή πράξη· μπορεί να πραγματοποιηθεί αργά, σχεδόν ανεπαίσθητα. Αρχικά ζητούμε από την ΤΝ να μας πληροφορεί, έπειτα να μας συμβουλεύει, κατόπιν να μας προτείνει την καλύτερη απόφαση, στη συνέχεια να αποφασίζει σε ορισμένες περιπτώσεις και τελικά, στο όνομα της ταχύτητας και της αποτελεσματικότητας, να εκτελεί χωρίς προηγούμενη ανθρώπινη έγκριση. Έτσι, η απώλεια του ανθρώπινου ελέγχου δεν προϋποθέτει αναγκαστικά μια «εξέγερση των μηχανών». Μπορεί να προκύψει μέσα από μια διαδοχή φαινομενικά λογικών ανθρώπινων επιλογών. Το κρίσιμο ερώτημα επομένως δεν είναι μόνο αν η ΤΝ θα μπορέσει κάποτε να αυτονομηθεί από εμάς, αλλά και αν εμείς, πολύ νωρίτερα, θα έχουμε παραιτηθεί σταδιακά από την ευθύνη να αποφασίζουμε. Πριν λοιπόν αναρωτηθούμε πώς θα αποτρέψουμε μια μηχανή από το να καταλάβει την εξουσία, οφείλουμε να αναρωτηθούμε πόση εξουσία είμαστε εμείς διατεθειμένοι να της παραδώσουμε. Και ακριβώς εδώ εμφανίζεται μια ακόμη δυσκολία: ποιος θα δεχθεί να αυτοπεριοριστεί πρώτος; Μια επιχείρηση μπορεί να θεωρεί ότι η ανάπτυξη ενός εξαιρετικά ισχυρού συστήματος πρέπει να επιβραδυνθεί, αλλά να φοβάται ότι ένας ανταγωνιστής της θα συνεχίσει. Ένα κράτος μπορεί να αναγνωρίζει έναν κίνδυνο, αλλά να θεωρεί ότι ένα άλλο κράτος θα αποκτήσει στρατηγικό πλεονέκτημα αν δεν ακολουθήσει τους ίδιους περιορισμούς. Έτσι μπορεί να δημιουργηθεί ένας φαύλος κύκλος στον οποίο όλοι αντιλαμβάνονται τους κινδύνους της επιτάχυνσης και ταυτόχρονα κανείς δεν τολμά να επιβραδύνει. Γι’ αυτό η φρόνηση δεν μπορεί να παραμείνει αποκλειστικά προσωπική αρετή των επιστημόνων ή καλή πρόθεση των επιχειρήσεων. Πρέπει να αποκτήσει θεσμική μορφή, με ουσιαστική ανθρώπινη εποπτεία, ανεξάρτητο έλεγχο, δυνατότητα περιορισμού επικίνδυνων συστημάτων και διεθνή συνεργασία εκεί όπου οι συνέπειες μπορούν να ξεπεράσουν τα σύνορα ενός κράτους. Η επιβράδυνση όταν δεν γνωρίζουμε ακόμη αν κάτι είναι ασφαλές δεν είναι αναγκαστικά αποτυχία της προόδου· μπορεί να είναι επιτυχία της φρόνησης.

Πίσω όμως από το τεχνολογικό και θεσμικό ζήτημα βρίσκεται ένα βαθύτερο φιλοσοφικό παράδοξο. Ανησυχούμε μήπως κάποτε η Τεχνητή Νοημοσύνη πάψει να υπακούει στα όρια που της θέτουμε, αλλά ίσως προηγουμένως πρέπει να αναρωτηθούμε για τη δική μας αδυναμία να θέσουμε όρια στον εαυτό μας. Ρωτάμε αν μια μελλοντική ΤΝ θα μπορεί να αυτοπεριορίζεται, αλλά πρώτα πρέπει να αποδείξουμε ότι μπορούμε να αυτοπεριοριστούμε εμείς. Ρωτάμε ποια ηθική πρέπει να διδάξουμε στη μηχανή, ενώ προηγείται το ερώτημα ποια ηθική επιδεικνύει ο δημιουργός της. Ρωτάμε τι χαρακτήρα πρέπει να έχει η ΤΝ, ενώ ίσως το κρισιμότερο ερώτημα είναι τι χαρακτήρα πρέπει να έχει ένας πολιτισμός που αποκτά τη δύναμη να δημιουργεί ολοένα ισχυρότερες μορφές τεχνητής νοημοσύνης. Εδώ το πρόβλημα παύει να είναι αποκλειστικά τεχνολογικό και γίνεται ανθρωπολογικό. Η ΤΝ λειτουργεί σαν καθρέφτης που μας αναγκάζει να εξετάσουμε όχι μόνο τι μπορούν να γίνουν οι μηχανές μας, αλλά και τι έχουμε γίνει εμείς. Ένας πολιτισμός που θεωρεί κάθε όριο εχθρό, κάθε καθυστέρηση ήττα και κάθε δυνατότητα υποχρέωση πραγματοποίησης ίσως δυσκολευτεί να διαχειριστεί μια τεχνολογία της οποίας η δύναμη αυξάνεται ταχύτερα από την ικανότητά μας να αποφασίσουμε τι θέλουμε να κάνουμε με αυτή. Γι’ αυτό η φρόνηση πρέπει να επιστρέψει στο κέντρο της τεχνοηθικής σκέψης και μαζί της να επιστρέψει η έννοια του μέτρου. Μέτρο δεν σημαίνει μετριότητα, αυτοπεριορισμός δεν σημαίνει αδυναμία, προσοχή δεν σημαίνει φόβος και το «όχι ακόμη» δεν σημαίνει «ποτέ». Σημαίνουν ότι η ανθρώπινη δύναμη εξακολουθεί να υπάγεται στην ανθρώπινη κρίση.

Ίσως λοιπόν το πραγματικό κριτήριο της προόδου να μην είναι μόνο πόση δύναμη αποκτήσαμε, αλλά αν η ηθική μας ικανότητα να τη διαχειριζόμαστε αυξήθηκε μαζί της. Όσο μεγαλύτερη γίνεται η δύναμη, τόσο μεγαλύτερη πρέπει να γίνεται η απαίτηση φρόνησης, και όσο μεγαλύτερη γίνεται η απαίτηση φρόνησης, τόσο περισσότερο ο αυτοπεριορισμός μετατρέπεται από απλή επιλογή σε ευθύνη. Η πραγματική ωριμότητα ενός τεχνολογικού πολιτισμού δεν μετριέται μόνο από όσα είναι ικανός να δημιουργήσει, αλλά και από όσα, ενώ είναι ικανός να δημιουργήσει, αποφασίζει υπεύθυνα να μην δημιουργήσει ή να μην αφήσει ανεξέλεγκτα. Το μεγάλο ερώτημα του μέλλοντος ίσως επομένως να μην είναι αν η Τεχνητή Νοημοσύνη θα γίνει ισχυρότερη από τον άνθρωπο, αλλά αν ο άνθρωπος θα αποδειχθεί αρκετά ώριμος απέναντι στη δύναμη που ο ίδιος δημιουργεί. Η μεγαλύτερη ανθρώπινη κατάκτηση δεν είναι πάντοτε να μπορούμε να κάνουμε περισσότερα· μερικές φορές είναι να μπορούμε να σταματήσουμε. Να διαθέτουμε τη γνώση, τα μέσα και τη δύναμη να προχωρήσουμε και παρ’ όλα αυτά να έχουμε τη φρόνηση να αναρωτηθούμε: «Μπορούμε. Αλλά πρέπει;». Και όταν η απάντηση είναι αρνητική, να διαθέτουμε κάτι ακόμη δυσκολότερο από την τεχνολογική ισχύ που χρειάστηκε για να φτάσουμε μέχρι εκεί: τη δύναμη να μην προχωρήσουμε.

–

Φαρέτρα