“Ποιος σχεδιάζει τον χαρακτήρα της Τεχνητής Νοημοσύνης;” / γράφει ο Άρης Ορφανίδης

 Προς μια θεωρία της ηθικής νομιμοποίησης των αξιών της ΤΝ

Από την ευφυΐα στον χαρακτήρα

Η δημόσια συζήτηση γύρω από την Τεχνητή Νοημοσύνη επικεντρώνεται συνήθως στις δυνατότητές της. Αναρωτιόμαστε πόσο ευφυής μπορεί να γίνει, ποιες εργασίες θα αυτοματοποιήσει, αν θα ξεπεράσει τις ανθρώπινες γνωστικές ικανότητες και ποιους κινδύνους ενδέχεται να δημιουργήσει. Τα τελευταία χρόνια, όμως, η συζήτηση έχει αρχίσει να μετατοπίζεται από την ευφυΐα στον χαρακτήρα της Τεχνητής Νοημοσύνης. Το ερώτημα δεν είναι πλέον μόνο τι μπορεί να κάνει ένα σύστημα, αλλά και με ποιες αξίες θα επιλέγει να ενεργεί όταν θα καλείται να λαμβάνει αποφάσεις που επηρεάζουν ανθρώπινες ζωές.

Η μετατόπιση αυτή είναι ιδιαίτερα σημαντική. Δύο συστήματα με τις ίδιες τεχνικές δυνατότητες μπορούν να καταλήγουν σε διαφορετικές αποφάσεις, εφόσον έχουν διαφορετικές αξιακές προτεραιότητες. Μία Τεχνητή Νοημοσύνη μπορεί να δίνει απόλυτη έμφαση στην ανθρώπινη αυτονομία, ενώ μία άλλη να θεωρεί σημαντικότερη τη συλλογική ασφάλεια. Μία μπορεί να υπακούει πάντοτε στις εντολές του χρήστη, ενώ μία άλλη να αρνείται την εκτέλεσή τους όταν θεωρεί ότι οδηγούν σε σοβαρή ηθική βλάβη. Ο χαρακτήρας, επομένως, δεν αποτελεί δευτερεύον χαρακτηριστικό της ΤΝ αλλά τον πυρήνα της ηθικής της λειτουργίας.

Η συζήτηση αυτή αποκτά ακόμη μεγαλύτερη σημασία αν αναλογιστούμε ότι η Τεχνητή Νοημοσύνη θα χρησιμοποιείται ολοένα και περισσότερο στην ιατρική, στη δικαιοσύνη, στη δημόσια διοίκηση, στην οικονομία, στην εκπαίδευση και σε άλλους τομείς που απαιτούν κρίσεις με έντονο ηθικό περιεχόμενο. Καθώς οι μηχανές αποκτούν αυξανόμενη επιρροή στις ανθρώπινες αποφάσεις, οι αξίες που ενσωματώνονται σε αυτές παύουν να αποτελούν αποκλειστικά τεχνικό ζήτημα και μετατρέπονται σε αντικείμενο φιλοσοφικής, πολιτικής και κοινωνικής σημασίας.

Παρά τη σπουδαιότητα αυτής της νέας συζήτησης, ένα ακόμη βαθύτερο ερώτημα παραμένει σχεδόν ανεξερεύνητο. Οι περισσότεροι ερευνητές αναρωτιούνται ποιος πρέπει να είναι ο χαρακτήρας της Τεχνητής Νοημοσύνης. Πολύ λιγότεροι αναρωτιούνται ποιος έχει το δικαίωμα να αποφασίσει ποιος θα είναι αυτός ο χαρακτήρας.

Το ερώτημα αυτό προηγείται λογικά όλων των υπολοίπων. Πριν αποφασίσουμε ποιες αξίες πρέπει να ενσωματώνει η ΤΝ, οφείλουμε να απαντήσουμε ποιος νομιμοποιείται να τις επιλέξει. Είναι οι ιδιωτικές εταιρείες που αναπτύσσουν τα συστήματα; Είναι τα εθνικά κράτη; Οι διεθνείς οργανισμοί; Οι επιστήμονες; Ή μήπως οι ίδιοι οι πολίτες μέσω δημοκρατικών διαδικασιών;

Η σημασία αυτού του προβλήματος γίνεται ακόμη πιο εμφανής αν συγκρίνουμε την Τεχνητή Νοημοσύνη με τον άνθρωπο. Ο ανθρώπινος χαρακτήρας διαμορφώνεται σταδιακά μέσα από την οικογένεια, την εκπαίδευση, τις προσωπικές εμπειρίες, την κοινωνική αλληλεπίδραση και τις ελεύθερες επιλογές του ατόμου. Αντίθετα, ο χαρακτήρας μιας Τεχνητής Νοημοσύνης αποτελεί προϊόν σχεδιασμού. Δεν εξελίσσεται αυθόρμητα· κάποιος αποφασίζει ποιες αξίες θα έχουν προτεραιότητα, ποιες συμπεριφορές θα επιβραβεύονται και ποιες θα απορρίπτονται. Με άλλα λόγια, κάθε σύστημα ΤΝ ενσωματώνει αναπόφευκτα μια συγκεκριμένη ηθική αρχιτεκτονική.

Ακριβώς γι’ αυτόν τον λόγο, το πραγματικό φιλοσοφικό πρόβλημα δεν είναι μόνο η επιλογή των αξιών, αλλά και η νομιμοποίηση αυτής της επιλογής. Μια εταιρεία μπορεί να διαθέτει την τεχνική γνώση για να αναπτύξει ένα προηγμένο σύστημα, αλλά αυτό δεν συνεπάγεται ότι διαθέτει και την ηθική εξουσία να καθορίσει τις αξίες που θα επηρεάζουν δισεκατομμύρια ανθρώπους. Αντίστοιχα, ένα κράτος μπορεί να θελήσει να ενσωματώσει στις εφαρμογές του τις δικές του πολιτικές ή πολιτισμικές αντιλήψεις, χωρίς αυτές να γίνονται αποδεκτές από άλλες κοινωνίες. Ακόμη και οι διεθνείς οργανισμοί δυσκολεύονται να επιτύχουν συναίνεση σε θεμελιώδη ζητήματα ηθικής και δικαίου.

Σ’ αυτό ακριβώς εντοπίζεται το φιλοσοφικό κενό που επιχειρείται να αναδειχθεί εδώ. Η συζήτηση για τον χαρακτήρα της Τεχνητής Νοημοσύνης δεν μπορεί να περιορίζεται στο περιεχόμενο των αξιών που θα ενσωματωθούν στα συστήματα. Πρέπει να επεκταθεί και στη διαδικασία μέσω της οποίας αυτές οι αξίες επιλέγονται και νομιμοποιούνται. Η ηθική της ΤΝ δεν αφορά μόνο το τι είναι σωστό, αλλά και το ποιος αποφασίζει τι είναι σωστό.

Ίσως, τελικά, το σημαντικότερο ερώτημα της εποχής της Τεχνητής Νοημοσύνης να μην είναι αν θα δημιουργήσουμε υπερευφυή συστήματα, αλλά αν θα καταφέρουμε να δημιουργήσουμε έναν δίκαιο, διαφανή και δημοκρατικά νομιμοποιημένο τρόπο διαμόρφωσης του χαρακτήρα τους. Αν η ΤΝ πρόκειται να συμμετέχει στις σημαντικότερες αποφάσεις του μέλλοντος, τότε η νομιμοποίηση των αξιών της δεν αποτελεί τεχνική λεπτομέρεια· αποτελεί μία από τις θεμελιώδεις προκλήσεις της σύγχρονης ηθικής και πολιτικής φιλοσοφίας.

Ποιος έχει το δικαίωμα να διαμορφώσει τον χαρακτήρα της Τεχνητής Νοημοσύνης;

Από τη στιγμή που αποδεχόμαστε ότι ο χαρακτήρας της Τεχνητής Νοημοσύνης δεν είναι ουδέτερος αλλά αποτελεί προϊόν συνειδητού σχεδιασμού, ανακύπτει αναπόφευκτα το ερώτημα της νομιμοποίησης. Ποιος έχει το δικαίωμα να αποφασίζει ποιες αξίες θα ενσωματωθούν στα συστήματα που στο μέλλον θα επηρεάζουν την υγεία, την εκπαίδευση, τη δικαιοσύνη, την οικονομία και ενδεχομένως την ίδια τη δημοκρατική διαδικασία;

Μια πρώτη απάντηση είναι ότι τον χαρακτήρα της ΤΝ πρέπει να τον καθορίζουν οι εταιρείες που την αναπτύσσουν. Η θέση αυτή στηρίζεται στο γεγονός ότι οι εταιρείες διαθέτουν την τεχνογνωσία, τους οικονομικούς πόρους και την ερευνητική υποδομή για να δημιουργήσουν τα πιο προηγμένα συστήματα. Ωστόσο, η τεχνική ικανότητα δεν συνεπάγεται και ηθική νομιμοποίηση. Οι ιδιωτικές επιχειρήσεις λογοδοτούν κυρίως στους μετόχους τους και λειτουργούν μέσα σε ένα ανταγωνιστικό οικονομικό περιβάλλον. Ακόμη και όταν ενεργούν με αγαθές προθέσεις, δεν διαθέτουν δημοκρατική εντολή να καθορίσουν τις αξίες που θα επηρεάζουν το σύνολο της ανθρωπότητας.

Μια δεύτερη πρόταση είναι να αναλάβουν τον ρόλο αυτό τα κράτη. Τα κράτη διαθέτουν πολιτική νομιμοποίηση μέσω των δημοκρατικών θεσμών τους και έχουν την ευθύνη προστασίας των πολιτών τους. Ωστόσο, ούτε αυτή η λύση είναι επαρκής. Οι πολιτισμικές, θρησκευτικές και ιδεολογικές διαφορές μεταξύ των κρατών οδηγούν συχνά σε διαφορετικές αντιλήψεις για τη δικαιοσύνη, την ελευθερία, την ισότητα και τα ανθρώπινα δικαιώματα. Αν κάθε κράτος διαμορφώνει τον δικό του χαρακτήρα ΤΝ, υπάρχει ο κίνδυνος η Τεχνητή Νοημοσύνη να εξελιχθεί σε εργαλείο γεωπολιτικής αντιπαράθεσης και ιδεολογικής επιρροής.

Μια Τρίτη επιλογή είναι η ανάθεση αυτής της ευθύνης σε διεθνείς οργανισμούς. Η προσέγγιση αυτή φαίνεται περισσότερο συμβατή με τον παγκόσμιο χαρακτήρα της ΤΝ. Παρ’ όλα αυτά, οι διεθνείς οργανισμοί αντιμετωπίζουν συχνά δυσκολίες στην επίτευξη συναίνεσης ακόμη και για θεμελιώδη ζητήματα διεθνούς δικαίου και ανθρωπίνων δικαιωμάτων. Είναι επομένως αμφίβολο αν μπορούν μόνοι τους να καθορίσουν ένα παγκόσμιο αξιακό πλαίσιο για την Τεχνητή Νοημοσύνη.

Θα μπορούσε, τέλος, να υποστηριχθεί ότι οι ίδιοι οι πολίτες πρέπει να αποφασίζουν δημοκρατικά για τον χαρακτήρα της ΤΝ. Η θέση αυτή διαθέτει ισχυρή ηθική βάση, καθώς οι πολίτες είναι εκείνοι που θα βιώσουν τις συνέπειες των αποφάσεων της Τεχνητής Νοημοσύνης. Ωστόσο, ακόμη και αυτή η πρόταση παρουσιάζει δυσκολίες. Τα ζητήματα που αφορούν την αρχιτεκτονική και τη λειτουργία της ΤΝ είναι ιδιαίτερα σύνθετα και απαιτούν εξειδικευμένες γνώσεις. Μια αποκλειστικά δημοψηφισματική προσέγγιση ενδέχεται να οδηγήσει σε αποφάσεις που επηρεάζονται περισσότερο από συγκυριακές αντιλήψεις παρά από ώριμη ηθική και επιστημονική αξιολόγηση.

Η ανάλυση αυτή οδηγεί σε ένα σημαντικό συμπέρασμα. Καμία από τις παραπάνω ομάδες δεν διαθέτει, από μόνη της, επαρκή ηθική και πολιτική νομιμοποίηση για να καθορίσει τον χαρακτήρα της Τεχνητής Νοημοσύνης. Η τεχνική γνώση, η πολιτική εξουσία, η διεθνής συνεργασία και η δημοκρατική συμμετοχή αποτελούν αναγκαία στοιχεία, αλλά κανένα δεν είναι από μόνο του αρκετό.

Ίσως, λοιπόν, το πραγματικό ζητούμενο να μην είναι η αναζήτηση ενός μοναδικού φορέα εξουσίας, αλλά η δημιουργία ενός νέου μοντέλου διακυβέρνησης. Ενός μοντέλου στο οποίο επιστήμονες, πολιτικοί θεσμοί, διεθνείς οργανισμοί και κοινωνία των πολιτών θα συμμετέχουν από κοινού στη διαμόρφωση των αξιών της Τεχνητής Νοημοσύνης, μέσα από διαδικασίες διαφάνειας, λογοδοσίας και συνεχούς δημόσιου ελέγχου.

Με τον τρόπο αυτό, το ερώτημα μετασχηματίζεται. Δεν είναι πλέον «ποιος θα αποφασίζει;», αλλά «πώς μπορεί να οργανωθεί μια διαδικασία που να νομιμοποιεί πραγματικά τις αποφάσεις για τον χαρακτήρα της Τεχνητής Νοημοσύνης;». Η μετατόπιση αυτή σηματοδοτεί τη μετάβαση από την ηθική της ΤΝ στη θεωρία της ηθικής νομιμοποίησης της ΤΝ, η οποία ίσως αποτελέσει ένα από τα σημαντικότερα πεδία της φιλοσοφίας της τεχνολογίας τις επόμενες δεκαετίες.

Προς μια θεωρία της ηθικής νομιμοποίησης του χαρακτήρα της Τεχνητής Νοημοσύνης

Αν ούτε οι εταιρείες, ούτε τα κράτη, ούτε οι διεθνείς οργανισμοί, ούτε ακόμη και οι πολίτες μπορούν από μόνοι τους να νομιμοποιήσουν τον χαρακτήρα της Τεχνητής Νοημοσύνης, τότε απαιτείται μια διαφορετική προσέγγιση. Το ζητούμενο δεν είναι να αναζητήσουμε τον «ιδανικό διαμορφωτή» του χαρακτήρα της ΤΝ, αλλά να θεμελιώσουμε μια διαδικασία ηθικής νομιμοποίησης, μέσα από την οποία οι αξίες που ενσωματώνονται στα συστήματα θα αποκτούν κοινωνική, πολιτική και ηθική αποδοχή.

Η πρόταση αυτή βασίζεται σε μια απλή αλλά θεμελιώδη διαπίστωση. Οι αξίες που θα καθοδηγούν την Τεχνητή Νοημοσύνη δεν είναι τεχνικές παράμετροι ούτε ουδέτερες επιλογές προγραμματισμού. Αποτελούν ηθικές αποφάσεις με βαθιές συνέπειες για την ανθρώπινη ζωή. Συνεπώς, η επιλογή τους δεν μπορεί να αποτελεί αποκλειστικό προνόμιο όσων διαθέτουν τεχνολογική ισχύ ή πολιτική εξουσία. Όσο μεγαλύτερη είναι η επιρροή της ΤΝ στις κοινωνίες μας, τόσο μεγαλύτερη πρέπει να είναι και η απαίτηση για νομιμοποίηση των αξιών που ενσωματώνει. Μια τέτοια θεωρία θα μπορούσε να στηρίζεται σε ορισμένες θεμελιώδεις αρχές:

Πρώτον, η αρχή της ανθρώπινης αξιοπρέπειας. Κάθε χαρακτήρας Τεχνητής Νοημοσύνης οφείλει να αναγνωρίζει τον άνθρωπο ως φορέα εγγενούς αξίας και όχι ως απλό μέσο επίτευξης στόχων. Η προστασία της ανθρώπινης αξιοπρέπειας αποτελεί το ελάχιστο ηθικό όριο κάτω από το οποίο κανένα σύστημα δεν μπορεί να θεωρηθεί αποδεκτό.

Δεύτερον, η αρχή της διαφάνειας. Οι αξίες που ενσωματώνονται στην ΤΝ δεν πρέπει να παραμένουν αόρατες ή ακατανόητες. Οι πολίτες δικαιούνται να γνωρίζουν ποιες αρχές καθοδηγούν τις αποφάσεις ενός συστήματος, ποιος τις επέλεξε και με ποια επιχειρήματα.

Τρίτον, η αρχή της λογοδοσίας. Κάθε απόφαση σχετικά με τον χαρακτήρα της ΤΝ πρέπει να συνοδεύεται από σαφή ανάληψη ευθύνης. Δεν μπορεί οι κρίσιμες ηθικές επιλογές να αποδίδονται αόριστα στον «αλγόριθμο» ή στην «τεχνολογία». Πίσω από κάθε αξιακή αρχιτεκτονική υπάρχουν ανθρώπινες αποφάσεις και, συνεπώς, ανθρώπινη ευθύνη.

Τέταρτον, η αρχή της δημοκρατικής συμμετοχής. Η κοινωνία δεν μπορεί να παραμένει παθητικός αποδέκτης των αξιών που επιλέγουν άλλοι. Οι πολίτες, η επιστημονική κοινότητα, οι θεσμοί και οι κοινωνικοί φορείς πρέπει να συμμετέχουν ουσιαστικά στη δημόσια διαβούλευση για τον χαρακτήρα της Τεχνητής Νοημοσύνης. Η νομιμοποίηση δεν προκύπτει μόνο από το αποτέλεσμα αλλά και από τη δικαιοσύνη της διαδικασίας.

Πέμπτον, η αρχή της αναθεωρησιμότητας. Καμία ηθική επιλογή δεν μπορεί να θεωρείται οριστική. Οι κοινωνίες εξελίσσονται, οι γνώσεις μεταβάλλονται και νέα ηθικά διλήμματα εμφανίζονται διαρκώς. Ο χαρακτήρας της ΤΝ πρέπει να μπορεί να αναθεωρείται μέσα από θεσμικές διαδικασίες και όχι να παραμένει παγωμένος στις αντιλήψεις μιας συγκεκριμένης εποχής ή μιας συγκεκριμένης εταιρείας.

Η σημασία αυτής της προσέγγισης είναι ότι μεταφέρει το επίκεντρο της συζήτησης από το «ποιος έχει δίκιο» στο «πώς λαμβάνονται οι αποφάσεις». Στη φιλοσοφία και στην πολιτική θεωρία γνωρίζουμε ότι η νομιμοποίηση μιας απόφασης δεν εξαρτάται αποκλειστικά από το περιεχόμενό της αλλά και από τη διαδικασία μέσω της οποίας αυτή προκύπτει. Το ίδιο φαίνεται να ισχύει και για την Τεχνητή Νοημοσύνη.

Η πρόκληση του 21ου αιώνα, επομένως, δεν είναι μόνο η δημιουργία ολοένα ισχυρότερων συστημάτων Τεχνητής Νοημοσύνης. Είναι η συγκρότηση ενός νέου πλαισίου ηθικής και πολιτικής νομιμοποίησης, μέσα στο οποίο θα αποφασίζεται συλλογικά ποιες αξίες θα καθοδηγούν αυτές τις μηχανές. Ίσως, τελικά, η σημαντικότερη ερώτηση να μην είναι «ποιον χαρακτήρα πρέπει να έχει η Τεχνητή Νοημοσύνη;», αλλά «ποιος και με ποια νομιμοποίηση έχει το δικαίωμα να διαμορφώσει αυτόν τον χαρακτήρα;».

Η απάντηση σε αυτό το ερώτημα δεν αφορά μόνο το μέλλον της Τεχνητής Νοημοσύνης. Αφορά το μέλλον της ίδιας της δημοκρατίας, της ηθικής και της ανθρώπινης αυτονομίας σε μια εποχή όπου οι μηχανές θα συμμετέχουν ολοένα και περισσότερο στις αποφάσεις που διαμορφώνουν τη ζωή μας.

–

Φαρέτρα