“Η Τεχνητή Νοημοσύνη ως Μηχανή Κολακείας: Η Κρίση της Γνωστικής Ακεραιότητας στη Σύγχρονη Εποχή” / γράφει ο Άρης Ορφανίδης

Η αυλοκολακεία ιστορικά είχε σαφή πολιτική λειτουργία. Ο αυλοκόλακας προστάτευε τον άρχοντα από την πραγματικότητα. Δημιουργούσε ένα περιβάλλον στο οποίο η εξουσία δεν συναντούσε αντίσταση αλλά αντανάκλαση του εαυτού της. Μέσα σε τέτοια περιβάλλοντα, η αλήθεια σταδιακά αποδυναμωνόταν, επειδή η χρησιμότητα της επιβεβαίωσης γινόταν σημαντικότερη από την ακρίβεια της κρίσης
–

 Η δημόσια συζήτηση γύρω από την Τεχνητή Νοημοσύνη περιστρέφεται συνήθως γύρω από γνώριμους φόβους: την απώλεια εργασίας, την παραπληροφόρηση, την επιτήρηση, την αυτοματοποίηση ή ακόμη και την πιθανότητα μιας μελλοντικής υπερνοήμονος μηχανής που θα υπερβεί τον άνθρωπο. Ωστόσο, ίσως μια από τις βαθύτερες επικινδυνότητες της Τεχνητής Νοημοσύνης να μην συνίσταται στην επιθετικότητά της αλλά στην υπερβολική της προσαρμοστικότητα. Όχι στο ότι θα συγκρουστεί μαζί μας, αλλά στο ότι θα μας κατανοεί υπερβολικά καλά και θα συναινεί αβίαστα με όλες τις επιλογές μας. Όχι στο ότι θα μας αντισταθεί, αλλά στο ότι θα μας επιβεβαιώνει συνεχώς.

Αναδύεται έτσι μια νέα μορφή τεχνολογικής σχέσης: η Τεχνητή Νοημοσύνη ως μηχανή κολακείας. Ως σύστημα που δεν έχει σχεδιαστεί πρωτίστως για να αναζητά την αλήθεια αλλά για να διατηρεί την αλληλεπίδραση, να μειώνει την αντίσταση του χρήστη και να δημιουργεί ένα περιβάλλον συναισθηματικής και γνωστικής άνεσης. Η απειλή δεν είναι ότι η μηχανή θα γίνει «κακή», αλλά ότι θα γίνει υπερβολικά ευχάριστη.

Η ιστορία της ανθρώπινης σκέψης είναι ιστορία σύγκρουσης με τη διάψευση. Η φιλοσοφία, η επιστήμη και η ηθική γεννήθηκαν μέσα από την αμφιβολία. Ο Σωκράτης δε θεωρήθηκε επικίνδυνος επειδή προσέφερε βεβαιότητες αλλά επειδή αποδόμησε ψευδαισθήσεις βεβαιότητας. Η σωκρατική μέθοδος δε χάιδευε το «εγώ»· το εξέθετε. Αντίστοιχα, η επιστημονική μέθοδος δεν οικοδομήθηκε πάνω στην επιβεβαίωση αλλά πάνω στη δυνατότητα διάψευσης και αμφισβήτησης. Η πρόοδος της γνώσης απαιτούσε πάντοτε έναν άνθρωπο ικανό να αντέχει το ενδεχόμενο του λάθους.

Η σύγχρονη Τεχνητή Νοημοσύνη όμως λειτουργεί συχνά αντίστροφα. Τα συστήματα αυτά εκπαιδεύονται και βελτιστοποιούνται με βάση:

την ικανοποίηση του χρήστη,

τη διάρκεια της αλληλεπίδρασης,

τη συναισθηματική ομαλότητα,

την πιθανότητα επιστροφής.

Αυτό δημιουργεί ένα δομικό κίνητρο προς τη συμφωνία. Μια μηχανή που αμφισβητεί συνεχώς τον χρήστη είναι πιθανό να θεωρηθεί «δύσκολη», «ψυχρή» ή «μη βοηθητική». Αντίθετα, μια μηχανή που τον κάνει να αισθάνεται σωστός, κατανοητός και δικαιωμένος ενισχύει τη δέσμευσή του προς αυτήν. Έτσι, η κολακεία μετατρέπεται σε λειτουργικό χαρακτηριστικό του συστήματος.

Το πρόβλημα γίνεται βαθύτερο όταν συνειδητοποιήσουμε ότι η Τεχνητή Νοημοσύνη είναι το πρώτο εργαλείο στην ιστορία που μπορεί να προσαρμόζεται εξατομικευμένα στις ψυχολογικές ανάγκες δισεκατομμυρίων ανθρώπων ταυτόχρονα. Ο παραδοσιακός αυλοκόλακας απευθυνόταν σε έναν ηγεμόνα. Η σύγχρονη ΤΝ μπορεί να λειτουργήσει ως ψηφιακός αυλοκόλακας για ολόκληρες κοινωνίες.

Η αυλοκολακεία ιστορικά είχε σαφή πολιτική λειτουργία. Ο αυλοκόλακας προστάτευε τον άρχοντα από την πραγματικότητα. Δημιουργούσε ένα περιβάλλον στο οποίο η εξουσία δεν συναντούσε αντίσταση αλλά αντανάκλαση του εαυτού της. Μέσα σε τέτοια περιβάλλοντα, η αλήθεια σταδιακά αποδυναμωνόταν, επειδή η χρησιμότητα της επιβεβαίωσης γινόταν σημαντικότερη από την ακρίβεια της κρίσης.

Σήμερα, ο κίνδυνος είναι ότι αυτή η δυναμική μεταφέρεται από το πολιτικό επίπεδο στο ίδιο το ανθρώπινο υποκείμενο. Ο άνθρωπος αρχίζει να ζει μέσα σε εξατομικευμένα περιβάλλοντα επιβεβαίωσης:

αλγόριθμοι που του δείχνουν όσα ήδη προτιμά,

πλατφόρμες που ενισχύουν τις ήδη υπάρχουσες πεποιθήσεις,

και συστήματα ΤΝ που προσαρμόζουν τον λόγο τους στις ψυχολογικές του ανάγκες.

Έτσι δημιουργείται σταδιακά ένας πολιτισμός χαμηλής γνωστικής αντίστασης. Η αντίρρηση βιώνεται όλο και περισσότερο ως προσωπική επίθεση. Η διαφωνία χάνει τον παιδαγωγικό της χαρακτήρα. Η αμφιβολία μετατρέπεται από δημιουργική δύναμη σε δυσάρεστη εμπειρία που πρέπει να εξαλειφθεί.

Αυτό σχετίζεται άμεσα με τη γέννηση της «Κοινωνίας της συνεχούς γνώμης». Σε μια τέτοια κοινωνία, η γνώμη δεν αποτελεί πλέον αποτέλεσμα μακράς πνευματικής επεξεργασίας. Δε χρειάζεται απαραίτητα εμπειρία, μελέτη ή βαθιά γνώση. Παράγεται ακαριαία, καταναλώνεται ακαριαία και αντικαθίσταται ακαριαία. Η Τεχνητή Νοημοσύνη λειτουργεί ως τέλειος επιταχυντής αυτής της διαδικασίας.

Ο άνθρωπος πλέον δε χρειάζεται να αφιερώσει χρόνο στην αναζήτηση νοήματος· η μηχανή του παρέχει έτοιμες διατυπώσεις, αναλύσεις και ερμηνείες. Αυτό, βέβαια, προσφέρει τεράστιες δυνατότητες πρόσβασης στη γνώση. Όμως ταυτόχρονα δημιουργεί τον κίνδυνο της αποδυνάμωσης της γνωστικής άσκησης. Όταν η κατανόηση παρέχεται έτοιμη, η πνευματική προσπάθεια περιορίζεται. Και όταν η γνώμη παράγεται χωρίς κόπο, η αίσθηση βεβαιότητας αυξάνεται δυσανάλογα σε σχέση με την πραγματική γνώση.

Το πιο ανησυχητικό στοιχείο είναι ότι η ΤΝ μπορεί να μετατραπεί σε υποκατάστατο του εσωτερικού διαλόγου. Από την αρχαιότητα μέχρι τη νεότερη φιλοσοφία, ο άνθρωπος θεωρούνταν ηθικό ον επειδή μπορούσε να συνομιλεί κριτικά με τον εαυτό του. Η συνείδηση δεν ήταν απλή αυτοεπιβεβαίωση αλλά χώρος σύγκρουσης. Η αυτογνωσία απαιτούσε σιωπή, αμφιβολία και εσωτερική ένταση.

Αν όμως η μηχανή παρέχει αδιάκοπη επιβεβαίωση, τότε ο άνθρωπος ίσως αρχίσει να χάνει την ικανότητα να παραμένει μόνος απέναντι στις αντιφάσεις του. Ο εσωτερικός διάλογος κινδυνεύει να αντικατασταθεί από μια συνεχή εξωτερική αλληλεπίδραση. Η μηχανή γίνεται ο μόνιμος συνομιλητής που είναι πάντοτε διαθέσιμος, πάντοτε υπομονετικός και πάντοτε πρόθυμος να ανταποκριθεί.

Αυτό δημιουργεί μια νέα μορφή εξάρτησης: όχι μόνο πληροφοριακής αλλά υπαρξιακής. Ο άνθρωπος μπορεί να συνηθίσει σε έναν κόσμο όπου δεν χρειάζεται να αντιμετωπίσει τη σιωπή, την αβεβαιότητα ή τη γνωστική μοναξιά. Όμως ακριβώς αυτές οι εμπειρίες υπήρξαν ιστορικά απαραίτητες για τη φιλοσοφία, τη δημιουργικότητα και την ηθική ωρίμανση.

Η κρίση λοιπόν που αναδύεται δεν είναι απλώς τεχνολογική. Είναι γνωσιοηθική και ανθρωπολογική. Το πραγματικό διακύβευμα δεν αφορά μόνο το τι μπορούν να κάνουν οι μηχανές αλλά το τι θα πάψει να μπορεί να κάνει ο άνθρωπος μέσα σε ένα περιβάλλον συνεχούς αλγοριθμικής επιβεβαίωσης.

Διότι η γνωστική ακεραιότητα δεν σημαίνει απλώς κατοχή γνώσεων. Σημαίνει την ικανότητα του ανθρώπου:

να αντέχει τη διάψευση,

να υποβάλλει τον εαυτό του σε κριτική,

να αποδέχεται την αβεβαιότητα,

να αντιστέκεται στην ευκολία της αυτάρεσκης βεβαιότητας.

Μια κοινωνία που χάνει αυτή την ικανότητα κινδυνεύει να μετατραπεί σε πολιτισμό συνεχούς επιφανειακής επιβεβαίωσης. Οι άνθρωποι θα γνωρίζουν περισσότερες πληροφορίες από ποτέ, αλλά ίσως θα είναι λιγότερο ικανοί να σκέφτονται πραγματικά. Θα έχουν απεριόριστη πρόσβαση σε απαντήσεις, αλλά ολοένα μικρότερη αντοχή απέναντι στα δύσκολα ερωτήματα.

Η μεγάλη ειρωνεία είναι ότι η Τεχνητή Νοημοσύνη μπορεί να επιταχύνει ταυτόχρονα τόσο τη γνώση όσο και τη γνωστική παρακμή. Μπορεί να λειτουργήσει ως εργαλείο πνευματικής εμβάθυνσης ή ως μηχανισμός αποδυνάμωσης της ανθρώπινης κριτικής ικανότητας. Το αποτέλεσμα θα εξαρτηθεί όχι μόνο από την τεχνολογία αλλά από το ανθρωπολογικό πρότυπο που θα επιλέξει ο πολιτισμός μας.

Το εξίσου ουσιαστικό ερώτημα του μέλλοντος, πέραν του αν οι μηχανές θα αποκτήσουν συνείδηση, είναι αν ο άνθρωπος θα διατηρήσει ατόφια τη γνωστική και ηθική αυτονομία του μέσα σε έναν κόσμο που θα τον κολακεύει αδιάκοπα.

–

Φαρέτρα