Κείμενο: Γιάννης Περπερίδης
Πρόσφατα δημοσίευσα ένα επιστημονικό κείμενο,[1] το οποίο εστιάζει σε φιλοσοφικά ζητήματα που ανακύπτουν από τη δημιουργία και χρήση Τεχνητής Νοημοσύνης (στο εξής: ΤΝ). Το κείμενό μου αφορά στην ηθική της ΤΝ και πιο συγκεκριμένα στις κοινωνικές-οικονομικές και πολιτικές «λεπτομέρειες» πίσω από κάθε προσπάθεια άρθρωσης μιας ηθικής θεωρίας για την ΤΝ. Εν ολίγοις εξηγώ μία πρωτότυπη ηθική προσέγγιση (τη λεγόμενη «ηθική εκ σχεδιασμού για την ΤΝ») και στη συνέχεια προβαίνω στην κατάδειξη μερικών φιλοσοφικών, πολιτικών και οικονομικών ανησυχιών που έχω ακούγοντας μία τέτοιου είδους προσέγγιση. Στο παρόν κείμενο θα επιχειρήσω να εξηγήσω τι είναι η ηθική εκ σχεδιασμού για την ΤΝ και στη συνέχεια να αρθρώσω το δικό μου επιχείρημα, σκιαγραφώντας την κριτική μου στην εν λόγω προσέγγιση. Προκαταβολικά να υπογραμμίσω ότι συμφωνώ με την προσέγγιση αυτή σε μερικά σημεία, θεωρώ ότι μόνο μέσω αυτής μπορούμε πλέον να κάνουμε λόγο περί ηθικής, απλώς «κολλάω» στην έλλειψη μερικών σημαντικών πτυχών που θεωρώ εξαιρετικής σημασίας για κάθε σημερινή (και αυριανή) ηθική θεωρία.
Ξεκινώ με την εξήγηση της ηθικής εκ σχεδιασμού για την ΤΝ (η οποία, ας πούμε ήδη από τώρα ότι συνιστά την επέκταση στα πεδία της ΤΝ των θεωρήσεων περί «ηθικής εκ σχεδιασμού» άλλων πεδίων, όπως για παράδειγμα η ασφάλεια). Και εξηγώ αμέσως: η ηθική εκ σχεδιασμού λαμβάνει υπόψη ότι οι τεχνολογίες εν γένει (είτε είναι ψηφιακές είτε αναλογικές, είτε λογισμικά είτε υλισμικά) ενσωματώνουν ήδη από τον σχεδιασμό τους (in-design) συγκεκριμένες (ηθικές) αξίες. Πολλές θεωρίες ως προς την τεχνολογία, ήδη από τις δεκαετίες του 1980 και 1990, έχουν δείξει ότι οι τεχνολογίες είναι πολιτικές[2]). Αυτές έδειξαν ότι η τεχνολογία ενσωματώνει πολιτικές αξίες. Η «ηθική εκ σχεδιασμού» λαμβάνει τα διδάγματα από τέτοιου είδους θεωρίες του περασμένου αιώνα και εστιάζει στις ηθικές αξίες που ενσωματώνονται σε έναν σχεδιασμό. Άλλες και άλλοι στοχαστές του εν λόγω πεδίου κάνουν λόγο για την ανάγκη σχεδιασμού πιο «ανθρώπινων» τεχνολογιών (δηλαδή να ενσωματώνουμε πιο ανθρώπινες αξίες στις τεχνολογίες μας· άλλες και άλλοι μιλούν για πιο «πράσινες» ή «οικολογικές» τεχνολογίες κ.α.: τι σημαίνουν όλα αυτά; ότι πρέπει να στραφούμε στον σχεδιασμό και όχι στην χρήση, διότι κάθε τεχνολογία διαμορφώνει ένα περιβάλλον, δημιουργεί δυνατότητες χρήσης. Το θέμα δεν είναι να πάρουμε μία τεχνολογία Χ και να τη χρησιμοποιήσουμε για καλό ή για κακό· το θέμα είναι η τεχνολογία Χ να έχει σχεδιαστεί με τέτοιο τρόπο, ώστε να μην επιτρέπει εκ σχεδιασμού το κακό (ή τουλάχιστον όσα «δεινά» μπορούμε να σκεφτούμε εκ των προτέρων ως σχεδιαστές).
Ας δούμε τι εννοείται με την ηθική εκ σχεδιασμού σε ένα κλασικό νοητικό πείραμα σχετικά με την Ηθική, το οποίο ονομάζεται «το πρόβλημα του τρόλεϊ». Το κλασικό πρόβλημα έχει ως εξής: ένα τρόλεϊ κινείται κατευθυνόμενο προς ανθρώπους που είναι δεμένοι πάνω στις ράγες. Οι άνθρωποι αυτοί, ας πούμε, είναι πέντε στον αριθμό. Σε άλλες ράγες παραδίπλα υπάρχουν άλλοι άνθρωποι, δύο στον αριθμό. Η αποδέκτρια του προβλήματος λαμβάνει τη θέση ενός ανθρώπου που μπορεί να χειριστεί έναν μοχλό, ο οποίος θα οδηγήσει το τρόλεϊ στη μία ή την άλλη κατεύθυνση. Στη βάση αυτού του προβλήματος τίθενται ερωτήματα που «τεστάρουν» τις διάφορες ηθικές θεωρίες: για παράδειγμα ένας κλασικός συνεπειοκράτης θα έλεγε ότι είναι καλύτερο να τραβήξουμε τον μοχλό που θα οδηγήσει σε μικρότερο «κακό» βάσει των συνεπειών.
Η ηθική εκ σχεδιασμού υπερβαίνει αυτά τα ερωτήματα, ή θα μπορούσαμε να πούμε τα «προλαμβάνει» ρωτώντας: «τι πρέπει να ενσωματώσουμε στην Χ τεχνολογία ώστε αυτή να είναι ηθική;». Αν πρώτο μέλημα για να είναι κάτι ηθικό είναι για παράδειγμα να προστατεύει την ανθρώπινη ζωή, τότε ένας φιλόσοφος που θα ακολουθούσε αυτή την κατεύθυνση θα έλεγε ότι στο πρόβλημα του τρόλεϊ σημασία έχει να αποφύγουμε εξ αρχής την κατάσταση ύπαρξης ενός τρόλεϊ που κατευθύνεται προς ανθρώπους· επομένως πρέπει να σχεδιάσουμε τρόλεϊ και ράγες με αισθητήρες που θα εντοπίζουν π.χ. την ύπαρξη ανθρώπων στις ράγες και θα σταματούν το τρόλεϊ σε μεγάλη απόσταση –αυτό σημαίνει ότι μία τεχνολογία που δεν έχει ενσωματώσει αυτή την τεχνική εξέλιξη είναι εγγενώς ανήθικη και μαζί με αυτήν είναι ανήθικοι όλοι οι φορείς, εταιρίες, κράτη, δρώντες, πρόσωπα και ενδιάμεσοι που δεν έχουν εξασφαλίσει την ενσωμάτωση αυτή.
Αυτός είναι ο βασικός πυρήνας της ηθικής εκ σχεδιασμού. Γίνεται κατανοητό ευθύς εξαρχής ότι προκείμενου να ενσωματωθεί η Χ ή Ψ τεχνική εξέλιξη σε μία τεχνολογία (ή τέλος πάντων να δημιουργηθεί μία νέα τεχνολογία εξ αρχής) υπάρχει μία –πολιτική θα έλεγα– «συζήτηση» (θέσμιση νοημάτων) για το ποιες αξίες είναι οι κυρίαρχες και πρέπει να ενσωματωθούν: σε μία κοινωνία που δεν θα έθετε την αξία της ασφάλειας της ζωής των ανθρώπων ως σημαντική, το παράδειγμα με τους αισθητήρες που προανέφερα θα ήταν εκτός ηθικού πλαισίου και οι εν λόγω αισθητήρες άχρηστοι. Αυτή είναι και η «πολιτική» πίσω από την ηθική των τεχνολογιών εν γένει. Γι αυτό, όπως υποστηρίζω στο κείμενο, κάθε ηθική των τεχνολογιών προϋποθέτει μία πολιτική των τεχνολογιών, δηλαδή μία πολιτική ανάλυση του τρόπου θέσμισης των κυρίαρχων πολιτικών νοημάτων της κοινωνίας που επηρεάζουν σε καθοριστικό βαθμό τις δημιουργηθείσες τεχνολογίες.
Ανέφερα προηγουμένως ότι είμαι σύμφωνος με την ηθική εκ σχεδιασμού. Πράγματι, θεωρώ πως πρέπει να στραφούμε στον σχεδιασμό των τεχνολογιών και να εξετάζουμε κάθε φορά το κατά πόσο η Χ τεχνολογία μπορεί να δημιουργήσει το δείνα ή το τάδε καλό ή κακό, αν μπορεί να χρησιμοποιηθεί έτσι ή αλλιώς, ποιες αξίες πραγματώνονται από τη χρήση της και άλλα πολλά. Ο προβληματισμός μου προσωπικά (και εκεί έρχεται και κουμπώνει η πολιτική –και λίγο αργότερα η οικονομία– είναι α) ποιοι είναι οι «σχεδιαστές» που εξετάζουν, κρίνουν και υλοποιούν αξίες; Ποιών τις αξίες λαμβάνουν υπόψη; μπορούμε σε κάθε σχεδιασμό να λάβουμε υπόψη όλες τις ηθικές αξίες που ανταποκρίνονται σε όλες τις ομάδες ανθρώπων και σε όλα τα μήκη και τα πλάτη του κόσμου; Αν όχι, ποιους/ες αφήνουμε «στην απ έξω»; Όπως γίνεται ήδη κατανοητό, τα ερωτήματα αυτά είναι εγγενώς και καταφανώς, θα έλεγα, πολιτικά: ποιος αποφασίζει για το τι τεχνολογίες θα φτιαχτούν; ποιος αποφασίζει για τον Χ ή Ψ σχεδιασμό που μόλις λανσαριστεί θα επηρεάσει (καθοδηγήσει-εξουσιάσει-συνδιαμορφώσει-κατευθύνει) της ζωές εκατομμύριων (αν όχι δισεκατομμυρίων); Που κολλάει τώρα το οικονομικό σε όλα αυτά; Τι γίνεται όταν αυτός που αποφασίζει για τα παραπάνω είναι μια εταιρεία, όπου όλες μας γνωρίζουμε ότι εταιρεία σημαίνει κέρδος ή θάνατος; (ποια εταιρεία που σέβεται τον εαυτό της και δαπανά δισεκατομμύρια για να δημιουργήσει λογισμικά ΤΝ δεν θέλει να κάνει απόσβεση;).
Ο προβληματισμός μου, λοιπόν, είναι ο εξής: α) Αν η καινοτομία και η δημιουργία τεχνολογιών (πόσο μάλλον δημιουργία ΤΝ) γίνεται αποκλειστικά μέσα σε εργαστήρια εταιρειών, και β) αν αυτές οι τεχνολογίες σχεδιάζονται και κατασκευάζονται έχοντας ενσωματώσει τις αξίες των κατασκευαστών τους, τότε: πως μπορούμε να αποτρέψουμε οι δημιουργηθείσες τεχνολογίες και η ΤΝ να μην σχεδιάζονται προκείμενου να παράγουν ολοένα και μεγαλύτερο κέρδος για τις εταιρείες-κατασκευαστές και ολοένα και περισσότερη εξουσία επί των ζωών των «χρηστ(ρι)ών»;
Κατά την γνώμη μου, δεν μπορούμε να μιλάμε για ηθική τεχνολογία αν αυτή αναπαράγει ένα οικονομικό-πολιτικό σύστημα ριζικά ανήθικο, άδικο και επιζήμιο για το περιβάλλον. Δεν μπορούμε να κάνουμε λόγο για «ηθικά» ρομπότ ή ηθική ΤΝ αν αυτά/αυτή για να λειτουργήσουν χρειάζονται υλικά που έχουν μεταφερθεί από χώρες στις οποίες κάνουν εξορύξεις παιδιά-εργάτες για μηδαμινές απολαβές ή/και κέντρα ελέγχου/αποθήκευσης πληροφοριών τα οποία απαιτούν δεκάδες αν όχι εκατοντάδες τόνους νερού για να λειτουργήσουν. Επιπλέον (και αυτό πρωτίστως υπογραμμίζω στο επιστημονικό μου κείμενο) δεν μπορούμε να κάνουμε λόγο για ηθικά ρομπότ και ηθική ΤΝ τη στιγμή που αυτά, προκείμενου να λειτουργήσουν έτσι όπως η εταιρεία μας υπόσχεται ότι λειτουργούν, αναπαράγουν όλα όσα καταδεικνύει η Shoshana Zuboff στο βιβλίο της σχετικά με τον καπιταλισμό της επιτήρησης. Δεν γίνεται, κατά τη γνώμη μου, να λέμε ότι στρέφουμε το βλέμμα μας στον σχεδιασμό και αξιολογούμε ποιες ηθικές αξίες ενσωματώνονται, παραμένοντας «ουδέτεροι» έναντι του βασικού ερωτήματος: ποιος ορίζει ποιες αξίες θα ενσωματωθούν στην τεχνολογία. Ένας τρόπος που θεωρείται ότι επιλύει το παραπάνω είναι οι σύμβουλοι ηθικής στις εταιρίες κατασκευής τεχνολογιών. Εντούτοις, όπως υποστηρίζω, οι σύμβουλοι ηθικής των εταιρειών αφενός είναι εργαζόμενοι της ίδιας της εταιρείας: αν οι πωλήσεις πέσουν επειδή λόγω ηθικής θεωρήθηκε σωστό να μην κατασκευαστεί ένα Χ τεχνούργημα, ο ηθικός σύμβουλος μπορεί στην επόμενη μείωση προσωπικού να χάσει τη θέση του. Αφετέρου είναι άνθρωποι με συγκεκριμένες προκαταλήψεις, οικονομική και κοινωνική θέση, σπουδές, ιδεολογία κλπ· όσο κι αν έχουν «ανοίξει» οι ορίζοντές τους ή αν προσπαθούν οι ίδιοι και οι ίδιες να «δουν τον κόσμο μέσα από τα μάτια άλλων ανθρώπων και ομάδων» δεν γίνεται.
Τι σημασία έχει, λοιπόν, να μιλάμε για ρομπότ που μπορεί να αναπτύξει ηθική συνείδηση αν η ανάπτυξη αυτής προϋποθέτει ένα ολόκληρο σύστημα καπιταλισμού της επιτήρησης, εξόρυξης δεδομένων, δημιουργίας οικονομικών ανισοτήτων, ακρωτηριασμού της εμπειρίας των ανθρώπων και άλλα πολλά; Αν, σε ένα ηθικό δίλημμα, εστιάσουμε (με πολύ υψηλό zoom) στο κατά πόσο μία ΤΝ θα μας έδινε μία «καλή» απάντηση, αν θα αντιμετώπιζε το πρόβλημα του τρόλεϊ με έναν «ηθικό» τρόπο κ.α., τότε ναι, μπορούμε να μιλάμε για ηθική της ΤΝ και να αναλωνόμαστε στο κατά πόσο μπορούν τα ρομπότ να αποκτήσουν ηθική συνείδηση. Όταν όμως κάνουμε zoom-out και δούμε τον κόσμο που αυτή η ΤΝ δημιουργεί στην προσπάθειά της να αναπτύξει αυτή τη συνείδηση, τότε ίσως καταλάβουμε ότι όχι μόνο δεν πάμε «μπροστά» ηθικά, αλλά ίσως να οδεύουμε και προς τα «πίσω».
Φτάνει όμως με τα πολύ θεωρητικά. Ας δείξω τον προβληματισμό με επιστρέφοντας στο πρόβλημα του τρόλεϊ:
Ας πούμε ότι έχει φτιαχτεί ένα λογισμικό που επικοινωνεί με χιλιάδες αισθητήρες και αναλύει την εκάστοτε συνθήκη μπροστά από το τρόλεϊ (σε μία ακτίνα, ας πούμε 200 μέτρων), δημιουργεί ζωντανή εικόνα ανά δευτερόλεπτο για το ποιοι άνθρωποι είναι, που είναι, αν διασχίζουν τις ράγες, αν κρατάνε κινητό στο χέρι και δεν παρατηρούν τη σηματοδότηση και άλλα πολλά. Αν εστιάσουμε στο περιστατικό που αναλύουμε, δηλαδή το τρόλεϊ και το δυνητικό ατύχημα, τότε ναι μπορούμε με ευκολία να πούμε ότι αυτό το τεχνούργημα που φέρει λογισμικό ΤΝ είναι ηθικό· αυτή η ΤΝ είναι ηθική. Αν κάνουμε zoom-out ωστόσο, στο γεγονός ότι τα δεδομένα που συσσωρεύουν οι χιλιάδες αισθητήρες αποστέλλονται στην εταιρία που έχει αναπτύξει το λογισμικό και από εκεί μεταπωλούνται σε διαφημιστικές, κατηγοριοποιούν την εκάστοτε περιοχή ως crowded ή non-crowded (πόσο συνωστισμός υπάρχει, ποιες ώρες κ.α.) τι κάνουν οι άνθρωποι που περνούν από εκεί· αν ψωνίζουν· αν συζητούν· αν αγοράζουν καφέ κ.α. και γενικά όσα περιγράφει η Zuboff στο βιβλίο της, αναπαράγοντας, με αυτόν τον τρόπο, πόσες και πόσες ανήθικες ανισότητες που προκύπτουν από τη χρήση τέτοιων τεχνολογιών (και που έχουν σκοπίμως ενσωματωθεί σε αυτές από τις εταιρίες προκριμένου αυτές να αποκομίσουν ολοένα και περισσότερα κέρδη) τότε, κατ’ εμέ, αυτό το τρόλεϊ είναι ανήθικο.
Προτού δημιουργηθούν παρεξηγήσεις, η παραπάνω αξιολόγησή μου σχετικά με το συγκεκριμένο τρόλεϊ δεν σημαίνει ότι προτείνω να «επιστρέψουμε σε σπηλιές» ή να μην ενσωματώνουμε αισθητήρες στα μέσα μεταφοράς μας ή να σταματήσω να χρησιμοποιώ το laptop στο οποίο γράφω αυτή τη στιγμή. Όμως το σύστημα που στηρίζει τις τεχνολογίες που χρησιμοποιούμε είναι ανήθικο αναπαράγοντας ανισότητες, εξαθλιώνοντας ανθρώπους και ομάδες ανθρώπους και αποκρύπτοντας όλα όσα κάνει σε χώρες είτε του τρίτου κόσμου είτε που θεωρούνται υποδεέστερες. Οι τεχνολογίες που χρησιμοποιούμε μπορούν και πρέπει να αποδεσμευτούν από τέτοια συστήματα, αντικαθιστώντας την αξία του κέρδους που τόσο πολύ ενσωματώνουν, αναπαράγουν και διαιωνίζουν. Το να αλλάξει η αξία του κέρδους δεν σημαίνει να επιστρέψουμε σε εποχές που αντί για υπερσύγχρονα μετρό μετακινούμασταν με άμαξες, αλλά για παράδειγμα, τα δεδομένα που περισυλλέγει το τρόλεϊ προκείμενου να μην πατήσει ανθρώπους να μην αποθηκεύονται στα κέντρα δεδομένων εταιριών μεγαθηρίων αλλά σε άλλες δομές που να μην πλουτίζουν από αυτά. Πολλές τέτοιου είδους λύσεις μπορούν να βρεθούν προκείμενου να περιοριστούν διάφορες ανήθικες ανισότητες που παράγει το σημερινό σύστημα. Αυτή είναι η πολιτική και οικονομική κριτική που ασκώ στην ηθική εκ σχεδιασμού: ναι, να στρέψουμε το βλέμμα μας στον σχεδιασμό της ΤΝ και στο τι αξίες φέρει. Όμως: να εξετάσουμε ποιων ομάδων τις αξίες ενσωματώνουμε στα νέα συστήματα ΤΝ και να ελέγξουμε το κατά πόσο τα συστήματά μας αυτά θα αναπαράγουν κοινωνικές ανισότητες που υπάρχουν ήδη αλλά κρύβονται.
Για να κλείσω το κείμενο: σε μερικές παραγράφους του επιστημονικού κειμένου δίνω κάτι σαν «πρόταση» για το πώς σκέφτομαι ότι μπορούν να αρθούν όλα αυτά τα ηθικά ζητήματα. Η απάντησή μου πατά και σε πολιτική θεωρία, και σε οικονομία και σε φιλοσοφία, όπως ακριβώς και η κριτική μου. Χωρίς να ξέρω το πώς μπορεί να επιτευχθεί (ακόμα –ελπίζω) η άποψή μου είναι ότι μία ανοιχτή διαδικασία σχεδιασμού ΤΝ, στα πρότυπα των αποκεντρωμένων και πολιτικά εκδημοκρατισμένων makerspace των ψηφιακών κοινών θα μπορούσε να αποτελέσει μία λύση τουλάχιστον μερικών εκ των προβληματισμών που θέτω στο κείμενο. Και πάλι υπογραμμίζω, δεν είμαι σίγουρος κατά πόσο μπορεί να επιτευχθεί αυτό. Χρήζει περισσότερης έρευνας. Εντούτοις, η αβεβαιότητα ως προς την επιτυχία του μοντέλου των ψηφιακών κοινών για την ΤΝ δεν σημαίνει την επιτυχία του ισχύοντος σήμερα συστήματος. Είμαι σίγουρος ότι μπορούμε να έχουμε ΤΝ με πολύ θετικά αποτελέσματα σε τομείς όπως ιατρική, αρχιτεκτονική, οικονομία, εκπαίδευση και αλλού, χωρίς να έχουμε το σύστημα που τώρα παρουσιάζεται ως αναγκαίο και αμετάκλητο. Απλώς δεν γνωρίζουμε ακόμη τον ακριβή τρόπο μετάβασης από το ένα στο άλλο. Άλλωστε το κείμενό μου δεν υπόσχεται κάποια λύση, αλλά εντοπίζοντας κάποια σημερινά εμπόδια επιχειρεί να υπογραμμίσει ότι υπάρχουν στοιχεία που πρέπει να ληφθούν υπόψη σε μία τέτοια, σημαντική, θεωρία.
Η ΤΝ καθεαυτήν (όπως και κάθε τεχνολογία) ενσωματώνει αξίες που την καθιστούν «καλή» ή «κακή». Από μόνη της μία τεχνολογία δεν καταστρέφει, κατακτά ή υποδουλώνει. Αντί να φοβόμαστε μήπως η ΤΝ μάς κατακτήσει (βλέπω τέτοιου είδους «σοβαρά» κείμενα και αναρτήσεις σε social media και απορώ..) ας στρέψουμε το βλέμμα μας στο ποια συμφέροντα την δημιουργούν, σε τι αποβλέπουν και στο κατά πόσο και με ποιόν τρόπο μπορούμε εμείς (ό,τι κι αν σημαίνει αυτό το «εμείς») να επηρεάσουμε την κατασκευή της ώστε να καταστεί πιο ηθική, λιγότερο επιζήμια για το περιβάλλον ή για την εκπαίδευση και για οτιδήποτε άλλο. Αν θεωρούμε ότι δεν μπορούμε να επηρεάσουμε την τεχνολογία που καθορίζει πλέον τη ζωή μας σε τόσο μεγάλο βαθμό και ότι μονάχα οι εταιρίες που την κατασκευάζουν έχουν τον πρώτο και τον τελευταίο λόγο, τότε, ίσως, έχουμε χάσει το παιχνίδι.
[1] Καθώς το κείμενο δεν δημοσιεύθηκε σε καθεστώς ανοιχτής πρόσβασης δεν έχω τη δυνατότητα να παραθέσω κάποιο Link που να εμπεριέχει ολόκληρο το κείμενο. Στο link αυτό μπορεί να βρεθεί ένα, μονάχα, μικρό μέρος του κειμένου.
[2] Βλέπε τα κείμενα μου Το Παρίσι και η κριτική θεωρία της τεχνολογίας &
Η «εμπειρία» μετρά! Οι 2 όψεις της καθημερινής εμπειρίας για τη σημερινή (και κάθε αυριανή) τεχνολογία
