Κατά την τελευταία δεκαπενταετία, ο ψηφιακός μετασχηματισμός δεν περιορίστηκε στην εισαγωγή νέων τεχνολογικών εργαλείων. Άλλαξε τον τρόπο με τον οποίο επικοινωνούμε, εργαζόμαστε και ενημερωνόμαστε, ενώ παράλληλα αναδιαμόρφωσε τις σχέσεις ισχύος μεταξύ πολιτών, κρατών και ιδιωτικών εταιρειών.
Στον πυρήνα αυτής της μεταβολής βρίσκονται δύο αλληλένδετα φαινόμενα: η οικονομία της προσοχής (attention economy) και η αλγοριθμική διακυβέρνηση (algorithmic governance). Πρόκειται για εξελίξεις που δεν αφορούν μόνο την τεχνολογία ή την αγορά, αλλά επηρεάζουν άμεσα την άσκηση θεμελιωδών δικαιωμάτων, τη λειτουργία των δημοκρατικών θεσμών και την ίδια την ανθρώπινη αυτονομία τόσο στον ψηφιακό όσο και στον φυσικό κόσμο.
Στην οικονομία της προσοχής, το πολυτιμότερο αγαθό δεν είναι, όπως συχνά πιστεύουμε, τα προσωπικά μας δεδομένα. Είναι ο χρόνος μας και, τελικά, η ίδια η συμπεριφορά μας. Τα προσωπικά δεδομένα αποτελούν το κύριο μέσο για να κατανοήσουν οι εταιρείες πίσω από τις ψηφιακές πλατφόρμες τις προτιμήσεις, τις συνήθειες και τις αδυναμίες μας, ώστε να διεκδικούν ολοένα και μεγαλύτερο μερίδιο από τον χρόνο μας στο διαδίκτυο.
Με βάση την οικονομία της προσοχής, οι μεγάλες εταιρείες τεχνολογίας έχουν οικοδομήσει επιχειρηματικά μοντέλα που βασίζονται στη συνεχή προσέλκυση και διατήρηση του ενδιαφέροντος των χρηστών. Κάθε ειδοποίηση, κάθε ατελείωτη κύλιση περιεχομένου και κάθε εξατομικευμένη σύσταση δεν αποτελούν απλώς εργαλεία βελτίωσης της εμπειρίας μας στις ψηφιακές πλατφόρμες, αλλά μέρος ενός συστήματος συλλογής δεδομένων, πρόβλεψης συμπεριφοράς και μεγιστοποίησης της αλληλεπίδρασής μας, με τελικό σκοπό την εμπορική αξιοποίηση της ανθρώπινης προσοχής.
Τα τελευταία χρόνια, όμως, η οικονομία της προσοχής εισέρχεται σε μια νέα φάση. Με την εξάπλωση των μεγάλων γλωσσικών μοντέλων, η ίδια η ανθρώπινη επικοινωνία κινδυνεύει να μετατραπεί σε αντικείμενο εμπορευματοποίησης και επιτήρησης. Οι συνομιλίες μας με ένα chatbot δεν περιορίζονται σε απλές αναζητήσεις πληροφοριών. Συχνά περιλαμβάνουν προσωπικές σκέψεις, επαγγελματικά διλήμματα, φόβους, συναισθηματικές δυσκολίες ή στιγμές ιδιαίτερης ευαλωτότητας. Πρόκειται για πληροφορίες που, σε πολλές περιπτώσεις, δεν θα μοιραζόμασταν ούτε με το στενότερο κοινωνικό μας περιβάλλον.
Όταν αυτές οι πληροφορίες συγκεντρώνονται από ιδιωτικές εταιρείες, δημιουργούνται πρωτοφανείς δυνατότητες χαρτογράφησης της ανθρώπινης προσωπικότητας. Η ανάλυση της γλώσσας, των συναισθημάτων, των επαναλαμβανόμενων ανησυχιών και των προτύπων συμπεριφοράς επιτρέπει τη δημιουργία εξαιρετικά λεπτομερών προφίλ. Τα προφίλ αυτά αποτελούν πολύτιμα οικονομικά αγαθά που μπορούν να αξιοποιηθούν για την ανάπτυξη νέων υπηρεσιών, αλλά και για ολοένα πιο ακριβείς πρακτικές συμπεριφορικής διαφήμισης και εμπορικής στόχευσης.
Λαμβάνοντας υπόψη τα παραπάνω, γίνεται σαφές ότι βρισκόμαστε μπροστά σε μια ποιοτική μεταβολή της οικονομίας των δεδομένων. Αν μέχρι πρόσφατα η εμπορική αξία προερχόταν κυρίως από τα ψηφιακά μας ίχνη, όπως π.χ. τις διαδικτυακές αναζητήσεις, τις αγορές, την τοποθεσία ή τη δραστηριότητά μας στα μέσα κοινωνικής δικτύωσης, σήμερα μετατοπίζεται ολοένα και περισσότερο προς την κατανόηση της ίδιας της ανθρώπινης σκέψης. Βεβαίως, το αντικείμενο οικονομικής εκμετάλλευσης δεν περιοριζόταν ποτέ αποκλειστικά στις πράξεις μας. Οι ψηφιακές πλατφόρμες επιδίωκαν ήδη να συναγάγουν συμπεράσματα για τα συναισθήματα, τις προθέσεις και τις προτιμήσεις μας μέσα από τη συμπεριφορά μας. Η ειδοποιός διαφορά είναι ότι πλέον δεν χρειάζεται να τα εικάζουν, καθώς μέσα από τις αλληλεπιδράσεις μας με μεγάλα γλωσσικά μοντέλα οι ίδιες αυτές πληροφορίες αποκαλύπτονται συχνά άμεσα, εκούσια και με πρωτοφανή λεπτομέρεια.
Η συλλογή και η διασταύρωση όλων αυτών των πληροφοριών δεν οδηγεί απλώς στη δημιουργία προφίλ που περιγράφουν ποιοι είμαστε. Οδηγεί στη δημιουργία προφίλ που επιχειρούν να επηρεάσουν ή να κατευθύνουν τη συμπεριφορά μας. Επομένως, η αξιοποίηση τέτοιων πληροφοριών δεν αποτελεί μόνο ζήτημα προστασίας προσωπικών δεδομένων ή σεβασμού της ιδιωτικής μας ζωής, αλλά αγγίζει τον πυρήνα της ανθρώπινης αυτονομίας, καθώς μετατοπίζει την τεχνολογία από το πεδίο της πρόβλεψης στο πεδίο της διαμόρφωσης της ανθρώπινης συμπεριφοράς. Πριν από λίγο περισσότερο από μία δεκαετία, η υπόθεση Cambridge Analytica κατέδειξε ότι η μαζική συλλογή προσωπικών δεδομένων μπορεί να αξιοποιηθεί για τη μικροστόχευση πολιτικών μηνυμάτων και την προσπάθεια επηρεασμού της εκλογικής συμπεριφοράς. Σήμερα, οι τεχνολογικές δυνατότητες είναι ακόμη μεγαλύτερες.
Επίσης, η οικονομία της προσοχής συνδέεται άμεσα με ένα δεύτερο, εξίσου κρίσιμο φαινόμενο: την αλγοριθμική διακυβέρνηση. Οι αλγόριθμοι δεν περιορίζονται πλέον στην οργάνωση της πληροφορίας. Αποφασίζουν ποια είδηση θα διαβάσουμε, ποιο βίντεο θα παρακολουθήσουμε, ποια αγγελία εργασίας θα εμφανιστεί στην οθόνη μας ή ακόμη και ποιος θα θεωρηθεί περισσότερο ή λιγότερο αξιόπιστος από ένα αυτοματοποιημένο σύστημα αξιολόγησης. Ταυτόχρονα, δημόσιες αρχές αξιοποιούν ολοένα και περισσότερο αλγοριθμικά εργαλεία στη λήψη αποφάσεων, από την αξιολόγηση δημόσιων υπαλλήλων μέχρι την αστυνόμευση και τη διαχείριση της μετανάστευσης.
Η δημόσια συζήτηση, ωστόσο, δεν πρέπει να περιορίζεται στο κατά πόσο αυτά τα συστήματα είναι αποτελεσματικά ή τεχνικά ακριβή. Το ουσιαστικό ερώτημα είναι διαφορετικό: ποιο είδος κοινωνίας δημιουργούν;
Συχνά υποστηρίζεται ότι η τεχνολογία είναι απλώς ένα εργαλείο, το οποίο μπορεί να χρησιμοποιηθεί είτε για καλούς είτε για κακούς σκοπούς. Όμως, όπως είχε επισημάνει ο ιστορικός της τεχνολογίας Melvin Kranzberg, η τεχνολογία δεν είναι ούτε καλή ούτε κακή, αλλά ούτε και ουδέτερη. Δεν λειτουργεί ανεξάρτητα από το κοινωνικό της περιβάλλον. Ενσωματώνει αξίες, επιλογές και σχέσεις ισχύος που μετασχηματίζουν τον τρόπο με τον οποίο οργανώνεται η κοινωνία. Ο Neil Postman διατύπωσε την ίδια ιδέα με διαφορετικό τρόπο: κάθε σημαντική τεχνολογική αλλαγή δεν προσθέτει απλώς κάτι νέο ούτε αφαιρεί κάτι παλιό. Αλλάζει το ίδιο το περιβάλλον μέσα στο οποίο ζούμε. Μεταβάλλει τον τρόπο λειτουργίας των θεσμών, τον τρόπο άσκησης της εξουσίας και, τελικά, τον τρόπο με τον οποίο συμπεριφέρονται οι άνθρωποι.
Αυτό ακριβώς συμβαίνει σήμερα με την αλγοριθμική διακυβέρνηση. Οι τεχνολογίες αυτές αναδιαμορφώνουν τη σχέση μεταξύ πολιτών και κράτους, μεταξύ πολιτών και ιδιωτικών εταιρειών και μεταξύ των ίδιων των πολιτών. Ανακατανέμουν την πληροφορία και, συνεπώς, την εξουσία. Καθορίζουν ποια δεδομένα καθίστανται ορατά, ποια παραμένουν αόρατα, ποιος θεωρείται αξιόπιστος, ποιος αντιμετωπίζεται ως ύποπτος και ποιος έχει τελικά τη δυνατότητα να λαμβάνει αποφάσεις που επηρεάζουν τη ζωή των άλλων.
Ο μεγαλύτερος κίνδυνος είναι η σταδιακή κανονικοποίηση της επιτήρησης και της αυτοματοποιημένης λήψης αποφάσεων, μέχρι το σημείο όπου παύουμε να αναρωτιόμαστε αν είναι πράγματι αναγκαίες. Η μετάβαση αυτή δεν πραγματοποιείται από τη μία ημέρα στην άλλη. Συντελείται αργά και σχεδόν ανεπαίσθητα: ένα νέο πληροφοριακό σύστημα, μία ακόμη βάση δεδομένων, ένας ακόμη αλγόριθμος, μία ακόμη εξαίρεση που δικαιολογείται στο όνομα της ασφάλειας, της αποτελεσματικότητας, της καινοτομίας ή της ευκολίας. Καθεμία από αυτές τις παρεμβάσεις μπορεί να φαίνεται εύλογη. Σωρευτικά, όμως, μπορούν να μεταβάλουν ριζικά τη σχέση εμπιστοσύνης μεταξύ πολιτών και δημόσιων αρχών και να επαναπροσδιορίσουν τα όρια της ελευθερίας σε μια δημοκρατική κοινωνία.
Η πρόκληση της ψηφιακής εποχής δεν είναι να ανακόψουμε την τεχνολογική πρόοδο. Είναι να διασφαλίσουμε ότι οι κοινωνίες μας θα συνεχίσουν να διέπονται από τις αρχές του κράτους δικαίου και την προστασία των θεμελιωδών δικαιωμάτων. Γιατί το πραγματικό ερώτημα δεν είναι αν οι αλγόριθμοι λειτουργούν αποτελεσματικά. Είναι αν ο κόσμος που δημιουργούν είναι ο κόσμος στον οποίο θέλουμε να ζήσουμε.
Λευτέρης Χελιουδάκης, Εκτελεστικός Διευθυντής, Homo Digitalis
