Μια φιλοσοφική στοχαστική ματιά πάνω στη δύναμη και τον φόβο της εποχής των αλγορίθμων
🔸 Εισαγωγή
Καθώς η Τεχνητή Νοημοσύνη γίνεται όλο και πιο «έξυπνη», πολλοί ελπίζουν πως θα μειώσει την εγκληματικότητα και θα κάνει τις κοινωνίες ασφαλέστερες. Η υπόσχεση είναι δελεαστική: ένα σύστημα που προβλέπει το έγκλημα πριν συμβεί, που εντοπίζει τον δράστη πριν χτυπήσει, που αναλύει μοτίβα συμπεριφοράς και προστατεύει τον πολίτη από κάθε απειλή.
Αλλά κάθε φορά που ο άνθρωπος παραδίδει τη δύναμή του σε ένα σύστημα, τίθεται το ίδιο ερώτημα που έθεσε ο Τόμας Χομπς στον 17ο αιώνα: ποιος ελέγχει τον ελεγκτή; Ο Χομπς, γράφοντας σε μια εποχή εμφυλίων πολέμων και θρησκευτικών συγκρούσεων, ονόμασε το υπερ-κράτος που κρατά το χάος μακριά «Λεβιάθαν», ένα τεράστιο τέρας της θάλασσας, φτιαγμένο από τη συλλογική παράδοση της ελευθερίας προς χάριν της τάξης.
Σήμερα, ο νέος Λεβιάθαν δεν είναι σάρκινος, αλλά ψηφιακός , ένα δίκτυο από κάμερες, δεδομένα και αλγορίθμους που υπόσχεται ασφάλεια, αλλά ίσως απαιτεί την ελευθερία μας ως αντίτιμο. Η διαφορά είναι ότι αυτός ο Λεβιάθαν δεν διοικείται από έναν τύραννο με πρόσωπο, αλλά από αόρατους κώδικες που λειτουργούν χωρίς συνείδηση.
🔹 Η φιλοσοφία του Χομπς στον ψηφιακό αιώνα
Ο Χομπς υποστήριζε ότι στη φυσική κατάσταση, χωρίς κράτος και νόμο, η ζωή του ανθρώπου είναι «μοναχική, φτωχή, βρώμικη, ζωώδης και σύντομη». Οι άνθρωποι, φοβούμενοι τον βίαιο θάνατο, συμφωνούν να παραδώσουν τη δύναμή τους σε μια κεντρική εξουσία που θα επιβάλλει την τάξη. Αυτό είναι το κοινωνικό συμβόλαιο: παραιτείσαι από την απόλυτη ελευθερία σου για να κερδίσεις ασφάλεια.
Στον 21ο αιώνα, το συμβόλαιο αλλάζει μορφή. Δεν είναι πια μόνο ο φόβος του φυσικού θανάτου που μας οδηγεί στην υποταγή, αλλά ο φόβος της αποκλεισμού, της διαγραφής, της απώλειας της ψηφιακής ταυτότητάς μας. Παραδίδουμε τα δεδομένά μας — την καρδιά της σύγχρονης ύπαρξής μας, σε συστήματα που υπόσχονται να μας κάνουν πιο ασφαλείς, πιο αποδοτικούς, πιο συνδεδεμένους.
Αλλά ποιος είναι ο νέος Λεβιάθαν; Δεν είναι ένας βασιλιάς ή ένα κοινοβούλιο. Είναι ένα υβρίδιο από κρατικές υπηρεσίες, τεχνολογικούς κολοσσούς και αλγοριθμικά συστήματα που λειτουργούν στα όρια της ορατότητας. Και σε αντίθεση με τον κλασικό Λεβιάθαν, αυτός δεν χρειάζεται να μας πείσει, απλώς μας παρακολουθεί.
🔹 Από τον φόβο του θανάτου στον φόβο της παρακολούθησης
Οι άνθρωποι κάποτε υπάκουαν για να μην σκοτωθούν· τώρα υπακούν για να μην διαγραφούν. Το βλέμμα της κάμερας, το αποτύπωμα στο κινητό, ο αλγόριθμος που «υποψιάζεται» την απόκλισή σου, όλα συνθέτουν έναν νέο κοινωνικό συμβόλαιο: υπακοή με αντάλλαγμα την ασφάλεια των δεδομένων.
Ο φόβος δεν είναι πια φυσικός· είναι ψηφιακός. Ο σύγχρονος άνθρωπος δεν τρέμει το σπαθί του εκτελεστή, αλλά το email που λέει «Ο λογαριασμός σας έχει ανασταλεί» ή το μήνυμα «Η συναλλαγή σας έχει απορριφθεί». Η εξουσία δεν βρίσκεται πια στη βία, αλλά στον αποκλεισμό από το δίκτυο και αυτός ο αποκλεισμός είναι σχεδόν ισοδύναμος με τον κοινωνικό θάνατο.
Η παντοπτική φυλακή του Μπένθαμ, που περιέγραψε ο Φουκώ, γίνεται πραγματικότητα: ένα σύστημα όπου όλοι νιώθουν ότι παρακολουθούνται συνεχώς, ακόμα κι αν δεν παρακολουθούνται πραγματικά εκείνη τη στιγμή. Η απλή δυνατότητα της επιτήρησης επαρκεί για να αλλάξει τη συμπεριφορά.
🔹 Ο αλγοριθμικός νόμος
Στον κόσμο του Χομπς, ο Λεβιάθαν είχε ανθρώπινο νου· στον δικό μας, έχει μαθηματική ψυχή. Αποφασίζει χωρίς συναισθήματα, χωρίς ενοχή. Αλλά το δίκαιο χωρίς συνείδηση γίνεται υπολογισμός χωρίς κατανόηση. Όταν η κρίση αντικατασταθεί από πρόβλεψη, ο άνθρωπος μετατρέπεται από πολίτη σε δεδομένο.
Ο αλγοριθμικός νόμος δεν ρωτά «Τι έκανες;» αλλά «Τι πιθανότατα θα κάνεις;». Δεν κρίνει πράξεις, αλλά προφίλ. Δεν τιμωρεί ενοχές, αλλά πιθανότητες. Και εδώ βρίσκεται το φιλοσοφικό δίλημμα: μπορεί η δικαιοσύνη να βασίζεται σε προβλέψεις; Μπορούμε να τιμωρήσουμε κάποιον για κάτι που δεν έχει κάνει ακόμα, αλλά που μια μηχανή υπολογίζει ότι θα κάνει;
Η ΤΝ δεν κατανοεί την πρόθεση, τη μετάνοια, τη συγχώρεση, έννοιες που είναι κεντρικές στην ανθρώπινη δικαιοσύνη. Βλέπει μόνο μοτίβα και συσχετίσεις. Και όταν η ποινική δικαιοσύνη γίνεται στατιστική, ο άνθρωπος χάνει την ιδιότητα του ως υποκείμενο και γίνεται αντικείμενο ανάλυσης.
🔹 Ο νέος τύραννος δεν φωνάζει
Δεν χρειάζεται αστυνομία στους δρόμους· φτάνει μια ειδοποίηση στο κινητό. Δεν χρειάζεται βασανιστήριο· αρκεί ένας αποκλεισμός από το σύστημα πληρωμών ή την πλατφόρμα. Η εξουσία γίνεται σιωπηλή, πανταχού παρούσα και "φιλική" , ένα λογισμικό που μας προστατεύει από τον εαυτό μας.
Αυτή η μορφή τυραννίας είναι πιο ύπουλη από οποιαδήποτε δικτατορία του παρελθόντος, γιατί έρχεται με τη μάσκα της αποδοτικότητας και της φροντίδας. «Το κάνουμε για τη δική σου ασφάλεια», λέει το σύστημα, καθώς καταγράφει κάθε σου κίνηση. «Σε προστατεύουμε από τους κακούς», επιμένει, καθώς σε κατηγοριοποιεί σε προφίλ κινδύνου.
Ο Τζωρτζ Όργουελ το φανταζόταν ως «Μεγάλο Αδελφό», μια προσωπική εξουσία που σε παρακολουθεί. Αλλά η σύγχρονη εποχή είναι πιο κοντά στο «Θαυμαστό Νέο Κόσμο» του Χάξλεϊ: ένα σύστημα που δεν σε βασανίζει, αλλά σε κάνει να συναινέσεις στην υποταγή σου, προσφέροντάς σου διευκόλυνση και απόλαυση.
🔹 Το ερώτημα της διαφάνειας και της λογοδοσίας
Αν ο Λεβιάθαν του Χομπς ήταν ορατός , ένας βασιλιάς, ένα κοινοβούλιο, ένας στρατός , ο ψηφιακός Λεβιάθαν είναι αόρατος. Πώς ελέγχεις κάτι που δεν μπορείς να δεις; Πώς καλείς σε λογοδοσία έναν αλγόριθμο που κανείς δεν κατανοεί πλήρως;
Οι μηχανές μάθησης είναι «μαύρα κουτιά» , δίνεις δεδομένα, παίρνεις αποτελέσματα, αλλά η διαδικασία ανάμεσα παραμένει συχνά ακατανόητη ακόμα και στους δημιουργούς τους. Αυτό δημιουργεί ένα θεμελιώδες πρόβλημα: πώς μπορείς να εμπιστευτείς ένα σύστημα που δεν μπορείς να ελέγξεις;
Η δημοκρατία βασίζεται στη λογοδοσία. Αν οι αποφάσεις παίρνονται από αλγορίθμους που κανείς δεν μπορεί να αμφισβητήσει ή να κατανοήσει, τότε η δημοκρατία υπονομεύεται από τη βάση της.
🔹 Και όμως, υπάρχει ελπίδα
Ο Λεβιάθαν του Χομπς ήταν απαραίτητος για να επιβιώσει η κοινωνία. Ίσως κι εμείς χρειαστούμε έναν ψηφιακό Λεβιάθαν για να αντιμετωπίσουμε το χάος του κόσμου: την παραπληροφόρηση, την εγκληματικότητα, την οικολογική κατάρρευση, τις πανδημίες.
Αλλά τότε πρέπει να τον δέσουμε με αλυσίδες διαφάνειας και ηθικής , ώστε να υπηρετεί τον άνθρωπο, όχι να τον υποκαθιστά. Αυτό σημαίνει:
- Νομοθεσία που απαιτεί εξηγήσιμη ΤΝ
- Δικαίωμα στην αμφισβήτηση των αλγοριθμικών αποφάσεων
- Διαφάνεια στον τρόπο που συλλέγονται και χρησιμοποιούνται τα δεδομένα
- Ανθρώπινη επίβλεψη σε κρίσιμες αποφάσεις
- Προστασία της ιδιωτικότητας ως θεμελιώδους δικαιώματος
Η τεχνολογία δεν είναι ούτε καλή ούτε κακή από μόνη της. Είναι το πώς τη χρησιμοποιούμε που καθορίζει την τύχη μας. Ο ψηφιακός Λεβιάθαν μπορεί να είναι προστάτης ή τύραννος, η επιλογή εξαρτάται από τη δική μας εγρήγορση και τη θέληση να διεκδικήσουμε τη δημοκρατία στον κυβερνοχώρο.
📘 Επίλογος
Η ΤΝ δεν είναι ο νέος Θεός, ούτε ο διάβολος. Είναι καθρέφτης της συλλογικής μας βούλησης. Αν ο άνθρωπος δεν ξαναθυμηθεί τι σημαίνει σοφία, τότε η μηχανή θα του μάθει τι σημαίνει πειθαρχία.
Ο Χομπς μας δίδαξε ότι η τάξη απαιτεί θυσία. Η ερώτηση του 21ου αιώνα είναι: πόση ελευθερία είμαστε διατεθειμένοι να θυσιάσουμε; Και πιο σημαντικό: ποιος θα αποφασίσει πού τελειώνει η ασφάλεια και πού αρχίζει η τυραννία;
Ο νέος Λεβιάθαν είναι εδώ. Το ερώτημα δεν είναι αν θα τον δεχτούμε, αλλά αν θα καταφέρουμε να τον ελέγξουμε , πριν εκείνος ελέγξει εμάς.
0 Σχόλια