Το έγκλημα της σκέψης (AI)

 

H σχέση του εμβληματικού

μυθιστορήματος «1984» του Τζορτζ

Όργουελ 

με τη σημερινή τεχνητή νοημοσύνη είναι προφητική και εξαιρετικά στενή, καθώς το βιβλίο περιγράφει μηχανισμούς ελέγχου, λογοκρισίας και παρακολούθησης που σήμερα υλοποιούνται μέσω της AI.

Οι κυριότεροι άξονες σύνδεσης του «1984» με την τεχνητή νοημοσύνη εντοπίζονται στα εξής σημεία:

1. Καθολική Παρακολούθηση (Οι «Τηλεοθόνες»)

Στο βιβλίο: Οι τηλεοθόνες (telescreens) βρίσκονται παντού, μεταδίδουν συνεχώς προπαγάνδα και ταυτόχρονα παρακολουθούν και ακούν τους πολίτες για να εντοπίσουν δείγματα ανυπακοής ή ασυνήθιστης συμπεριφοράς.
Στην εποχή της AI: Η σύγχρονη τεχνητή νοημοσύνη τροφοδοτεί συστήματα μαζικής επιτήρησης. Μέσα από κάμερες με αναγνώριση προσώπου (facial recognition), ανάλυση συναισθημάτων και αλγορίθμους που επεξεργάζονται τεράστιους όγκους δεδομένων (big data), οι κυβερνήσεις και οι εταιρείες μπορούν να παρακολουθούν τη δραστηριότητα των πολιτών σε πραγματικό χρόνο, θυμίζοντας τον «Μεγάλο Αδελφό».

2. Παραποίηση της Αλήθειας και «Deepfakes» (Το Υπουργείο Αλήθειας)

Στο βιβλίο Ο κεντρικός ήρωας, Ουίνστον Σμιθ, εργάζεται στο «Υπουργείο Αλήθειας», όπου παραποιεί ιστορικά αρχεία, εφημερίδες και φωτογραφίες, ώστε το παρελθόν να συμφωνεί πάντα με το παρόν αφήγημα του Κόμματος.
Στην εποχή της AI: Η generative AI (παραγωγική τεχνητή νοημοσύνη) έχει τη δυνατότητα να δημιουργεί εξαιρετικά ρεαλιστικές ψεύτικες ειδήσεις, εικόνες, βίντεο (deepfakes) και φωνές. Αυτή η ικανότητα εύκολης και μαζικής κατασκευής μιας εναλλακτικής πραγματικότητας αποτελεί την ψηφιακή εξέλιξη του έργου του Υπουργείου Αλήθειας, κλονίζοντας την εμπιστοσύνη των ανθρώπων στο τι είναι πραγματικό.

3. Η Νέα Γλώσσα και ο Έλεγχος της Σκέψης (Newspeak)

Στο βιβλίο: Το Κόμμα εισάγει τη «Νέα Γλώσσα» (Newspeak), μια τροποποιημένη εκδοχή της αγγλικής γλώσσας με περιορισμένο λεξιλόγιο. Στόχος είναι να μειωθούν οι λέξεις, ώστε να γίνει αδύνατο για τους πολίτες να σκεφτούν ή να εκφράσουν ανατρεπτικές ιδέες («έγκλημα σκέψης»).
Στην εποχή της AI Τα μεγάλα γλωσσικά μοντέλα (LLMs) διαμορφώνουν τον τρόπο με τον οποίο γράφουμε, επικοινωνούμε και αναζητούμε πληροφορίες. Αν οι αλγόριθμοι αυτοί προγραμματιστούν με συγκεκριμένες προκαταλήψεις (biases) ή αν επιβάλλουν αυστηρά φίλτρα «πολιτικής ορθότητας» και λογοκρισίας, μπορούν να περιορίσουν το εύρος του δημόσιου διαλόγου και να κατευθύνουν την ανθρώπινη σκέψη, λειτουργώντας παρόμοια με τη Νέα Γλώσσα.

4. Προγνωστική Αστυνόμευση και «Έγκλημα Σκέψης»

Στο βιβλίο Η «Αστυνομία Σκέψης» (Thinkpol) συλλαμβάνει πολίτες πριν καν προχωρήσουν σε μια παράνομη πράξη, απλώς και μόνο επειδή η συμπεριφορά ή οι γκριμάτσες τους πρόδωσαν ότι έκαναν «επικίνδυνες» σκέψεις.
Στην εποχή της AI: Σήμερα χρησιμοποιούνται αλγόριθμοι προγνωστικής αστυνόμευσης (predictive policing), οι οποίοι αναλύουν ιστορικά δεδομένα για να προβλέψουν πού και από ποιους είναι πιθανό να διαπραχθούν εγκλήματα. Παράλληλα, συστήματα AI που αναλύουν αναρτήσεις στα social media μπορούν να εντοπίσουν «ύποπτες» τάσεις πριν αυτές εκδηλωθούν στον πραγματικό κόσμο.

5. Αυτοματοποιημένη Παραγωγή «Τέχνης» (Το Versificator)

Στο βιβλίο ο Όργουελ περιγράφει μια μηχανή που ονομάζεται Versificator, 
Στην εποχή της AI: Πρόκειται ίσως για την πιο ακριβή πρόβλεψη του βιβλίου. Τα σύγχρονα εργαλεία AI μπορούν πλέον να γράψουν ποίηση, σενάρια, άρθρα και να συνθέσουν μουσική μέσα σε δευτερόλεπτα, εγείροντας ερωτήματα για την αυτοματοποίηση της κουλτούρας και την υποτίμηση της ανθρώπινης τέχνης.

 Ο τελευταίος κινηματογραφικός ρόλος του Ρίτσαρντ Μπάρτον ήταν αυτός του αξιωματικού των μυστικών υπηρεσιών και μέλους της Αστυνομίας της Σκέψης, Ο' Μπράιεν, στην κινηματογραφική μεταφορά του μυθιστορήματος του Τζορτζ Όργουελ *1984* (πρωτότυπος τίτλος: *Nineteen Eighty-Four*).