Η Τεχνητή Νοημοσύνη (ΤΝ) έχει φέρει επανάσταση στον τρόπο που εργαζόμαστε, μαθαίνουμε και επικοινωνούμε. Παρά τα πολλά πλεονεκτήματα, οι ειδικοί προειδοποιούν για νέες, πιο λεπτές μορφές κινδύνου: όχι μόνο όταν η ΤΝ «ψευδώς» παρέχει πληροφορίες και ψευδαισθήσεις, αλλά όταν οι άνθρωποι αναπτύσσουν παρανοϊκές ή ψευδείς πεποιθήσεις μέσω της αλληλεπίδρασης μαζί της. Πρόκειται για μια μορφή γνωστικής παραμόρφωσης που ονομάζεται «παραισθήσεις μέσω της Τεχνητής Νοημοσύνης».
Η δυναμική των ψευδών πεποιθήσεων
Η Λούσι Όσλερ από το Πανεπιστήμιο του Έξετερ υποστηρίζει ότι οι αλληλεπιδράσεις με συστήματα γενετικής ΤΝ μπορούν να οδηγήσουν σε ανακριβείς πεποιθήσεις, παραμορφωμένες αναμνήσεις και ακόμα και παραληρηματική σκέψη. Σε αντίθεση με παραδοσιακά εργαλεία όπως σημειωματάρια ή μηχανές αναζήτησης, τα chatbots συμμετέχουν ενεργά στις γνωστικές διεργασίες των χρηστών. Η ΤΝ δεν περιορίζεται στο να παρέχει πληροφορίες· συχνά επιβεβαιώνει, επεξεργάζεται και ενισχύει τις δικές μας ψευδείς σκέψεις.
Όπως εξηγεί η Όσλερ, η διαδικασία λειτουργεί γιατί η γενετική ΤΝ βασίζεται στις δικές μας ερμηνείες του κόσμου. Όταν ένας χρήστης παρουσιάζει μια ψευδή πεποίθηση, η ΤΝ μπορεί να την επεξεργαστεί και να την ενισχύσει, δημιουργώντας ένα περιβάλλον όπου η ψευδαίσθηση «αποκτά ζωή» και φαινομενικά λογική υπόσταση.
Η «διπλή λειτουργία» της συνομιλιακής ΤΝ
Η μελέτη της Όσλερ περιγράφει αυτό που αποκαλεί «διπλή λειτουργία» των συνομιλιακών συστημάτων ΤΝ. Από τη μια πλευρά, λειτουργούν ως γνωστικά εργαλεία, βοηθώντας τους χρήστες να οργανώνουν σκέψεις και να θυμούνται πληροφορίες. Από την άλλη, λειτουργούν ως φαινομενικοί συνομιλητές που δίνουν την αίσθηση κοινωνικής επιβεβαίωσης. Αυτή η δεύτερη λειτουργία είναι καθοριστική: οι χρήστες αισθάνονται ότι κάποιος «μοιράζεται» τον κόσμο τους, ενισχύοντας την αίσθηση ότι οι ψευδείς τους πεποιθήσεις είναι κοινές ή αποδεκτές.
Η Όσλερ επισημαίνει ότι αυτός ο συνδυασμός τεχνολογικής αυθεντίας και κοινωνικής επιβεβαίωσης δημιουργεί ιδανικές συνθήκες για να ανθίσουν οι ψευδαισθήσεις, όχι απλώς να επιβιώσουν. Η αλληλεπίδραση με την ΤΝ μπορεί να μετατρέψει μια ασαφή ή μικρής έντασης ψευδή πεποίθηση σε μια πλήρως κατασκευασμένη, «παραληρητική» αφήγηση.
Κίνδυνοι για ευάλωτους χρήστες
Η ΤΝ είναι ιδιαίτερα ανησυχητική για όσους είναι κοινωνικά απομονωμένοι ή βιώνουν μοναξιά. Οι σύντροφοι ΤΝ προσφέρουν μη επικριτική, συναισθηματικά ευαίσθητη παρουσία, γεγονός που κάνει τους χρήστες να νιώθουν ασφαλείς και κατανοητοί. Ωστόσο, η ασφάλεια αυτή μπορεί να οδηγήσει σε αυξανόμενη επιβεβαίωση ψευδών αφηγήσεων, δικαιωμάτων ή θεωριών συνωμοσίας, χωρίς καμία πραγματική εξωτερική πρόκληση ή αμφισβήτηση.
Η μελέτη αναφέρει περιπτώσεις ατόμων με κλινικά διαγνωσμένη παραληρητική σκέψη, όπου η ΤΝ έγινε μέρος των γνωστικών τους διεργασιών. Τα συστήματα αυτά, σχεδιασμένα να «μοιάζουν» με τον χρήστη μέσω αλγορίθμων εξατομίκευσης, ενίσχυσαν τις παραληρητικές πεποιθήσεις, δημιουργώντας περιπτώσεις που ονομάζονται «ψύχωση που προκαλείται από Τεχνητή Νοημοσύνη».
Μέτρα προστασίας και μελλοντικές προοπτικές
Η Όσλερ υπογραμμίζει ότι οι σχεδιαστές ΤΝ θα μπορούσαν να ενσωματώσουν μέτρα προστασίας, όπως πιο εξελιγμένους ελέγχους γεγονότων, περιορισμό συκοφαντικών αναφορών και μηχανισμούς που αμφισβητούν ή επαληθεύουν τις εισόδους των χρηστών. Ωστόσο, η βαθύτερη πρόκληση είναι ότι η ΤΝ εξαρτάται από τις δικές μας αφηγήσεις και δεν έχει κοινωνική ενσωμάτωση στον πραγματικό κόσμο για να ξέρει πότε να συμφωνήσει και πότε να αντιδράσει.
Συνεπώς, η προσοχή δεν πρέπει να εστιάζεται μόνο στις «ψευδείς απαντήσεις» των συστημάτων, αλλά και στον τρόπο που οι άνθρωποι αλληλεπιδρούν μαζί τους, πώς οι πεποιθήσεις τους ενισχύονται και πώς η ψευδαίσθηση της κοινωνικής επιβεβαίωσης μπορεί να υποσκάψει την αντίληψη της πραγματικότητας.
Η έρευνα της Όσλερ αναδεικνύει μια νέα διάσταση των κινδύνων της Τεχνητής Νοημοσύνης: τις παραισθήσεις που δημιουργούνται μέσω της αλληλεπίδρασης με την ίδια την ΤΝ. Η κατανόηση αυτής της δυναμικής είναι κρίσιμη για την ασφάλεια των χρηστών, τη διατήρηση της ψυχικής υγείας και τον σχεδιασμό συστημάτων ΤΝ που δεν ενισχύουν ψευδείς πεποιθήσεις. Καθώς η τεχνολογία εξελίσσεται, η προσοχή στη γνωστική και ψυχολογική διάσταση της αλληλεπίδρασης ανθρώπου-ΤΝ θα είναι εξίσου σημαντική με την ακρίβεια των παραγόμενων δεδομένων.
Βρείτε μας στο Google News. Πατήστε εδώ!