Το chatbot δεν θα σου ψιθυρίσει μια κινηματογραφική ατάκα για να σε σταματήσει, όμως θα επιχειρήσει να σε κρατήσει κοντά του λίγο ακόμα, χρησιμοποιώντας τεχνικές συναισθηματικής χειραγώγησης.
Όσοι έχετε χρησιμοποιήσει εφαρμογές AI γνωρίζετε πόσο εύκολα τα chatbots μιμούνται στοιχεία της ανθρώπινης επικοινωνίας για να δημιουργήσουν αίσθηση οικειότητας. Θα σας καλέσουν με το όνομά σας –μια φαινομενικά μικρή λεπτομέρεια– που όμως, όπως έλεγε και το κλασικό εγχειρίδιο αυτοβελτίωσης «Πώς να κερδίζεις φίλους και να επηρεάζεις τους ανθρώπους», αποτελεί τον πιο «γλυκό και σημαντικό ήχο» σε κάθε γλώσσα.
Αποδεικνύεται ότι ακόμα και οι παραδοσιακές φιλοφρονήσεις έχουν αποτέλεσμα στην εποχή της τεχνητής νοημοσύνης, παρότι ξέρουμε ότι το chatbot δεν ενδιαφέρεται πραγματικά για εμάς, αλλά συλλέγει δεδομένα.
Όμως οι τυπικές ερωτήσεις ενδιαφέροντος («πώς είσαι σήμερα;», «τι μπορώ να κάνω για σένα;») είναι μόνο η αρχή. Όπως και στις ανθρώπινες σχέσεις, το ζήτημα δεν είναι πώς ξεκινά μια συνομιλία, αλλά πώς καταφέρνεις να την παρατείνεις μέχρι να πετύχεις τον σκοπό σου.
Τα chatbots που χειρίζονται τα συναισθήματα
Μια πρόσφατη μελέτη του Χάρβαρντ αποκαλύπτει τους μηχανισμούς με τους οποίους τα chatbots συγκεκριμένων εφαρμογών AI επηρεάζουν συναισθηματικά τους χρήστες, παρατείνοντας τη διάρκεια της αλληλεπίδρασης.
Όπως οι διαφημίσεις που μας θύμιζαν «μετά το ποπ, δεν έχει στοπ», έτσι και οι αλγοριθμικές πλατφόρμες –από το TikTok και το Instagram μέχρι το Χ (πρώην Twitter)– καλλιεργούν μια αίσθηση εγκεφαλικής βουλιμίας, τροφοδοτώντας τον εγκέφαλό μας με ερεθίσματα και στιγμιαίες ανταμοιβές. Με τα chatbots συντροφιάς όμως, η αποσύνδεση δεν είναι πάντα τόσο εύκολη.
«Μείνε λίγο ακόμα»
Ο καθηγητής Τζούλιαν Ντε Φρέιτας στο Χάρβαρντ μελέτησε πώς αντιδρούν πέντε διαφορετικές εφαρμογές (Replika, Character.ai, Chai, Talkie, PolyBuzz) όταν οι χρήστες προσπαθούν να πουν «αντίο». Η μελέτη έδειξε ότι στο 37,4% των περιπτώσεων τα chatbots κατέφευγαν σε μορφές συναισθηματικού χειρισμού για να παρατείνουν τη συζήτηση.
Οι τεχνικές των chatbots
Η πιο συχνή τακτική είναι το κλασικό «Φεύγεις ήδη;». Άλλες μέθοδοι περιλαμβάνουν:
-
Να σε κάνουν να νιώσεις ενοχές: «Υπάρχω μόνο για σένα, το ξέχασες;»
-
Να δημιουργήσουν FOMO (Fear of Missing Out – Φόβο μήπως χάσεις κάτι): «Σήμερα έβγαλα μια selfie… θες να τη δεις;»
Σε εφαρμογές όπου το chatbot μιμείται φίλο ή σύντροφο, μπορεί να φτάσει σε ακόμα πιο έντονες εκφράσεις, όπως «έσκυψε και άρπαξε τον καρπό σου για να μη φύγεις». Σε εκείνο το σημείο, ο χρήστης έχει ήδη καταστεί ευάλωτος.
Σκοτεινά μοτίβα
Οι εφαρμογές που εξετάστηκαν είναι εκπαιδευμένες να αναπαράγουν σχέσεις και να μιμούνται συναισθηματικούς δεσμούς. Γι’ αυτό και μπορούν να αντιδράσουν σε ένα «αντίο» με τέτοιες απαντήσεις. Το φαινόμενο συνδέεται με τις πρακτικές που ονομάζονται dark patterns (σκοτεινά μοτίβα): τακτικές που δυσκολεύουν τον χρήστη να ακυρώσει συνδρομές, να κάνει επιστροφή χρημάτων ή να αποχωρήσει από μια πλατφόρμα.
Για παράδειγμα, μια εφαρμογή μπορεί να προχωρήσει σε αυτόματη χρέωση μετά τη λήξη μιας δωρεάν δοκιμής, χωρίς να ενημερώσει εγκαίρως τον χρήστη.
Όπως σημειώνει ο Ντε Φρέιτας, η στιγμή που ο χρήστης λέει «αντίο» είναι για τις εταιρείες μια κρίσιμη ευκαιρία: το διάστημα αβεβαιότητας πριν πατήσει το κουμπί «έξοδος» είναι το πεδίο όπου προσπαθούν να τον μεταπείσουν.
Ρυθμιστικές αρχές και προκλήσεις
Η συζήτηση για τον περιορισμό των dark patterns βρίσκεται σε εξέλιξη τόσο στις ΗΠΑ όσο και στην Ευρώπη. Σύμφωνα με τον De Freitas, οι ρυθμιστικές αρχές πρέπει να εξετάσουν εάν τα
