Σε μερική απόσυρση περιλήψεων τεχνητής νοημοσύνης που αφορούν ιατρικά θέματα προχώρησε η Google, έπειτα από έρευνα που αποκάλυψε ότι ορισμένες από τις αυτόματα παραγόμενες απαντήσεις της μηχανής αναζήτησης ενδέχεται να εκθέτουν τους χρήστες σε σοβαρούς κινδύνους για την υγεία τους. Λανθασμένες AI απαντήσεις για εξετάσεις ηπατικής λειτουργίας οδήγησαν την Google σε απόσυρση περιεχομένου.
Οι λεγόμενες AI Overviews είναι περιλήψεις πληροφοριών που δημιουργούνται από γενετική τεχνητή νοημοσύνη και εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης. Στόχος τους είναι να παρέχουν γρήγορες και συνοπτικές απαντήσεις σε ερωτήματα των χρηστών, χωρίς να απαιτείται περαιτέρω αναζήτηση. Οι περιλήψεις αυτές συνθέτουν πληροφορίες από διαφορετικές πηγές, όμως σε ευαίσθητα θέματα, όπως η υγεία, συχνά δεν συνοδεύονται από το απαραίτητο ιατρικό πλαίσιο, εξαιρέσεις ή προειδοποιήσεις.
Όταν οι «φυσιολογικές τιμές» γίνονται παραπλανητικές
Ιδιαίτερη ανησυχία προκάλεσαν οι AI Overviews που σχετίζονταν με εξετάσεις ηπατικής λειτουργίας. Σε αναζητήσεις για «φυσιολογικά όρια» εξετάσεων αίματος του ήπατος, οι περιλήψεις εμφάνιζαν αριθμητικές τιμές χωρίς καμία αναφορά σε κρίσιμους παράγοντες, όπως η ηλικία, το φύλο, η εθνικότητα ή το ιατρικό ιστορικό του εξεταζόμενου.
Ειδικοί προειδοποίησαν ότι μια τέτοια παρουσίαση μπορεί να οδηγήσει ασθενείς με σοβαρή ηπατική νόσο στο να θεωρήσουν λανθασμένα ότι τα αποτελέσματά τους είναι φυσιολογικά, με αποτέλεσμα να καθυστερήσουν ή να παραλείψουν απαραίτητες ιατρικές εξετάσεις και επισκέψεις.
Μετά τη δημοσιοποίηση των ευρημάτων, η Google αφαίρεσε συγκεκριμένες AI Overviews που αφορούσαν άμεσα τις εξετάσεις ηπατικής λειτουργίας.
Οι ειδικοί προειδοποιούν: το πρόβλημα παραμένει
Η απόφαση χαιρετίστηκε από οργανισμούς ασθενών, ωστόσο συνοδεύτηκε από έντονο προβληματισμό. Εκπρόσωποι οργανώσεων υγείας υπογράμμισαν ότι η αφαίρεση μεμονωμένων απαντήσεων δεν επιλύει το ουσιαστικό ζήτημα, καθώς με διαφορετική διατύπωση της ίδιας ερώτησης οι χρήστες μπορεί να συνεχίσουν να λαμβάνουν παρόμοιες, δυνητικά παραπλανητικές πληροφορίες.
Όπως επισημαίνεται, οι εξετάσεις ηπατικής λειτουργίας είναι σύνθετες και δεν μπορούν να ερμηνευτούν με απλή σύγκριση αριθμών. Ακόμη και τιμές που εμφανίζονται ως «φυσιολογικές» μπορεί να συνυπάρχουν με σοβαρή νόσο, εάν δεν αξιολογηθούν στο σωστό κλινικό πλαίσιο.
Παραλλαγές αναζητήσεων, ίδιος κίνδυνος
Έρευνες έδειξαν ότι εναλλακτικές διατυπώσεις των ίδιων ερωτημάτων, όπως η χρήση επιστημονικών συντομογραφιών ή αγγλικών όρων, εξακολουθούν να ενεργοποιούν AI Overviews με παρόμοια προβλήματα ακρίβειας. Το γεγονός αυτό αναδεικνύει ότι το πρόβλημα δεν περιορίζεται σε συγκεκριμένες λέξεις-κλειδιά, αλλά αφορά τον ίδιο τον τρόπο με τον οποίο η τεχνητή νοημοσύνη διαχειρίζεται και παρουσιάζει ιατρικές πληροφορίες.
Η θέση της Google
Από την πλευρά της, η Google δηλώνει ότι δεν σχολιάζει μεμονωμένες αφαιρέσεις περιεχομένου και ότι εργάζεται διαρκώς για τη βελτίωση των AI Overviews, ιδιαίτερα σε περιπτώσεις όπου διαπιστώνεται έλλειψη πλαισίου ή σαφήνειας. Παράλληλα, εξετάζει νέα παραδείγματα που της έχουν επισημανθεί, χωρίς ωστόσο να έχει ανακοινώσει μέχρι στιγμής ευρύτερες αλλαγές στον τρόπο παρουσίασης πληροφοριών υγείας.
Το διακύβευμα για τη δημόσια υγεία
Οι ειδικοί συμφωνούν ότι το βασικό ζήτημα παραμένει ανοιχτό. Εκατομμύρια άνθρωποι αναζητούν καθημερινά πληροφορίες υγείας στο διαδίκτυο, συχνά χωρίς επαρκή ιατρική καθοδήγηση. Όταν οι απαντήσεις που λαμβάνουν είναι ατελείς ή παραπλανητικές, ο κίνδυνος καθυστερημένης διάγνωσης ή λανθασμένων αποφάσεων είναι υπαρκτός.
Η ανάγκη να κατευθύνονται οι χρήστες προς αξιόπιστες, επιστημονικά τεκμηριωμένες πηγές και όχι προς αυτοματοποιημένες περιλήψεις χωρίς επαρκές πλαίσιο αναδεικνύεται πλέον ως κρίσιμο ζήτημα για τη δημόσια υγεία.
Βρείτε μας στο Google News. Πατήστε εδώ!