Βρείτε μας στο Google News. Πατήστε εδώ!Εάν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης για ιατρικές εφαρμογές, όπως νοσοκομεία σε όλη την ευρύτερη περιοχή του Τορόντο, διαφέρουν από τα δεδομένα του πραγματικού κόσμου, αυτό θα μπορούσε να οδηγήσει σε βλάβη των ασθενών. Μια νέα μελέτη που δημοσιεύθηκε σήμερα στο JAMA Network Open από το Πανεπιστήμιο της Υόρκης διαπίστωσε ότι οι προληπτικές, συνεχείς και στρατηγικές μεταφοράς μάθησης για μοντέλα τεχνητής νοημοσύνης είναι καθοριστικές για τον μετριασμό των μεταβολών δεδομένων και των επακόλουθων βλαβών.
Για να προσδιοριστεί η επίδραση των μεταβολών δεδομένων, η ομάδα δημιούργησε και αξιολόγησε ένα σύστημα έγκαιρης προειδοποίησης για την πρόβλεψη του κινδύνου θνησιμότητας των ασθενών εντός νοσοκομείου και την ενίσχυση της διαλογής ασθενών σε επτά μεγάλα νοσοκομεία στην ευρύτερη περιοχή του Τορόντο. Η μελέτη χρησιμοποίησε το GEMINI, το μεγαλύτερο δίκτυο κοινής χρήσης δεδομένων νοσοκομείων του Καναδά, για να αξιολογήσει:
- τον αντίκτυπο των μεταβολών δεδομένων και των μεροληψιών στις κλινικές διαγνώσεις, τα δημογραφικά στοιχεία,
- το φύλο,
- την ηλικία,
- τον τύπο νοσοκομείου, από όπου μεταφέρθηκαν οι ασθενείς, όπως ένα ίδρυμα οξείας φροντίδας ή ένα γηροκομείο,
- και την ώρα εισαγωγής.
Περιέλαβε 143.049 συναντήσεις με ασθενείς, όπως εργαστηριακά αποτελέσματα, μεταγγίσεις, αναφορές απεικόνισης και διοικητικά χαρακτηριστικά. «Καθώς η χρήση της Τεχνητής Νοημοσύνης (ΤΝ) στα νοσοκομεία αυξάνεται για την πρόβλεψη οποιουδήποτε παράγοντα, από τη θνησιμότητα και τη διάρκεια νοσηλείας έως τη σήψη και την εμφάνιση διαγνώσεων ασθενειών, υπάρχει μεγαλύτερη ανάγκη να διασφαλιστεί ότι λειτουργούν όπως προβλέπεται και δεν προκαλούν βλάβη», λέει ο επικεφαλής συγγραφέας, Επίκουρος Καθηγητής Elham Dolatabadi της Σχολής Πολιτικής και Διοίκησης Υγείας του Πανεπιστημίου της Υόρκης, μέλος του Connected Minds και συνεργαζόμενος καθηγητής στο Ινστιτούτο Vector.
«Ωστόσο, η δημιουργία αξιόπιστων και ισχυρών μοντέλων μηχανικής μάθησης έχει αποδειχθεί δύσκολη, καθώς τα δεδομένα αλλάζουν με την πάροδο του χρόνου, δημιουργώντας αναξιοπιστία του συστήματος». Τα δεδομένα για την εκπαίδευση κλινικών μοντέλων ΤΝ για νοσοκομεία και άλλα περιβάλλοντα υγειονομικής περίθαλψης πρέπει να αντικατοπτρίζουν με ακρίβεια τη μεταβλητότητα των ασθενών, των ασθενειών και των ιατρικών πρακτικών, προσθέτει. Χωρίς αυτό, το μοντέλο θα μπορούσε να αναπτύξει άσχετες ή επιβλαβείς προβλέψεις, ακόμη και ανακριβείς διαγνώσεις.
Οι διαφορές στους υποπληθυσμούς των ασθενών, το προσωπικό, τους πόρους, καθώς και οι απρόβλεπτες αλλαγές στην πολιτική ή τη συμπεριφορά, οι διαφορετικές πρακτικές υγειονομικής περίθαλψης μεταξύ νοσοκομείων ή μια απροσδόκητη πανδημία, μπορούν επίσης να προκαλέσουν αυτές τις πιθανές αλλαγές δεδομένων. «Βρήκαμε σημαντικές μεταβολές στα δεδομένα μεταξύ της εκπαίδευσης μοντέλων και των εφαρμογών στην πραγματική ζωή, συμπεριλαμβανομένων αλλαγών σε δημογραφικά στοιχεία, τύπους νοσοκομείων, πηγές εισαγωγής και κρίσιμες εργαστηριακές δοκιμές», λέει ο πρώτος συγγραφέας Vallijah Subasri, επιστήμονας Τεχνητής Νοημοσύνης στο University Health Network.
«Βρήκαμε επίσης επιβλαβείς μεταβολές δεδομένων όταν μοντέλα που εκπαιδεύτηκαν σε επισκέψεις ασθενών σε κοινοτικά νοσοκομεία μεταφέρθηκαν σε ακαδημαϊκά νοσοκομεία, αλλά όχι το αντίστροφο». Για να μετριάσουν αυτές τις δυνητικά επιβλαβείς μεταβολές δεδομένων, οι ερευνητές χρησιμοποίησαν στρατηγικές μεταφοράς μάθησης, οι οποίες επέτρεψαν στο μοντέλο να αποθηκεύει γνώσεις που αποκτήθηκαν από την εκμάθηση ενός τομέα και να τις εφαρμόζει σε έναν διαφορετικό αλλά σχετικό τομέα και στρατηγικές συνεχούς μάθησης όπου το μοντέλο Τεχνητής Νοημοσύνης ενημερώνεται χρησιμοποιώντας μια συνεχή ροή δεδομένων με διαδοχικό τρόπο σε απόκριση σε συναγερμούς που ενεργοποιούνται από την απόκλιση.
Παρόλο που τα μοντέλα μηχανικής μάθησης συνήθως παραμένουν κλειδωμένα μόλις εγκριθούν για χρήση, οι ερευνητές διαπίστωσαν ότι μοντέλα ειδικά για τον τύπο νοσοκομείου που αξιοποιούν τη μεταφορά μάθησης είχαν καλύτερη απόδοση από τα μοντέλα που χρησιμοποιούν όλα τα διαθέσιμα νοσοκομεία. Η χρήση συνεχούς μάθησης που ενεργοποιείται από την απόκλιση βοήθησε στην πρόληψη επιβλαβών μεταβολών δεδομένων λόγω της πανδημίας COVID-19 και βελτίωσε την απόδοση του μοντέλου με την πάροδο του χρόνου.
Ανάλογα με τα δεδομένα στα οποία εκπαιδεύτηκε, το μοντέλο Τεχνητής Νοημοσύνης θα μπορούσε επίσης να έχει μια τάση για ορισμένες προκαταλήψεις, οδηγώντας σε άδικα ή μεροληπτικά αποτελέσματα για ορισμένες ομάδες ασθενών. «Δείχνουμε πώς να ανιχνεύουμε αυτές τις μεταβολές δεδομένων, να αξιολογούμε εάν επηρεάζουν αρνητικά την απόδοση του μοντέλου Τεχνητής Νοημοσύνης και προτείνουμε στρατηγικές για τον μετριασμό των επιπτώσεών τους. Δείχνουμε ότι υπάρχει μια πρακτική οδός από την υπόσχεση στην πράξη, γεφυρώνοντας το χάσμα μεταξύ των δυνατοτήτων της Τεχνητής Νοημοσύνης στην υγεία και των πραγματικοτήτων της ανάπτυξης και διατήρησής της σε κλινικά περιβάλλοντα πραγματικού κόσμου», λέει ο Dolatabadi.
Η μελέτη αποτελεί ένα κρίσιμο βήμα προς την ανάπτυξη κλινικών μοντέλων Τεχνητής Νοημοσύνης, καθώς παρέχει στρατηγικές και ροές εργασίας για να διασφαλίσει την ασφάλεια και την αποτελεσματικότητα αυτών των μοντέλων σε πραγματικά περιβάλλοντα. «Αυτά τα ευρήματα δείχνουν ότι ένας προληπτικός, ανεξάρτητος από την ετικέτα αγωγός παρακολούθησης που ενσωματώνει τη μεταφορά και τη συνεχή μάθηση μπορεί να ανιχνεύσει και να μετριάσει τις επιβλαβείς μεταβολές δεδομένων στον γενικό πληθυσμό εσωτερικής παθολογίας του Τορόντο, διασφαλίζοντας ισχυρή και δίκαιη ανάπτυξη κλινικής Τεχνητής Νοημοσύνης», λέει ο Subasri.
