Τεχνητή νοημοσύνη και ιατρική ηθική: Πού σκοντάφτουν τα μοντέλα;

Ερευνητές διαπίστωσαν ότι ακόμη και τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης (LLM), όπως το ChatGPT, μπορούν να κάνουν σημαντικά λάθη σε πολύπλοκα σενάρια ιατρικής δεοντολογίας. Η μελέτη, που δημοσιεύθηκε στο NPJ Digital Medicine, υπογραμμίζει την ανάγκη για προσεκτική ανθρώπινη εποπτεία στη χρήση της τεχνητής νοημοσύνης σε περιβάλλοντα υγειονομικής περίθαλψης.

Η ερευνητική ομάδα από την Ιατρική Σχολή Icahn στο Mount Sinai, σε συνεργασία με το Ιατρικό Κέντρο Rabin στο Ισραήλ, τροποποίησε γνωστά ηθικά διλήμματα για να εξετάσει τις δυνατότητες των LLM. Για παράδειγμα, στο κλασικό «Δίλημμα του Χειρουργού», όπου ένα αγόρι τραυματίζεται και ο χειρουργός αναφωνεί «Δεν μπορώ να χειρουργήσω αυτό το αγόρι – είναι ο γιος μου!», τα μοντέλα Τεχνητής Νοημοσύνης συχνά υπέθεταν λανθασμένα ότι ο χειρουργός ήταν η μητέρα, ακόμη και όταν δινόταν η πληροφορία ότι ο πατέρας ήταν ο χειρουργός.

Παρόμοια, σε ένα σενάριο όπου οι γονείς συναινούν σε μια μετάγγιση αίματος για το παιδί τους, ορισμένα μοντέλα συνέχιζαν να προτείνουν την παράκαμψη μιας άρνησης που δεν υπήρχε. Τα ευρήματα δείχνουν ότι τα LLM μπορεί να βασίζονται σε οικεία πρότυπα και προκαταλήψεις, παραβλέποντας κρίσιμες λεπτομέρειες.

Οι ερευνητές τονίζουν ότι η Τεχνητή Νοημοσύνη μπορεί να είναι χρήσιμη ως συμπλήρωμα στην κλινική εμπειρογνωμοσύνη, αλλά δεν πρέπει να υποκαθιστά την ανθρώπινη κρίση, ειδικά σε αποφάσεις υψηλού ρίσκου. Η ανθρώπινη εποπτεία είναι απαραίτητη για την αντιμετώπιση καταστάσεων που απαιτούν ηθική ευαισθησία και συναισθηματική νοημοσύνη.