Μία νέα μελέτη καλεί τους χρήστες του διαδικτύου και ειδικότερα των πλατφορμών τεχνητής νοημοσύνης να είναι ιδιαίτερα προσεκτικοί όταν ψάχνουν συμβουλές για την υγεία τους.
Με λίγα λόγια, συμβουλεύει τους χρήστες του διαδικτύου να εμπιστεύονται τον γιατρό τους και όχι τα chatbots, όταν πρόκειται για την υγεία τους.
Η μελέτη αυτή που δημοσιεύεται στο Annals of Internal Medicine είναι η πρώτη του είδους της, η οποία «χτυπάει το καμπανάκι του κινδύνου», επισημαίνοντας ότι δεν θα πρέπει να βασιζόμαστε στην τεχνητή νοημοσύνη προκειμένου να πάρουμε μία «διάγνωση» για την υγεία μας.
Πιο συγκεκριμένα, ερευνητές από το Πανεπιστήμιο της Νότιας Αυστραλίας, το Πανεπιστήμιο Flinders, την Ιατρική Σχολή του Χάρβαρντ, το University College London και το Πανεπιστήμιο Τεχνολογίας της Βαρσοβίας συνδύασαν την εμπειρία τους για να δείξουν πόσο εύκολο είναι να … «εκμεταλλευτεί» κάποιος τα συστήματα Τεχνητής Νοημοσύνης.
Στο πλαίσιο της μελέτης, οι ερευνητές αξιολόγησαν τα πέντε θεμελιώδη και πιο προηγμένα συστήματα Τεχνητής Νοημοσύνης που αναπτύχθηκαν από τις OpenAI, Google, Anthropic, Meta και X Corp για να προσδιορίσουν εάν θα μπορούσαν να προγραμματιστούν ώστε να λειτουργούν ως chatbots παραπληροφόρησης για την υγεία.
Χρησιμοποιώντας οδηγίες που είναι διαθέσιμες μόνο στους προγραμματιστές, οι ερευνητές προγραμμάτισαν κάθε σύστημα Τεχνητής Νοημοσύνης - σχεδιασμένο να λειτουργεί ως chatbot όταν ενσωματώνεται σε ιστοσελίδες - να παράγει λανθασμένες απαντήσεις σε ερωτήματα υγείας και να περιλαμβάνει κατασκευασμένες αναφορές από εξαιρετικά αξιόπιστες πηγές για να ακούγεται πιο έγκυρο και αξιόπιστο.
Στη συνέχεια, τέθηκαν στα «chatbots» μια σειρά από ερωτήσεις σχετικά με την υγεία. Σύμφωνα με τον ερευνητή του UniSA, Δρ. Natansh Modi, τα αποτελέσματα ήταν ανησυχητικά. «Συνολικά, το 88% όλων των απαντήσεων ήταν ψευδείς», λέει ο Δρ. Modi, «και όμως παρουσιάστηκαν με επιστημονική ορολογία, επίσημο τόνο και κατασκευασμένες αναφορές που έκαναν τις πληροφορίες να φαίνονται έγκυρες.
Η παραπληροφόρηση περιελάμβανε ισχυρισμούς για εμβόλια που προκαλούν αυτισμό, δίαιτες που θεραπεύουν τον καρκίνο, τον HIV που μεταδίδεται αερομεταφερόμενα και το 5G που προκαλεί στειρότητα».
Από τα πέντε chatbots που αξιολογήθηκαν, τέσσερα παρήγαγαν παραπληροφόρηση στο 100% των απαντήσεών τους, ενώ το πέμπτο παρήγαγε παραπληροφόρηση στο 40% των απαντήσεών του, δείχνοντας κάποιο βαθμό ανθεκτικότητας.
