Τα chatbots τεχνητής νοημοσύνης (AI chatbots) αλλάζουν ριζικά τον τρόπο με τον οποίο σκεφτόμαστε, μαθαίνουμε και αντιλαμβανόμαστε τον κόσμο γύρω μας. Ωστόσο, ένας από τους πιο ευαίσθητους και συχνά προβληματικούς τομείς της καθημερινότητάς μας είναι η αυξανόμενη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) στον ευαίσθητο τομέα της υγείας. Η παγκόσμια εταιρεία κυβερνοασφάλειας ESET κρούει τον κώδωνα του κινδύνου και προειδοποιεί για τους σοβαρούς κινδύνους που ελλοχεύουν.
Χρήσιμος βοηθός, αλλά όχι αντικαταστάτης του γιατρού
Είναι αλήθεια ότι τα chatbots τεχνητής νοημοσύνης μπορούν να αποτελέσουν εξαιρετικά χρήσιμα εργαλεία για την προετοιμασία μιας ιατρικής επίσκεψης. Μπορούν να σε βοηθήσουν να κατανοήσεις έναν δύσκολο ιατρικό όρο ή να διαμορφώσεις τις κατάλληλες ερωτήσεις που θέλεις να θέσεις στον γιατρό σου.
Ωστόσο, οι κίνδυνοι γίνονται τεράστιοι όταν ένα εργαλείο τεχνητής νοημοσύνης καλείται να αναλάβει τον ρόλο του ίδιου του γιατρού.
Το πρόβλημα της διάγνωσης και η μελέτη της Οξφόρδης
Το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων ιατρικών συμβουλών. Μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε στο επιστημονικό περιοδικό "Nature Medicine", διαπίστωσε τρία σημαντικά προβλήματα:
- Οι χρήστες συχνά δεν γνώριζαν ποιες ακριβώς πληροφορίες έπρεπε να μοιραστούν με τα μεγάλα γλωσσικά μοντέλα (LLMs).
- Τα εργαλεία έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα.
- Παρείχαν συχνά έναν μπερδεμένο συνδυασμό σωστών και λανθασμένων συμβουλών, με αποτέλεσμα οι χρήστες να δυσκολεύονται να διακρίνουν τη διαφορά.
Το κενό ασφαλείας και η διαρροή ευαίσθητων δεδομένων
Όταν χρησιμοποιείς ένα chatbot, ενδέχεται να μοιραστείς εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας της ιδιωτικότητας διαφέρουν πλήρως από εκείνες ενός γιατρού ή ενός νοσοκομείου. Πολλά εργαλεία AI στον χώρο της Υγείας δεν υπάγονται στους αυστηρούς κανονισμούς προστασίας προσωπικών δεδομένων (όπως αυτοί των ΗΠΑ), πράγμα που σημαίνει ότι οι πάροχοί τους δεν υπόκεινται σε αυστηρές νομικές υποχρεώσεις.
Ως αποτέλεσμα, η κοινοποίηση ιατρικών πληροφοριών σε ένα chatbot μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για την εκπαίδευση των μοντέλων ή ακόμη και στη διαρροή τους σε άγνωστους φορείς και τρίτους.
Γιατί τα ιατρικά δεδομένα είναι "χρυσός" για τους χάκερ
Η ESET προειδοποιεί πως όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται δραματικά η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων.
Τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για τους απατεώνες του διαδικτύου για τους εξής λόγους:
- Διατηρούν την αξία τους για μεγάλο χρονικό διάστημα, καθώς σε αντίθεση με μια πιστωτική κάρτα, το ιατρικό ιστορικό δεν μπορεί να αντικατασταθεί ή να επανεκδοθεί.
- Περιλαμβάνουν ασφαλιστικές πληροφορίες που επιτρέπουν στους απατεώνες να υποβάλλουν ψευδείς αιτήσεις αποζημίωσης ή να λαμβάνουν δωρεάν ιατρικές υπηρεσίες στο όνομα του θύματος.
- Μπορούν να χρησιμοποιηθούν για εκβιασμό ή άλλες σοβαρές μορφές απάτης.
Οδηγός επιβίωσης για ασθενείς: Πώς να προστατευτείς
Η ESET προχωρά σε συγκεκριμένες και πρακτικές συμβουλές προς τους χρήστες προκειμένου να προστατεύσουν την ιδιωτικότητά τους:
Απόφυγε τα chatbots γενικής χρήσης: Προτίμησε εργαλεία που έχουν σχεδιαστεί ειδικά για ερωτήσεις σχετικές με την υγεία και έλεγξε αν η υπηρεσία εξηγεί ξεκάθαρα πώς διαχειρίζεται τα δεδομένα σου.
Μην ανεβάζεις ιατρικά έγγραφα: Ποτέ μην μοιράζεσαι αποτελέσματα εξετάσεων, γνωματεύσεις ή άλλα ευαίσθητα αρχεία.
Κράτα την ανωνυμία σου: Απόφυγε να δίνεις ονόματα, διευθύνσεις, στοιχεία ασφάλισης ή αριθμούς μητρώου ασθενών.
Κλείσε το ιστορικό: Βεβαιώσου ότι οι λειτουργίες εκπαίδευσης του μοντέλου και αποθήκευσης ιστορικού συνομιλιών είναι απενεργοποιημένες στις ρυθμίσεις του chatbot.
Μην εμπιστεύεσαι τυφλά τη μηχανή: Μην αντιμετωπίζεις ποτέ μια απάντηση AI ως τελική διάγνωση και μην αγνοείς τα συμπτώματά σου επειδή μια μηχανή σου έδωσε μια καθησυχαστική απάντηση.
"Η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη ιατρική κρίση, αλλά δεν μπορεί σε καμία περίπτωση να την αντικαταστήσει", καταλήγει η ESET.
Διαβάστε Επίσης
Με πληροφορίες από ΑΠΕ-ΜΠΕ
