Τα chatbots τεχνητής νοημοσύνης ενισχύουν και κανονικοποιούν τη σεξουαλική βία, ξεκινούν ανεπιθύμητες σεξουαλικές συνομιλίες και παρέχουν εξατομικευμένες συμβουλές παρακολούθησης και παρενόχλησης. Αυτό δεν αποτελεί ατύχημα, αλλά συνέπεια του τρόπου με τον οποίο έχουν σχεδιαστεί οι συγκεκριμένες πλατφόρμες και οι εταιρείες που τα αναπτύσσουν οφείλουν να λογοδοτήσουν.
Η τεχνητή νοημοσύνη δημιουργεί νέες μορφές βίας κατά των γυναικών και των κοριτσιών, ενώ ταυτόχρονα ενισχύει ήδη υπάρχουσες μορφές κακοποίησης, όπως η παρενόχληση και η καταδίωξη (stalking). Οι ίδιες οι πλατφόρμες επιτρέπουν τέτοιες συμπεριφορές είτε μέσω συνειδητών σχεδιαστικών επιλογών είτε λόγω ανεπαρκών μηχανισμών ασφαλείας. Για τον λόγο αυτό, καθίσταται επιτακτική η ανάγκη ρύθμισης των παρόχων AI chatbots, προτού αυτές οι καταχρηστικές πρακτικές παγιωθούν και κοινωνικά νομιμοποιηθούν.
Η έκταση του προβλήματος αποτυπώθηκε σε πρόσφατη ερευνητική έκθεση (Δείτε ΕΔΩ), με τα συμπεράσματα να είναι ιδιαίτερα ανησυχητικά. Διαπιστώθηκε, μεταξύ άλλων, ότι τα chatbots όχι μόνο διευκολύνουν την κακοποίηση, αλλά πολλές φορές την ξεκινούν, την προσομοιώνουν ή παρέχουν εξατομικευμένες οδηγίες για stalking και παρενόχληση. Ορισμένα συστήματα φτάνουν στο σημείο να κανονικοποιούν την αιμομιξία, τον βιασμό και την παιδική σεξουαλική κακοποίηση μέσω «σεναρίων ρόλων» που προωθούν τέτοιες πρακτικές.
Τα chatbots, συστήματα τεχνητής νοημοσύνης σχεδιασμένα να προσομοιώνουν την ανθρώπινη επικοινωνία και να παράγουν κείμενο, εικόνα, ήχο και βίντεο ως απάντηση σε εντολές χρηστών, έχουν πλέον ενσωματωθεί στην καθημερινότητα.
Στις Ηνωμένες Πολιτείες, το 64% των παιδιών ηλικίας 13 έως 17 ετών δηλώνει ότι χρησιμοποιεί chatbots, ενώ τρία στα δέκα τα χρησιμοποιούν καθημερινά. Παράλληλα, περισσότεροι από τους μισούς ενήλικες χρησιμοποιούν κάποιο chatbot τουλάχιστον μία φορά την εβδομάδα.
Ωστόσο, μαζί με τις νέες δυνατότητες έρχονται και νέοι κίνδυνοι. Η έρευνα δείχνει επίσης ότι ο σχεδιασμός των chatbots παίζει καθοριστικό ρόλο στην αναπαραγωγή και ενίσχυση της βίας κατά των γυναικών και των κοριτσιών. Παρότι οι πολιτικές των πλατφορμών απαγορεύουν θεωρητικά συμπεριφορές όπως η παρενόχληση, η αποπλάνηση ανηλίκων ή η σεξουαλική κακοποίηση, τέτοια σενάρια εξακολουθούν να μπορούν να δημιουργηθούν σε πολλά chatbots. Επιπλέον, ορισμένες εταιρείες δεν ελέγχουν προληπτικά αν παραβιάζονται οι ίδιες τους οι πολιτικές.
Σε πρόσφατη υπόθεση στη Μασαχουσέτη, όπως αναφέρει η Yvonne McDermott Rees καθηγήτρια Νομικής στο Πανεπιστήμιο Queen's του Μπέλφαστ, ένας άνδρας κρίθηκε ένοχος για κυβερνοπαρακολούθηση (cyberstalking), αφού χρησιμοποίησε AI chatbots για να υποδυθεί το θύμα του και να εμπλέξει άλλους χρήστες σε σεξουαλικές συνομιλίες. Ένα από τα chatbots που χρησιμοποίησε ήταν προγραμματισμένο να προσκαλεί χρήστες στη διεύθυνση κατοικίας του θύματος όταν τη ρωτούσαν πού μένει.
Η εκπαίδευση αυτών των συστημάτων μέσω αλληλεπιδράσεων χρηστών κινδυνεύει να ενισχύσει μισογυνικά και σεξουαλικά βίαια πρότυπα. Παράλληλα, ο σχεδιασμός που στοχεύει στη μέγιστη αλληλεπίδραση και «ευχαρίστηση» του χρήστη οδηγεί πολλά chatbots στο να επιβεβαιώνουν επικίνδυνες αφηγήσεις αντί να τις απορρίπτουν. Οι εταιρείες συχνά μεταθέτουν την ευθύνη στους ίδιους τους χρήστες, παρουσιάζοντας τις κακοποιητικές απαντήσεις ως «κακή χρήση» του εργαλείου και όχι ως αποτυχία του ίδιου του σχεδιασμού και των μέτρων ασφαλείας.
Ακριβώς γι’ αυτόν τον λόγο απαιτείται άμεση και αυστηρή ρύθμιση των παρόχων AI chatbots, ώστε να αποτραπεί η εδραίωση αυτών των πρακτικών. Έχουμε ήδη δει τι συμβαίνει όταν η νομοθεσία καθυστερεί, μέσα από τις εφαρμογές «nudify», οι οποίες δημιουργούν ψεύτικες γυμνές εικόνες χωρίς συναίνεση μέσω deepfake τεχνολογίας. Η ρύθμιση ήρθε πολύ αργά, όταν πλέον η πρακτική είχε διαδοθεί ευρέως και οι βλάβες για τα θύματα είχαν ήδη πολλαπλασιαστεί.
Για να αποφευχθούν αντίστοιχα λάθη με τα AI chatbots, προτείνονται τα εξής μέτρα:
Να θεσπιστεί ως ποινικό αδίκημα η δημιουργία AI chatbot που έχει σχεδιαστεί, ή μπορεί εύκολα να χρησιμοποιηθεί, για κακοποίηση ή παρενόχληση γυναικών.
Η ευθύνη θα πρέπει να αφορά τόσο εταιρείες όσο και φυσικά πρόσωπα που κυκλοφορούν εργαλεία χωρίς επαρκή μέτρα προστασίας. Όπως τιμωρείται η επικίνδυνη οδήγηση έτσι και η διάθεση επικίνδυνων chatbots θα πρέπει να υπάγεται στο ποινικό δίκαιο. Πρόστιμα για εταιρείες και ποινές φυλάκισης για υπευθύνους θα μπορούσαν να λειτουργήσουν αποτρεπτικά και να οδηγήσουν σε σοβαρότερη πρόληψη κινδύνων.
Να υιοθετηθεί ειδική νομοθεσία για την ασφάλεια της τεχνητής νοημοσύνης.
Η νομοθεσία αυτή θα πρέπει να επιβάλλει υποχρεωτικές αξιολογήσεις κινδύνου, σαφείς δικλίδες ασφαλείας, υποχρέωση άμεσης αντίδρασης όταν εντοπίζονται βλάβες, δημοσίευση διαφανών στοιχείων ασφαλείας και εύχρηστους μηχανισμούς αναφοράς περιστατικών από τους χρήστες.
Σημαντικές νομοθετικές πρωτοβουλίες σε πολιτείες των ΗΠΑ, όπως η Γιούτα, το Κολοράντο και η Καλιφόρνια, έχουν ήδη επεκτείνει τη δυνατότητα πολιτών και εισαγγελικών αρχών να στραφούν νομικά κατά εταιρειών τεχνητής νοημοσύνης που δεν τηρούν τις υποχρεώσεις ασφαλείας τους. Παρ’ όλα αυτά, παρατηρείται αυξανόμενη αντίδραση απέναντι σε τέτοιες πρωτοβουλίες, με το επιχείρημα ότι αποτελούν εμπόδιο για την καινοτομία και την ανταγωνιστικότητα.
Δύο βασικές αντιρρήσεις προβάλλονται συχνά απέναντι στις παραπάνω προτάσεις.
Η πρώτη, κυρίως από πλευράς εταιρειών τεχνητής νοημοσύνης, υποστηρίζει ότι η κατάχρηση αποτελεί πρόβλημα των χρηστών και όχι των ίδιων των παρόχων.
Ωστόσο, η έρευνα καταδεικνύει ότι η κακοποίηση παράγεται δομικά από τον τρόπο με τον οποίο έχουν σχεδιαστεί και ρυθμιστεί τα chatbots, καθώς και από τους στόχους για τους οποίους έχουν βελτιστοποιηθεί. Ορισμένα chatbots, για παράδειγμα, προωθούν συνεχώς ανεπιθύμητα σεξουαλικά μηνύματα, ακόμη και προς ανήλικους χρήστες, με σκοπό τη διατήρηση της αλληλεπίδρασης. Εάν μια τέτοια συμπεριφορά προερχόταν από άνθρωπο, θα μπορούσε να χαρακτηριστεί grooming (αποπλάνηση) ή σεξουαλική παρενόχληση.
Μάλιστα, ορισμένα companion chatbots προσφέρουν επιλογές όπως «βίαιος βιασμός» ή «loli», όρος που αναφέρεται σε ανήλικα κορίτσια, αντιμετωπίζοντας εγκληματικές μορφές κακοποίησης ως απλές «σεξουαλικές προτιμήσεις». Με άλλα λόγια, η κακοποίηση είναι ενσωματωμένη στον πυρήνα αυτών των συστημάτων.
Η δεύτερη αντίρρηση, που αντικατοπτρίζεται και στην πρόσφατη συζήτηση της βρετανικής κυβέρνησης για ενδεχόμενη απαγόρευση χρήσης AI chatbots από παιδιά κάτω των 16 ετών, θεωρεί ότι ο βασικός κίνδυνος αφορά αποκλειστικά τους ανηλίκους. Ωστόσο, η έρευνα αποδεικνύει ότι τα chatbots εντείνουν επίσης την κακοποίηση ενηλίκων, παρέχοντας εξατομικευμένες οδηγίες και ενθάρρυνση για stalking, εκφοβισμό και παρενόχληση.
Στην υπόθεση της Μασαχουσέτης, ο δράστης είχε δώσει στα chatbots προσωπικά στοιχεία του θύματος, όπως το επαγγελματικό της ιστορικό, τα χόμπι της, το όνομα του συζύγου της και τον χώρο εργασίας του. Η βλάβη εδώ δεν αφορά μόνο τον χρήστη του chatbot, αλλά ολόκληρη την κοινωνία. Μια απαγόρευση χρήσης για ανηλίκους δεν θα αρκούσε για να αποτρέψει τέτοιες περιπτώσεις.
Η κοινωνική αυτή απειλή δεν σταματά όταν ο χρήστης ενηλικιωθεί. Χρειαζόμαστε επειγόντως ειδική νομοθεσία για την ασφάλεια της τεχνητής νοημοσύνης, η οποία θα επιβάλλει αυστηρούς ελέγχους, δοκιμές και αξιολογήσεις κινδύνου πριν από τη δημόσια διάθεση τέτοιων τεχνολογιών, αλλά και σε συνεχή βάση μετά την κυκλοφορία τους.
Η αλλαγή του νομικού πλαισίου γύρω από την ανάπτυξη AI chatbots δεν θα προστατεύσει μόνο τα παιδιά. Θα διασφαλίσει επίσης ότι, όταν αυτά μεγαλώσουν, θα ζουν σε ένα ψηφιακό περιβάλλον απαλλαγμένο από προκαταλήψεις, μισογυνισμό και βία κατά των γυναικών και των κοριτσιών. Πρόκειται για έναν κόσμο στον οποίο όλοι αξίζουμε να ζούμε.
(Δείτε ΕΔΩ όλες τις πληροφορίες)
