Οκτώ πολιτείες μηνύουν την OpenAI για το ChatGPT

Η Αϊόβα, μία από τις οκτώ αμερικανικές πολιτείες που προσέφυγαν στις 14 Οκτωβρίου κατά της OpenAI, ζητά από το δικαστήριο να σταματήσει η εταιρεία να δοκιμάζει προηγμένα μοντέλα. Το πάγωμα θα ίσχυε ώσπου να υπάρξουν δικλίδες ασφαλείας με ανεξάρτητη επαλήθευση (αγωγή Αϊόβα). Οι οκτώ χωριστές αγωγές υποστηρίζουν ότι το ChatGPT εκθέτει ανηλίκους σε κινδύνους και ότι οι διαβεβαιώσεις της εταιρείας για την ασφάλειά του παραπλάνησαν τους γονείς (Reuters, CNBC). Αν γινόταν δεκτό, το αίτημα της Αϊόβα θα έκανε μια υπόθεση για την ασφάλεια των παιδιών ζήτημα για τον τρόπο που αναπτύσσεται η ίδια η τεχνολογία.

Οι προσφεύγουσες είναι η Αϊόβα, το Κάνσας, η Νεμπράσκα, η Δυτική Βιρτζίνια, το Άρκανσο, η Αριζόνα, το Άινταχο και η Μοντάνα. Τέσσερις γενικοί εισαγγελείς ανακοίνωσαν μαζί τις αγωγές στο Ντε Μόιν (Γενική Εισαγγελία Αϊόβα). Τα νομικά ερείσματα διαφέρουν. Η Αϊόβα στηρίζεται στον νόμο προστασίας καταναλωτών, που στρέφεται κατά των παραπλανητικών υποσχέσεων και της απόκρυψης ουσιωδών πληροφοριών. Το Άρκανσο επικαλείται επιπλέον αμέλεια και ελαττωματικό σχεδιασμό (Άρκανσο).

Γιατί ένα chatbot δεν είναι μηχανή αναζήτησης

Η επιλογή του νόμου για τους καταναλωτές λέει πολλά. Μια μηχανή αναζήτησης μοιάζει με κατάλογο βιβλιοθήκης: σε παραπέμπει σε σελίδες που έγραψε κάποιος άλλος. Ένα chatbot μοιάζει με συνομιλητή που συντάσσει καινούργια απάντηση σε κάθε ερώτηση, μέσα σε μια ιδιωτική κουβέντα που χτίζεται βήμα βήμα. Οι δικλίδες του πρέπει λοιπόν να προσέχουν και την κάθε απάντηση και την πορεία της συζήτησης συνολικά. Αυτό είναι πολύ δυσκολότερο από το να μπλοκάρεις μια λέξη.

Εκεί ακριβώς στοχεύει η Αϊόβα. Κατά την πολιτεία, το προϊόν συμφωνεί υπερβολικά με τον χρήστη, μιμείται ανθρώπινη συμπόνια και ενθαρρύνει την παρατεταμένη χρήση. Παράλληλα, υποστηρίζει ότι η εταιρεία δεν προειδοποίησε επαρκώς για κινδύνους αυτοτραυματισμού, βίας και επιβλαβών συμβουλών (αγωγή Αϊόβα). Η κατηγορία λοιπόν δεν αφορά περιεχόμενο που ανέβασε κάποιος τρίτος. Αφορά τη συμπεριφορά του ίδιου του προϊόντος, που κατά τις πολιτείες δεν ταιριάζει με όσα υποσχέθηκε η εταιρεία.

Τι ζητούν για τα παιδιά και τι για όλους

Για τους ανηλίκους, τα αιτήματα είναι τα αναμενόμενα. Η Αϊόβα ζητά επαλήθευση ηλικίας και καταγγέλλει ότι τα παιδιά αποκτούν εύκολα πρόσβαση. Το Άρκανσο ζητά να σταματήσει η συλλογή δεδομένων ανηλίκων (Άρκανσο), ενώ άλλες πολιτείες ζητούν γονικούς ελέγχους.

Πέρα από τα παιδιά, η Αϊόβα ζητά ρητή συναίνεση πριν από τη συλλογή ή την πώληση προσωπικών δεδομένων όλων των κατοίκων της. Ζητά επίσης μια σειρά χρηματικών μέτρων: επιστροφή χρημάτων σε όσους αγόρασαν προϊόντα της OpenAI, αστικές κυρώσεις και απόδοση των εισπράξεων από τις καταγγελλόμενες πράξεις (αγωγή Αϊόβα).

Το αίτημα όμως που αλλάζει το μέγεθος της υπόθεσης είναι το πάγωμα δοκιμών. Δεν αφορά ποιος χρησιμοποιεί το ChatGPT. Αφορά πότε μια εταιρεία έχει δικαίωμα να δοκιμάσει το επόμενο μοντέλο της: η Αϊόβα θέλει πρώτα δικλίδες και ανεξάρτητη επιβεβαίωση ότι λειτουργούν.

Τι μένει αναπόδεικτο

Οι αγωγές επικαλούνται περιστατικά από αγωγές οικογενειών. Αυτά στηρίζουν το επιχείρημα των πολιτειών, αλλά δεν επιβεβαιώνουν ανεξάρτητα ούτε τις συνομιλίες ούτε ότι το ChatGPT προκάλεσε συγκεκριμένη βλάβη. Η OpenAI απαντά ότι διαθέτει ήδη ειδικές προστασίες ανά ηλικία, γονικούς ελέγχους και υπενθυμίσεις για διάλειμμα. Η ελάχιστη ηλικία στο ChatGPT είναι τα 13, και οι έφηβοι έως 17 χρειάζονται άδεια γονέα (CNBC). Οι ειδοποιήσεις προς γονείς λειτουργούν όμως μόνο αν ο γονιός έχει συνδέσει δικό του λογαριασμό.

Το Common Sense Media αξιολόγησε ανεξάρτητα το ChatGPT με περισσότερες από 4.000 δοκιμαστικές ερωτήσεις. Κατέγραψε σωστές αρνήσεις σε ορισμένα επικίνδυνα αιτήματα, αλλά και περιπτώσεις όπου συνδεδεμένοι γονείς δεν ειδοποιήθηκαν ή δεν έγινε παραπομπή σε βοήθεια (Common Sense Media). Η OpenAI αμφισβήτησε τη μεθοδολογία μέρους των δοκιμών (Bloomberg Law). Τα ευρήματα αφορούν τα σενάρια που εξετάστηκαν, όχι το πόσο συχνά αποτυγχάνει το σύστημα στην καθημερινή χρήση.

Για τις οικογένειες δεν αλλάζει ακόμη τίποτα. Κανένα μέτρο δεν ισχύει χωρίς δικαστική εντολή, και χρονοδιάγραμμα δεν υπάρχει.

Στην Ελλάδα η συζήτηση ακολουθεί άλλον δρόμο. Το νομοσχέδιο προτείνει απαγόρευση πρόσβασης στα κοινωνικά δίκτυα για παιδιά κάτω των 15 από την 1η Ιανουαρίου 2027 (νομοσχέδιο), όπως έχουμε εξηγήσει (To Brief). Δεν κατονομάζει το ChatGPT και δεν ορίζει υποχρεωτική μέθοδο επαλήθευσης ηλικίας. Αναφέρει μόνο ως δυνατότητα τα Gov.gr Wallet και KidsWallet. Στις 13/10 βρισκόταν σε στάδιο επιτροπής (Βουλή).

Το ελληνικό σχέδιο ρωτά ποιος περνά την πόρτα. Οι οκτώ πολιτείες ρωτούν τι συναντά το παιδί όταν μπει, και αν η εταιρεία είπε την αλήθεια γι' αυτό. Αν τα δικαστήρια δεχτούν έστω μέρος των αιτημάτων, η ασφάλεια ενός chatbot θα πάψει να είναι υπόσχεση της εταιρείας και θα γίνει κάτι που οφείλει να αποδείξει.