Η γαλλική λογοτεχνία βιώνει μια από εκείνες τις αντιπαραθέσεις που σου αφήνουν μια άσχημη γεύση στο στόμα και, ταυτόχρονα, σε αναγκάζουν να αντιμετωπίσεις ένα άβολο ζήτημα κατά μέτωπο. Το μυθιστόρημα C'était ça ou mourir , του Καναδο-Αϊτινού συγγραφέα Thélyson Orélien, έχει περάσει από ένα από τα φαινόμενα της λογοτεχνικής αναβίωσης στο επίκεντρο μιας άτυπης έρευνας για το αν το κείμενό του γράφτηκε με τη βοήθεια τεχνητής νοημοσύνης. Η κατηγορία δεν προέρχεται από δικαστήριο ή εκδότη, αλλά από έναν ανώνυμο λογαριασμό στο X που υπέβαλε αποσπάσματα του έργου σε ένα εργαλείο ανίχνευσης.
Το βιβλίο, που μεταφράστηκε και στα ισπανικά ως Era eso, morir (Αυτό είναι, να πεθάνεις ), είχε πουλήσει περίπου 35.000 αντίτυπα σε πέντε εβδομάδες και θεωρούνταν υποψήφιο για μεγάλα βραβεία. Τώρα, το ερώτημα δεν είναι πλέον μόνο ποιος το έγραψε, αλλά τι ακριβώς σημαίνει η συγγραφή σε μια βιομηχανία που αρχίζει να παλεύει με γλωσσικά μοντέλα ικανά να μιμούνται ανθρώπινα στυλ. Εκδότες, πράκτορες και λογοτεχνικές ένορκοι παρακολουθούν στενά την υπόθεση επειδή προμηνύει παρόμοια προβλήματα σε άλλες ευρωπαϊκές αγορές.
Μια υπόθεση που άνοιξε στη Γαλλία: από ανώνυμες καταγγελίες σε λογοτεχνικά βραβεία
Η διαμάχη ξεκίνησε όταν ο λογαριασμός Balance ton Claude δημοσίευσε αρκετές αναλύσεις για το X χρησιμοποιώντας το Pangram, ένα πρόγραμμα που ειδικεύεται στην αναγνώριση μοτίβων σε κείμενα που δημιουργούνται από τεχνητή νοημοσύνη. Σύμφωνα με αυτά τα αποτελέσματα, ορισμένα αποσπάσματα του μυθιστορήματος είχαν παραχθεί από μια μηχανή και το σύνολο ήταν «σχεδόν εξ ολοκλήρου» γραμμένο με αυτόν τον τρόπο. Η ανάρτηση συγκέντρωσε εκατομμύρια προβολές και έστρεψε την προσοχή σε ένα βιβλίο που, μέχρι τότε, είχε λάβει θετικές κριτικές και ισχυρές πωλήσεις.
Τα γαλλικά μέσα ενημέρωσης ανέλαβαν την πρόκληση. Η Le Monde ανέλυσε περισσότερο από το μισό μυθιστόρημα χρησιμοποιώντας το Pangram και κατέληξε στο συμπέρασμα ότι πάνω από το 95% του κειμένου θα μπορούσε να έχει δημιουργηθεί από τεχνητή νοημοσύνη, με υψηλό επίπεδο εμπιστοσύνης. Αυτό το εύρημα ήταν εντυπωσιακό επειδή το Pangram θεωρείται ένας από τους πιο ακριβείς ανιχνευτές τεχνητής νοημοσύνης στην αγορά. Ακόμα κι έτσι, η ίδια η φύση αυτών των εργαλείων μας εμποδίζει να μιλάμε για οριστική απόδειξη: δεν πιστοποιούν την πατρότητα, υποδεικνύουν μόνο πιθανότητες.
Η εκδοτική πορεία του βιβλίου εξηγεί επίσης το μέγεθος του σκανδάλου. Πούλησε περίπου 35.000 αντίτυπα σε πέντε εβδομάδες και συμπεριλήφθηκε στη βραχεία λίστα για βραβεία υψηλού κύρους όπως το βραβείο Goncourt, εκτός από την απονομή άλλων διακρίσεων στη Γαλλία. Αυτή η εμπορική και κριτική επιτυχία κατέστησε την καχυποψία για την Τεχνητή Νοημοσύνη ένα πολύ πιο άβολο ζήτημα για τον κλάδο.
Απαντώντας στις κατηγορίες, ο Thélyson Orélien αρνήθηκε ότι χρησιμοποίησε τεχνητή νοημοσύνη για να γράψει το μυθιστόρημα. Εξήγησε ότι το πρώτο προσχέδιο ολοκληρώθηκε πριν από τη δημόσια κατακραυγή του ChatGPT και ότι οι επαναλήψεις, οι εικόνες και οι ρυθμοί στο κείμενο αντανακλούν τον δικό του τρόπο έκφρασης, που έχει τις ρίζες του στην αϊτινή και καραϊβική κληρονομιά του. Τόσο ο ίδιος όσο και οι εκδότες του προετοιμάζουν τεκμηρίωση σχετικά με τη δημιουργική διαδικασία για να προσπαθήσουν να αποδείξουν ότι το έργο είναι δικό του.
Εργαλεία ανίχνευσης: ενδείξεις, όχι οριστική απόδειξη
Η υπόθεση έχει θέσει υπό έλεγχο την Pangram και τους ανιχνευτές τεχνητής νοημοσύνης γενικότερα . Το εργαλείο διαθέτει πολύ χαμηλό ποσοστό ψευδώς θετικών αποτελεσμάτων και έχει αναφερθεί σε ακαδημαϊκές μελέτες, αλλά οι ειδικοί επισημαίνουν ότι κανένα σύστημα δεν μπορεί να προσδιορίσει οριστικά ποιος έγραψε ένα κείμενο. Διάφορα μέσα ενημέρωσης και χρήστες έχουν δοκιμάσει τα ίδια αποσπάσματα κειμένου με άλλους ανιχνευτές και έχουν λάβει ανάμεικτα αποτελέσματα: ορισμένοι τα έχουν ταξινομήσει ως πιθανώς ανθρώπινα.
Οι ειδικοί στην εγκληματολογική ανίχνευση έχουν προειδοποιήσει ότι ορισμένα στυλ γραφής μπορούν να οδηγήσουν σε σφάλματα και ότι η ακρίβεια μειώνεται κατά την ανάλυση γλωσσών εκτός από τα αγγλικά. Σε αυτό προστίθεται μια κρίσιμη λεπτομέρεια: ο ίδιος ο ανιχνευτής είναι μια τεχνητή νοημοσύνη, επομένως η ετυμηγορία του βασίζεται σε στατιστικά μοτίβα και όχι σε αποδεικτικά στοιχεία. Σε μια υπόθεση όπως αυτή της Orélien, η διαφορά μεταξύ υποψίας και βεβαιότητας είναι τεράστια.
Στην πραγματικότητα, έχουν ήδη κυκλοφορήσει στοιχεία χρησιμοποιώντας ανθρώπινα κείμενα που εργαλεία όπως το Pangram έχουν επισημάνει ως δημιουργημένα από τεχνητή νοημοσύνη. Αυτό δεν σημαίνει ότι η κατηγορία εναντίον του Orélien είναι ψευδής, αλλά απαιτεί την προσεκτική αντιμετώπιση των αποτελεσμάτων. Δεν υπάρχει συναίνεση μεταξύ των ανιχνευτών τεχνητής νοημοσύνης και προς το παρόν, οι υποψίες βασίζονται σε τεχνικές ενδείξεις που ούτε επιβεβαιώνουν ούτε αρνούνται ότι ο συγγραφέας χρησιμοποίησε ένα γλωσσικό μοντέλο.
Η υποκείμενη συζήτηση: συγγραφή, βραβεία και κανόνες του κλάδου
Πέρα από αυτή τη συγκεκριμένη περίπτωση, η διαμάχη έχει εγείρει ένα ερώτημα που η βιομηχανία έχει αποφύγει εδώ και καιρό: πού είναι η γραμμή μεταξύ της χρήσης της Τεχνητής Νοημοσύνης ως εργαλείου και του να την αφήσετε να γράφει για εσάς; Δεν είναι το ίδιο να τη χρησιμοποιείτε για έρευνα, επιμέλεια ή υπέρβαση του συγγραφικού μπλοκαρίσματος με το να της αναθέτετε δομή, στυλ ή διάλογο. Οι γαλλικοί λογοτεχνικοί κύκλοι συζητούν εάν και οι δύο πρακτικές αξίζουν την ίδια κριτική και εάν οι αναγνώστες πρέπει να γνωρίζουν τι περιέχεται σε κάθε βιβλίο.
Τα βραβεία βρίσκονται επίσης υπό έλεγχο. Στη συζήτηση γύρω από τους λογοτεχνικούς διαγωνισμούς, έχει υποστηριχθεί ότι οι κανόνες πρέπει να είναι πολύ πιο σαφείς για την πρόληψη της απάτης και ότι μια βάσιμη υποψία θα πρέπει να είναι αρκετή για να αποκλείσει ένα έργο . Ταυτόχρονα, ορισμένοι εκδότες και πράκτορες προτρέπουν να μην μετατραπεί η διαδικασία ανίχνευσης σε κυνήγι μαγισσών, επειδή τα ψευδώς θετικά αποτελέσματα θα μπορούσαν να βλάψουν τους νόμιμους συγγραφείς. Η έλλειψη κοινών κανονισμών επιδεινώνει αυτό το αίσθημα αβεβαιότητας.
Η υπόθεση Orélien έχει επίσης δείξει ότι η Τεχνητή Νοημοσύνη δεν αποτελεί πλέον μια φουτουριστική απειλή, αλλά ένα σημερινό πρόβλημα στη βιομηχανία του βιβλίου . Από την υποβολή χειρογράφων έως την προώθηση, συμπεριλαμβανομένων των συμβάσεων και των πνευματικών δικαιωμάτων, κάθε κρίκος στην αλυσίδα χρειάζεται σαφείς κατευθυντήριες γραμμές. Ενώ ορισμένοι συγγραφείς υποστηρίζουν ότι η γραφή είναι μια προσωπική και μοναδική εμπειρία, άλλοι πιστεύουν ότι η τεχνολογία μπορεί να αποτελέσει ένα χρήσιμο εργαλείο εάν η χρήση της είναι διαφανής.
Το μυθιστόρημα του Thélyson Orélien θα συνεχίσει να προκαλεί συζητήσεις, αλλά ο πραγματικός αντίκτυπός του ξεπερνά κατά πολύ ένα βραβείο ή μια αύξηση πωλήσεων. Το επεισόδιο έχει αποκαλύψει την ευθραυστότητα των κριτηρίων συγγραφής και τη δυσκολία απόδειξης του ποιος έγραψε τι όταν εμπλέκεται η Τεχνητή Νοημοσύνη. Μέχρι να θεσπιστούν κοινοί κανόνες και πιο ισχυρές μέθοδοι επαλήθευσης, κάθε νέα υπόθεση θα επιλύεται εν μέσω υποψιών, δελτίων τύπου και μιας ανησυχίας ότι η βιομηχανία υστερεί σε σχέση με την τεχνολογία.