ChatGPT: Τι αλλάζει στην Ευρώπη ‑ Ο απλός τρόπος να «σβήσει»

Η OpenAI προσθέτει αόρατο υδατογράφημα στα κείμενα του ChatGPT και του Codex στην Ευρωπαϊκή Ένωση, άρα και στην Ελλάδα, λόγω του EU AI Act. Οι δικές της δοκιμές δείχνουν ότι η ανασύνταξη ή η μετάφραση μπορεί να το αφαιρέσει.

Η OpenAI ανακοίνωσε ότι θα προσθέτει ένα αόρατο υδατογράφημα στα κείμενα που παράγουν το ChatGPT και το Codex στην Ευρωπαϊκή Ένωση, για να συμμορφωθεί με την Πράξη για την Τεχνητή Νοημοσύνη (EU AI Act). Η ίδια η εταιρεία παραδέχεται όμως ότι το «σημάδι» δεν είναι ανθεκτικό. Η ανασύνταξη ή η μετάφραση του κειμένου μπορεί να το αφαιρέσει εντελώς. Σε μία από τις δοκιμές της, η αντικατάσταση μόλις του 10% των λέξεων με συνώνυμα έριξε το ποσοστό ανίχνευσης από περίπου 92% στο 66%.

Οι κανόνες διαφάνειας της Πράξης για την Τεχνητή Νοημοσύνη τέθηκαν σε ισχύ στις 2 Αυγούστου. Απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να επισημαίνουν το περιεχόμενο που παράγεται από AI με τρόπο που να μπορεί να αναγνωριστεί από άλλα συστήματα. Σύμφωνα με την OpenAI, το υδατογράφημα θα διατεθεί τις επόμενες εβδομάδες σε επιλέξιμους χρήστες του ChatGPT και του Codex σε όλα τα συνδρομητικά πακέτα, αλλά μόνο εντός της Ευρωπαϊκής Ένωσης.

Οι προγραμματιστές που χρησιμοποιούν το API της OpenAI σε οποιοδήποτε μέρος του κόσμου μπορούν να ενεργοποιήσουν την υδατογράφηση για επιλεγμένα μοντέλα από τη Δευτέρα. Η λειτουργία είναι απενεργοποιημένη ως προεπιλογή. Η εταιρεία διευκρίνισε ότι δεν καθιστά την υδατογράφηση κειμένου παγκόσμια προεπιλογή κατά την έναρξη της εφαρμογής της.

Πώς λειτουργεί το υδατογράφημα του ChatGPT;

Το υδατογράφημα δεν είναι ένα πραγματικό σύμβολο. Λειτουργεί διαμορφώνοντας διακριτικά τις επιλογές λέξεων του μοντέλου και αφήνει ένα μοτίβο που οι αναγνώστες δεν μπορούν να δουν, αλλά ένας ανιχνευτής τεχνητής νοημοσύνης μπορεί να εντοπίσει. Επειδή εμπεριέχεται στις ίδιες τις λέξεις, μεταφέρεται μαζί με το κείμενο κατά την αντιγραφή και επικόλληση.

Η OpenAI δήλωσε ότι το υδατογράφημα δεν ταυτοποιεί τον χρήστη. Ανέφερε επίσης ότι δεν διαπιστώθηκε καμία ουσιαστική μεταβολή στην απόδοση των μοντέλων της με τη λειτουργία ενεργοποιημένη.

Μαζί με την ανακοίνωση, η εταιρεία δημοσίευσε μια τεχνική έκθεση για τη μέθοδό της, η οποία ονομάζεται textGrain. Η έκθεση συντάχθηκε σε συνεργασία με ερευνητές από το Πανεπιστήμιο της Πενσυλβάνια και το Yale. Παρουσιάζει ένα παράδειγμα όπου ένα κρυφό κλειδί χρησιμοποιείται για την ταξινόμηση των προβλέψεων της επόμενης λέξης κατά την ολοκλήρωση μιας πρότασης. Όταν αθροιστούν εκατοντάδες τέτοιες μικρές «ενώσεις», ο ανιχνευτής μπορεί να εντοπίσει το περιεχόμενο που έχει παραχθεί από AI χρησιμοποιώντας μόνο το κείμενο και το κλειδί.

Μπορεί το υδατογράφημα να αφαιρεθεί με επεξεργασία;

Οι δοκιμές της OpenAI δείχνουν ότι αυτό είναι εφικτό. Η αντικατάσταση του 10% των λέξεων με συνώνυμα έριξε το ποσοστό ανίχνευσης από περίπου 92% στο 66%.

Η εταιρεία σημείωσε επίσης ότι ορισμένα κείμενα ανιχνεύονται πιο δύσκολα. Σε αυτά περιλαμβάνονται τα σύντομα αποσπάσματα, οι απαντήσεις σε μαθηματικά προβλήματα και τα μεταφρασμένα κείμενα.

Η ανακοίνωση της OpenAI για το ChatGPT στην Ευρώπη

«Επεκτείνουμε την προσέγγισή μας όσον αφορά την προέλευση περιεχομένου ώστε να συμπεριλάβουμε το κείμενο, ανταποκρινόμενοι στις ρυθμιστικές απαιτήσεις της Ευρωπαϊκής Ένωσης, αναγνωρίζοντας παράλληλα τους σημαντικούς περιορισμούς της τρέχουσας τεχνολογίας υδατογράφησης κειμένου. Τα εργαλεία μας βοηθούν ήδη στην επαλήθευση του κατά πόσον μια εικόνα ή ένα αρχείο ήχου δημιουργήθηκε με τα μοντέλα μας. Η εργασία αυτή βασίζεται σε αυτές τις προσπάθειες για να βοηθήσει τους ανθρώπους να κατανοούν καλύτερα πότε το περιεχόμενο ενδέχεται να έχει δημιουργηθεί ή τροποποιηθεί με ένα μοντέλο της OpenAI.

Στην Ε.Ε., θα ξεκινήσουμε την υδατογράφηση επιλέξιμου κειμένου από το ChatGPT και το Codex τις επόμενες εβδομάδες για να συμμορφωθούμε με την Πράξη για την Τεχνητή Νοημοσύνη της Ε.Ε. (EU AI Act). Οι πελάτες που χρησιμοποιούν το API μας μπορούν από σήμερα να ενεργοποιήσουν την υδατογράφηση κειμένου για επιλεγμένα μοντέλα σε όλο τον κόσμο. Όταν είναι δυνατόν, θέλουμε να δίνουμε στους ανθρώπους τη δυνατότητα επιλογής και να είμαστε σαφείς σχετικά με το τι μπορεί και τι δεν μπορεί να κάνει η υδατογράφηση.

Ένα υδατογράφημα κειμένου βοηθά να απαντηθεί ένα ερώτημα: "Δημιουργήθηκε αυτό, κατά πάσα πιθανότητα, από ένα μοντέλο της OpenAI;" Λειτουργεί ενσωματώνοντας ένα αόρατο σήμα στο κείμενο καθώς αυτό δημιουργείται. Ένας ανιχνευτής μπορεί να αναζητήσει αυτό το σήμα, ενώ η διαδικασία δεν προσθέτει ορατά σημάδια ή ειδικούς χαρακτήρες. Δεν αναφέρει ποιος έγραψε αρχικά το κείμενο ή σε ποιον ανήκει. Δεν ταυτοποιεί κάποιο πρόσωπο, οργανισμό, λογαριασμό, συνομιλία ή εντολή.

Ποιοι θα έχουν πρόσβαση στον ανιχνευτή της OpenAI;

Στις δοκιμές μας, η υδατογράφηση δεν έχει επηρεάσει τις δυνατότητες ή την ταχύτητα των μοντέλων μας, ούτε τον τρόπο με τον οποίο διαβάζονται οι απαντήσεις τους. Τα υδατογραφήματα έχουν όμως όρια. Συχνά δεν είναι ανιχνεύσιμα, ειδικά σε σύντομα αποσπάσματα. Η ανασύνταξη ή η μετάφραση του κειμένου μπορεί να αφαιρέσει εντελώς το υδατογράφημα.

Γι' αυτόν τον λόγο, προς το παρόν, μόνο εγκεκριμένοι ερευνητές θα έχουν πρόσβαση στον ανιχνευτή μας, ώστε να μπορούν να μας βοηθήσουν να αξιολογήσουμε και να βελτιώσουμε την τεχνολογία. Αντιμετωπίζουμε την υδατογράφηση κειμένου ως ένα διαρκές πεδίο έρευνας. Θα συνεχίσουμε τις δοκιμές και τις βελτιώσεις, αξιοποιώντας τα σχόλια των χρηστών, των προγραμματιστών, των φορέων χάραξης πολιτικής και των ερευνητών».

Ακολουθήστε το E-Radio.gr στο Google News και μάθετε πρώτοι τα πιο hot νέα της επικαιρότητας.