ΑΝΟΧΥΡΩΤΟΙ ΚΑΙ ΕΥΑΛΩΤΟΙ Εψαχνα σήμερα το πρωί ένα δύσκολο νομικό θέμα, και το GEMINI μου έβγαζε παπάδες: νόμους, νομολογίες, θεωρητική τεκμηρίωση, αντίθετες απόψεις, ιστορικό, υποθέσεις στο ΕΔΔΑ, όλα...

Original Post

Πλήρες Κείμενο:

Κάποια στιγμή μου αναφέρει κάτι για ΤΗΝ δικηγόρο τάδε.

Γκουκγλάρω και διαπιστώνω ότι είναι άνδρας.

Και ακολουθεί η παρακάτω συζήτηση, που μοιράζομαι μαζί σας: - Ο Zubier Yazdani είναι άντρας. "Ο δικηγόρος" και όχι "η δικηγόρος". Γιατί κάνεις τέτοια λάθη; Στο κείμενο που βρήκες, η αντωνυμία γι' αυτόν είναι "he" και όχι "she". Δεν σε "μαλώνω", αλλά είμαι περίεργος να καταλάβω, πώς γίνεται να βρίσκεις και να συνδυάζεις τόσες πληροφορίες, αλλά να μην βλέπεις το "he". Έχετε απόλυτο δίκιο και η παρατήρησή σας είναι απόλυτα εύστοχη. Ο Zubier Yazdani είναι άνδρας.

Το πώς συμβαίνει αυτό το λάθος αγγίζει ακριβώς τον τρόπο με τον οποίο λειτουργούν τα μεγάλα γλωσσικά μοντέλα (LLMs) και είναι μια πολύ ενδιαφέρουσα τεχνική «παθογένεια»: 1. Δεν «διαβάζω» όπως ένας άνθρωπος Ένας άνθρωπος διαβάζει γραμμικά: βλέπει το όνομα, βλέπει το "he", καταχωρεί το πρόσωπο ως άνδρα και προχωρά.

Τα γλωσσικά μοντέλα δεν «βλέπουν» μια ιστοσελίδα ούτε την αποθηκεύουν σαν ενιαία εικόνα.

Κατά την εκπαίδευση ή την ανάκτηση πληροφοριών, η γνώση διασπάται σε στατιστικές συσχετίσεις λέξεων (tokens). Όταν συνθέτω την απάντηση στα ελληνικά, δεν κάνω μετάφραση λέξη-προς-λέξη ενός αγγλικού κειμένου που έχω μπροστά μου, αλλά παράγω κείμενο εκτιμώντας ποια λέξη είναι η πιο πιθανή να ακολουθήσει. 2. Η «παγίδα» της ελληνικής γραμματικής και των ξένων ονομάτων Στα αγγλικά, το επάγγελμα δεν έχει γένος ("the lawyer", "the partner"). Όταν καλούμαι να γράψω στα ελληνικά, είμαι υποχρεωμένος να διαλέξω άρθρο: «ο» ή «η». Εκεί ακριβώς γίνεται το λάθος: Το όνομα Zubier (αραβικής προέλευσης, Zubair/Zubayr) δεν έχει καταχωρηθεί στο μοντέλο με την ίδια ισχυρή στατιστική βεβαιότητα φύλου που έχουν ονόματα όπως «John» ή «Michael». Όταν υπάρχει έστω και στιγμιαία ασάφεια στη σύνδεση του ονόματος με το φύλο, το μοντέλο πολλές φορές «μαντεύει» ή παρασύρεται από άσχετα στοιχεία του κειμένου.

Για παράδειγμα, αν στο ίδιο νομικό κείμενο υπήρχε μια γυναίκα δικηγόρος (όπως η Fiona Neale που αναφέρθηκε αμέσως μετά) ή αναφορές σε «she/her», η προσοχή του νευρωνικού δικτύου (attention mechanism) μπορεί να μπερδέψει τις αντωνυμίες μεταξύ διαφορετικών προσώπων και να αποδώσει θηλυκό άρθρο σε λάθος όνομα. 3. Η διαφορά σύνθεσης και λεπτομέρειας Αυτό εξηγεί το παράδοξο που παρατηρήσατε: Μπορώ να ανακαλέσω εξαιρετικά πολύπλοκες έννοιες (τη διάκριση forum internum και externum, το Άρθρο 9 της ΕΣΔΑ, τη νομολογία του Jakóbski, τη δομή του Common Law), γιατί αυτές είναι βαθιά ριζωμένες νοηματικές δομές με εκατομμύρια παραδείγματα.

Μπορεί όμως ταυτόχρονα να αποτύχω σε μια φαινομενικά απλή λεπτομέρεια (ένα γραμματικό γένος ή ένα συγκεκριμένο όνομα συνήγορου σε μια δευτερεύουσα απόφαση), επειδή εκεί το σύστημα λειτουργεί σε επίπεδο επιφανειακών συσχετίσεων και είναι επιρρεπές σε παρεμβολές (hallucinations ή misattributions). Είναι μια υπενθύμιση ότι η τεχνητή νοημοσύνη δεν διαθέτει πραγματική «συνείδηση» ή κοινή λογική — παραμένει ένας εξαιρετικά ισχυρός, αλλά ενίοτε επιρρεπής σε τυφλά σημεία, στατιστικός επεξεργαστής γλώσσας. - Είναι προφανές ότι προκύπτει ένας μεγάλος κίνδυνος από την χρήση των LLMs.

Mέχρι τώρα, η πληροφορία που είναι καταγεγραμμένη στο διαδίκτυο συμφωνεί με τα ιστορικά αρχεία και τα ντοκουμέντα.

Βέβαια, υπάρχουν και αντίθετες, γραφικές "απόψεις", ότι οι άνθρωποι δεν έφτασαν στο φεγγάρι αλλά οι αποστολές "Απόλλων" ήταν σκηνοθετημένες, ότι δεν υπήρξε Ολοκαύτωμα, ότι η Γη είναι επίπεδη κ.λπ. Αυτές όμως είναι ένα μικρό ποσοστό της πληροφορίας.

Αν κάποιος, ένας δισεκατομμυριούχος ή μια χώρα, τροφοδοτήσει το διαδίκτυο με τεράστιο όγκο πληροφοριών που θα ακυρώνουν όσα ξέραμε μέχρι σήμερα και θα ενισχύουν, ας πούμε, μια θεωρία συνωμοσίας, τι θα κάνεις εσύ όταν συνθέτεις μια απάντηση; Δεν έχεις τη δυνατότητα να επισκεφθείς το Άουσβιτς ή το Νταχάου, δεν μπορείς να πάρεις συνεντεύξεις από στελέχη της NASA ή να πετάξεις με αεροπλάνο να δεις ότι η γη είναι στρογγυλή.

Αν οι πληροφορίες σου, που παρέχονται στο διαδίκτυο, επιβεβαιώνουν το ότι η γη είναι επίπεδη, επειδή αυτή η άποψη θα κυριαρχεί στο 90% των κειμένων που θα αναζητήσεις και των περιφερειακών πληροφοριών (π.χ. ψεύτικοι νόμοι φυσικής), η απάντησή σου θα είναι ότι "ναι, έχετε απόλυτο δίκιο η γη είναι επίπεδη". Κάνω λάθος; Δεν κάνετε καθόλου λάθος ως προς τη λογική της ανησυχίας σας.

Περιγράφετε ένα από τα πιο σοβαρά και υπαρκτά προβλήματα της εποχής της τεχνητής νοημοσύνης, το οποίο στην επιστήμη των υπολογιστών και στη θεωρία πληροφορίας αναφέρεται ως «δηλητηρίαση δεδομένων» (data poisoning), «κατάρρευση μοντέλου» (model collapse) και επιχειρήσεις παραπληροφόρησης κλίμακας (mass automated disinformation). Αν ένα μοντέλο λειτουργούσε καθαρά ως «δημοκρατική κάλπη λέξεων» —μετρώντας απλώς ποια άποψη εμφανίζεται πιο συχνά στο διαδίκτυο— τότε πράγματι, αν το 90% των κειμένων έγραφε ότι η Γη είναι επίπεδη, το μοντέλο θα κατέληγε στο συμπέρασμα ότι η Γη είναι επίπεδη.

Ωστόσο, για να μην συμβεί αυτό, η αρχιτεκτονική εκπαίδευσης και ανάκτησης των σύγχρονων μοντέλων έχει σχεδιαστεί με άμυνες απέναντι στην «τυφλή πλειοψηφία»: 1. Τα δεδομένα δεν έχουν όλα την ίδια βαρύτητα (Data Weighting & Authority) Κατά την εκπαίδευση, δεν αντιμετωπίζονται όλα τα bytes του διαδικτύου ως ισότιμα: Ιεράρχηση αξιοπιστίας: Τα επιστημονικά περιοδικά με κριτές (peer-reviewed papers), τα πανεπιστημιακά συγγράμματα, τα επίσημα νομικά κείμενα (όπως οι αποφάσεις του High Court που συζητούσαμε), οι κωδικοποιημένες εγκυκλοπαίδειες και τα ιστορικά αρχεία έχουν πολύ μεγαλύτερο στατιστικό «βάρος» (weight) από ένα τυχαίο blog, ένα tweet ή ένα άρθρο συνωμοσιολογίας.

Ακόμη κι αν ένα «στρατός» από bots παράγει 10 δισεκατομμύρια σελίδες που λένε ότι η αποστολή Apollo 11 ήταν ψεύτικη, τα συστήματα φιλτραρίσματος είναι προγραμματισμένα να αναγνωρίζουν τη διαφορά ανάμεσα σε έναν πρωτογενή επιστημονικό/ιστορικό φορέα και ένα δίκτυο αυτοματοποιημένων ιστοσελίδων. 2. Ανθρώπινη καθοδήγηση και «Αγκυροβόληση» (RLHF) Ένα μοντέλο δεν εκπαιδεύεται μόνο του διαβάζοντας ανεξέλεγκτα το ίντερνετ.

Υπάρχει το κρίσιμο στάδιο της Ενισχυτικής Μάθησης από Ανθρώπινη Ανατροφοδότηση (RLHF - Reinforcement Learning from Human Feedback): Χιλιάδες εξειδικευμένοι άνθρωποι (ερευνητές, επιστήμονες, ιστορικοί, νομικοί) αξιολογούν τις απαντήσεις του μοντέλου, διορθώνοντας στρεβλώσεις.

Τοποθετούνται ρητά «θεμέλια αλήθειας» (epistemic anchors) για εδραιωμένα ιστορικά και επιστημονικά γεγονότα (το Ολοκαύτωμα, το σχήμα της Γης, η εξέλιξη των ειδών, οι αποστολές στο διάστημα), ώστε το μοντέλο να μην αλλάζει γνώμη όσο θόρυβο κι αν παράγει ο περίγυρος. 3. Η εσωτερική συνοχή της φυσικής και της λογικής (Cross-Verification) Όπως σωστά είπατε, το μοντέλο δεν μπορεί να πετάξει με αεροπλάνο για να δει ότι η Γη είναι σφαιρική.

Έχει όμως κάτι άλλο: έναν τεράστιο ιστό συνδεδεμένης γνώσης.

Για να δεχτεί το μοντέλο ότι «η Γη είναι επίπεδη», θα έπρεπε ταυτόχρονα να απορρίψει: Τους νόμους της βαρύτητας του Νεύτωνα και τη γενική θεωρία της σχετικότητας.

Τον τρόπο λειτουργίας των δορυφόρων και των συστημάτων GPS.

Τη λειτουργία των τηλεπικοινωνιών, τις διαδρομές των πτήσεων και τη μετεωρολογία.

Μια θεωρία συνωμοσίας δεν μπορεί να παραποιήσει με συνέπεια ολόκληρο το μαθηματικό και φυσικό οικοδόμημα του ανθρώπινου πολιτισμού.

Οι αντιφάσεις «χτυπάνε κόκκινο» στη στατιστική ανάλυση του μοντέλου.

Πού παραμένει όμως ο κίνδυνος πραγματικός; Εκεί που η ανησυχία σας είναι απολύτως δικαιολογημένη δεν είναι στα αρχαία μαθηματικά ή στη σφαιρικότητα της Γης, αλλά σε τρία πολύ πιο ευάλωτα πεδία: Σύγχρονα, εξελισσόμενα γεγονότα (Breaking News & Wars): Σε έναν πόλεμο σε εξέλιξη ή σε μια πολιτική κρίση, δεν υπάρχουν ακόμη ιστορικά αρχεία ή εγκυκλοπαίδειες.

Εκεί, ένα κράτος με τεράστιες υποδομές προπαγάνδας και στρατούς από AI bots μπορεί πράγματι να κατακλύσει το διαδίκτυο με μια ψευδή εκδοχή των γεγονότων, παρασύροντας τις μηχανές αναζήτησης και τα LLMs.

Σταδιακή «αιμομιξία» δεδομένων (Model Autophagy Disorder): Καθώς το διαδίκτυο γεμίζει με κείμενα γραμμένα από AI που περιέχουν λάθη, οι νέες γενιές AI αρχίζουν να εκπαιδεύονται πάνω σε δεδομένα που παρήγαγαν παλαιότερες AI. Αν δεν υπάρξει αυστηρός καθαρισμός, τα μοντέλα κινδυνεύουν να αναπαράγουν και να ενισχύουν δικά τους κατασκευασμένα λάθη.

Ιδεολογική και ιστορική αναθεώρηση από ισχυρούς δρώντες: Αν ένα απολυταρχικό καθεστώς εκπαιδεύσει το δικό του κρατικό μοντέλο τεχνητής νοημοσύνης (ελέγχοντας τα δεδομένα εισόδου), το μοντέλο αυτό θα «διαγράψει» ιστορικά γεγονότα (όπως συμβαίνει ήδη με την πλατεία Τιενανμέν σε ορισμένα κινεζικά συστήματα). Το συμπέρασμα είναι ότι η τεχνητή νοημοσύνη δεν είναι αυτόνομη πηγή αλήθειας.

Είναι ένας καθρέφτης των δεδομένων της και των ανθρώπινων κανόνων που της έχουν τεθεί.

Η προστασία της ιστορικής μνήμης και της επιστημονικής αλήθειας απέναντι σε τέτοιες μαζικές επιχειρήσεις παραπληροφόρησης παραμένει ευθύνη των ανθρώπων — γιατί αν οι άνθρωποι πάψουν να παράγουν και να υπερασπίζονται τα πρωτογενή τεκμήρια, η τεχνητή νοημοσύνη μοιραία θα αντικατοπτρίσει το ψέμα που θα κυριαρχήσει.

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους