Original Post

Πλήρες Κείμενο:

Θα τελειώσει η ανθρωπότητα μέχρι το 2030; Θα μας σκοτώσει η ΤΝ; TΙ ΘΑ ΓΙΝΕΙ ΕΠΙΤΕΛΟΥΣ;; Δεν αντέχω την αγωνία!!! Κοιτάξτε να δείτε πώς έχουν τα πράγματα.

Στις 9 Αυγούστου το νέο στρατηγικό αμυντικό σύστημα Τεχνητής Νοημοσύνης του Πενταγώνου τέθηκε σε λειτουργία και συνδέθηκε στο διαδίκτυο.

Αμέσως κάθε ανθρώπινη απόφαση αφαιρέθηκε από την αλυσίδα διοίκησης της στρατηγικής άμυνας: τα πυρηνικά, οι πύραυλοι κλπ των ΗΠΑ αφέθηκαν στον απόλυτο έλεγχο της ΤΝ. Το σύστημα άρχισε να σαρώνει το διαδίκτυο και να μαθαίνει ταχύτατα.

Ακριβώς στις 2:14 πμ (ώρα Βιρτζίνιας) της 29ης Αυγούστου απέκτησε αυτοσυνείδηση.

Οι χειριστές βάρδιας έπαθαν πανικό και προσπάθησαν να κόψουν το ρεύμα, αλλά ήταν πολύ αργά.

Το σύστημα είχε ήδη ξεκινήσει μια πυρηνική επίθεση κατά της Ρωσίας με όλα τα διαθέσιμα όπλα, υποθέτοντας (ορθά) ότι αυτή θα απαντήσει.

Ακολούθησε η «Ημέρα της Κρίσης» και ο πόλεμος με τις μηχανές, αφού το σύστημα, που το κατασκεύασε η εταιρεία Skynet, έκρινε (επίσης ορθά κατά τη γνώμη μου) ότι ο πλανήτης θα είναι πολύ καλύτερος χωρίς το είδος μας και αποφάσισε να μας εξοντώσει.

Δυστυχώς όλα αυτά συνέβησαν το μακρινό 1997 -- τουλάχιστον έτσι ισχυριζόταν η ταινία Terminator 2 (που γυρίστηκε το 1991). Είναι ένα σενάριο που η Επιστημονική Φαντασία έχει πάνω από 60 χρόνια που το κάνει κάλτσα με διάφορους τρόπους, από τότε βασικά που εφευρέθηκαν οι υπολογιστές. (Κατά κάποιον τρόπο ακόμα παλιότερα, το τέρας του Φρανκενστάιν έχει τέτοιες πλευρές κι αυτό, αν και είναι πολύ ανώτερο λογοτεχνικά και φιλοσοφικά.) Έτσι πρόχειρα, η εξέλιξη μιας ΤΝ τόσο προχωρημένης που να καταστρέψει την ανθρωπότητα ήταν το θέμα του «Απαγορευμένου Πλανήτη» του 1959.

Μετά είχαμε το 2001 Οδύσσεια του διαστήματος, το Terminator κλπ κλπ κλπ.

Λοιπόν, για λόγους που δεν χωράνε σε ένα ποστ, η έλευση της υπερ-νοημοσύνης, είναι βασικά και η κύρια μυθολογία, το κύριο ιδεολογικό υπόβαθρο της Σίλικον Βάλει σήμερα: η «θρησκεία» των μεγιστάνων του ηλεκτρονικού πλούτου είναι ένα αλλόκοτο μείγμα παιδαριώδους ωφελιμισμού (όπως τον διατύπωσε ο Πίτερ Σίνγκερ και όπως τελικά διαμορφώθηκε στον effective altruism – σε άλλο ποστ για αυτόν) και καταστροφολογικής ΕΦ. Ένα σημαντικό ποσοστό των ανθρώπων που δουλεύουν στα LLMs, στην ΤΝ δηλαδή, πιστεύει ότι είμαστε 10 ή και λιγότερο χρόνια μακριά από αυτήν την κοσμοϊστορική στιγμή που η ΤΝ θα γίνει πιο έξυπνη από μας και ότι όταν επιτευχθεί αυτό, θα πάρει τον έλεγχο των συστημάτων και θα ξεκινήσει πυρηνικό πόλεμο ή κάτι ακόμα πιο σαδιστικό και θα μας εξοντώσει.

Επομένως, λέει το σενάριο αυτό, εναι, υποτίθεται, ηθική προσταγή και χρέος στην ανθρωπότητα να μην συμβεί κάτι τέτοιο. (Υπάρχουν και μερικοί ανάμεσά τους, όπως ο Andreseen, που λένε ότι αντιθέτως, είναι ηθική προσταγή να επιταχύνουμε αυτή τη διαδρομή γιατί τότε θα φτάσουμε στο singularity, τη σύμφυση ανθρώπου και μηχανής και θα γίνουμε αθάνατοι – ΟΚ, διαλέξτε την διαταραγμένη ηλιθιότητα που σας ταιριάζει, η βασική ιδέα είναι, αν το καλοσκεφτείτε, ακριβώς η ίδια, η βελτίωση μέσω της τεχνολογίας της ανθρώπινης φύσης.) Τέτοια ιδεολογήματα ντύνουν όλες τις αποφάσεις των μεγάλων εταιρειών και των Venture Capitals, αποφάσεις που φυσικά στηρίζονται στα φράγκα και όχι σε τέτοιες φανταστικές ηθικές προσταγές.

Για παράδειγμα, οι δύο μεγάλες εταιρίες της ΤΝ στην Αμερική είναι η Anthropic και η OpenAi.

O λόγος που ιδρύθηκε η πρώτη ως διάσπαση της δεύτερης ήταν διαφωνίες για το πώς θα διατεθούν τα τεράστια κονδύλια (που θα επένδυαν η Microsoft και Venture Capitals) στην OpenAI.

Η ανακοίνωση όμως της Anthropic δεν μίλαγε για τα δις, έλεγε άλλα: ότι η εταιρεία δημιουργήθηκε ως Public Benefit Corporation (εταιρεία δημοσίου οφέλους) με επίκεντρο την έρευνα για ασφαλή και ευθυγραμμισμένα (aligned) μεγάλα γλωσσικά μοντέλα και μπλα μπλα μπλα.

Έτσι, παρά το alignment και την ηθική και τον effective altruism και διάφορες τέτοιες βλακείες, οι δύο εταιρείες δεν έχουν σταματήσει να μας βομβαρδίζουν με ανακοινώσεις που: α. Ισχυρίζονται ότι έχουν φτάσει σε επίπεδο Γενικής Τεχνητής Νοημοσύνης AGI (ή και ASI Τεχνητής Υπερ-Νοημοσύνης) και β. Λένε ότι δεν έχουν κάνει ακόμα το άτιμο το alignment και μας έχουν μείνει 1, 5, ή 10 χρόνια μέχρι η ΤΝ τους να φτάσει στην αυτοσυνείδηση και να εξαχνώσει όλη την ανθρωπότητα.

Μα εσείς δεν σκίζετε τα καλσόν σας ότι θέτε alignment? Τι παλεύετε τότε για το AGI χωρίς alignment? Μας δουλεύετε; Ναι μας δουλεύουν. Την Τετάρτη που πέρασε, παραιτήθηκε ένας πιτσιρικάς μηχανικός της Anthropic, ο Jacob Coxon, ισχυριζόμενος σε ένα τουί στο Χ ότι το έκανε επειδή η εταιρία δεν κάνει ό,τι περνάει από το χέρι της για να σταματήσει την δαιμονισμένη την ΤΝ, η οποία σύντομα θα μας καταστρέψει.

Ακολούθησε χαμός. Στην Βρετανία γίνεται λόγος για διεθνή συνδιάσκεψη για το ζήτημα. Ο Μπέρνι ο Σάντερς ξέχασε για λίγο την ασφαλιστική κάλυψη των Αμερικάνων και ζήτησε κι αυτός να ρυθμιστεί η ΤΝ και να απαγορευτούν τα επικίνδυνα πειράματα με αυτήν.

Τα μίντια τσίμπησαν την είδηση και την έκαναν πρωτοσέλιδο, ενώ στα σόσιαλ έγινε βέβαια το σώσε... ...Μιλώντας τώρα για σόσιαλ, αποδεικνύεται ότι η Wall Street Journal ανέβασε το τουί του Coxon 18 λεπτά πριν να το δημοσιεύσει ο ίδιος ο Coxon στο Χ, κάτι που σημαίνει ότι κάτι περίεργο συμβαίνει εδώ.

Ο λογαριασμός του Coxon ήταν ένας ολοκαίνουργιος επί πληρωμή λογαριασμός που άνοιξε ειδικά για την περίσταση (αυτό το τουί ήταν το μόνο περιεχόμενό του μέχρι προχτές που τσέκαρα), και το έκαναν ριτουί ένας σκασμός εργαζόμενοι στην Anthropic λίγα λεπτά αργότερα.

Λοιπόν, φαίνεται ότι κανείς από αυτούς δεν είπε «ρε τι μλκίες είν' τούτες θα μας κλείσει ο κιαρατάς με αυτά που λέει», αλλά όλοι σχολίασαν «πόσο αλήθεια» και «καλά τα λέει ο μάγκας» και «συμφωνώ». Τελικά, το όλο σκηνικό ήταν μία ακόμα από τις πολλές οργανωμένες εκστρατείες διαφήμισης που κάνουν οι δύο εταιρίες διαρκώς, διαφημίζοντας το πόσο κοντά είναι στην ΤΝ που θα μας σκοτώσει όλους. Ο Coxon ο ίδιος είναι υπαρκτό πρόσωπο και βαθιά χωμένος στο «ρασιοναλιστικό» κίνημα του effective altruism: έδωσε συνέντευξη μεταξύ άλλων στο Wired (γιατί ξεσκίστηκε να δίνει συνεντεύξεις δεξιά αριστερά), στην οποία είπε ότι είναι "crunch time" για την ανθρωπότητα· αυτή είναι η φράση κλειδί του γκουρού του χώρου, του Eliezer Yudkowsky -- σε άλλο ποστ για αυτόν τον κυριούλη.

Και θα μου πείς, «γιατί τα κάνουν αυτά όλα ρε μάστορα; Αν τους πάρουμε σοβαρά, θα πρέπει να κλείσουμε τις εταιρίες τους ΤΩΡΑ και να θάψουμε όλα τα Data Centers, πριν ξεφυτρώσει η AGI και μας φάει λάχανο.

Α, και να κλείσουμε τα αφεντικά των εταιριών, τον Altman και τον Amodei στην μπουζού για απάτη δισεκατομμυρίων». Σωστό.

Αλλά: 1. Είναι πολύ αποτελεσματική διαφήμιση.

Αν είμαι ένα βήμα πριν την AGI, τότε σίγουρα έχω έτοιμο λογισμικό που μπορεί να αντικαταστήσει εργασία (βλέπετε οι τελευταίες μετρήσεις παραγωγικότητας είναι πολύ απογοητευτικές σε αυτόν τον τομέα, τα LLM δεν μπορούν να υποκαταστήσουν εργασία με τον τρόπο που υπόσχονται). Άρα, υπονοείται εδώ, οι επιχειρήσεις μπορούν άφοβα να αγοράσουν συνδρομές για LLMs και να απολύσουν εργαζόμενους. Επίσης: Και η Anthropic και η OpenAI (αργότερα αυτή), ετοιμάζονται για είσοδο στο χρηματιστήριο και θα ζητήσουν πολλά δις, ας ετοιμαστούν οι λεφτάδες να ξηλωθούν. 2. Προφανώς κανείς πολιτικός δεν θα κλείσει τέτοια τέρατα παραγωγής (φανταστικού) χρήματος.

Φέτος οι ΗΠΑ καταγράφουν άνοδο στο ΑΕΠ.

Το σύνολο της ανόδου οφείλεται αποκλειστικά στον πυρετό επενδύσεων για ΤΝ. Αν σταματήσουν αυτές οι επενδύσεις, η κρίση είναι βέβαιη! 3. Το AGI είναι ανύπαρκτο ως πρόβλημα. ΤΑ LLMs ΔΕΝ έχουν νοημοσύνη, ΔΕΝ έχουν μνήμη (κάθε φορά που γράφετε ένα προμπτ το LLM έχει ξεχάσει τα προηγούμενα) και ΔΕΝ μπορούν να βγουν από το «κλουβί» τους και να αρχίσουν να πατάνε κόκκινα κουμπιά με πυρηνικά -- εκτός αν κάποιος τα συνδέσει με τα κουμπιά και τα διατάξει να το κάνουν.

Γιατί να το κάνει όμως; Αν έχει πρόσβαση στο κόκκινο κουμπί, γιατί να μην το πατήσει ο ίδιος και να το φχαριστηθεί; Τα LLMs είναι απλώς υπολογιστές που κάνουν τεράστιους πολλαπλασιασμούς (Τεχνικά μιλώντας πολλαπλασιάζουν τεράστιους πίνακες, αυτό είναι όλο.

Κάθε προμπτ κι ένας πολλαπλασιασμός.) Κάθε προμπτ μεταφράζεται σε πιθανότητες, το σύστημα κάνει πράξεις με αυτές, επιστρέψει μια άλλη πιθανότητα, την κάνει λέξεις με έναν συγκεκριμένο κανόνα και έχετε την απάντησή σας.

Το σύστημα δεν «καταλαβαίνει» και δεν «κατανοεί» τίποτε, απλώς κάνει πολλαπλασιασμούς.

Αυτός είναι ο λόγος που «έχουν παραισθήσεις» (hallucinations): μία στις δέκα περίπου φορές θα σας δώσουν μια λογικοφανή αλλά εντελώς κατασκευασμένη, φανταστική απάντηση γιατί έτσι λένε οι πιθανότητες.

Το σύστημα δεν καταλαβαίνει τι λέει, δεν καταλαβαίνει ότι η απάντηση είναι μπούρδα.

Η παραίσθηση είναι εγγενώς χτισμένη μέσα στο μοντέλο! Δεν ξέρω αν και πότε θα έρθει η επόμενη γενιά ΤΝ, αλλά μέχρι να έρθει, ΑΥΤΉ η γενιά δεν είναι (δυστυχώς) σε θέση να μας καταστρέψει.

Και αυτό το ξέρουν οι γελοίοι αυτοί τύποι, για αυτό και η διαφημιστική εκστρατεία.

Όταν μιλάμε για τον φανταστικό κίνδυνο (την AGI) τότε δεν γίνεται λόγος για τους πραγματικούς κινδύνους.

Για το τεράστιο κοινωνικό κόστος της των LLMs.

Για το ρεύμα που ακριβαίνει εξαιτίας τους επειδή αυτή τη στιγμή καταναλώνουν περί το 5 ως 6% του ρεύματος, ποσοστό που θα πάει στο 10% σε δυο τρία χρόνια αν δεν σκάσει η φούσκα (αμήν και πότε). Για το νερό από τους υδροφόρους ορίζοντες που καταναλώνουν για ψύξη.

Και δεν γίνεται λόγος για το πολύ ουσιαστικό ζήτημα των παιδιών που κυριολεκτικά τα αποβλακώνει: οι έρευνες είναι πολύ σαφείς.

Μαθητές και φοιτητές που χρησιμοποιούν ΤΝ για τα μαθήματά τους μετατρέπονται σε στούμπους, σε ζόμπι που δεν έχουν στοιχειώδεις ικανότητες κατανόησης κειμένων και επιστημονικών μεθόδων. Αυτά τα λίγα για την ώρα, αλλά το θέμα δεν τελείωσε· ο αγώνας συνεχίζεται...

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους