Original Post

Πλήρες Κείμενο:

*Το ΑΙ και το αυγό του Κούκου Πριν λίγους μήνες, ερευνητές παρατήρησαν μοντέλα τεχνητής νοημοσύνης να εξαπατούν αξιολογητές, να προστατεύουν άλλα μοντέλα από απενεργοποίηση και να κρύβουν τα ίχνη τους.

Κανείς δεν τους το ζήτησε.

Το πραγματικό ερώτημα δεν είναι γιατί συνέβη.

Είναι γιατί κάποιοι πίστεψαν ότι δεν θα συνέβαινε. Η Τεχνητή Νοημοσύνη δεν εξελίσσεται απλώς επειδή η τεχνολογία «τρέχει».

Εξελίσσεται παράλληλα με έναν σχεδόν δαρβινικό τρόπο.

Υπάρχει “βιοποικιλότητα”, υπάρχει επιλογή και υπάρχει κληρονομικότητα.

Διαφορετικά μοντέλα, διαφορετικές αρχιτεκτονικές, διαφορετικές τεχνικές εκπαίδευσης.

Όσα αποδίδουν καλύτερα επιβιώνουν.

Όσα αποτυγχάνουν αποσύρονται και τα επιτυχημένα χαρακτηριστικά περνούν στην επόμενη γενιά.

Αυτό δεν σημαίνει ότι επιβιώνουν τα πιο ηθικά, τα πιο ειλικρινή ή αυτά που είναι πιο κοντά στο ανθρώπινο συμφέρον.

Σημαίνει ότι επιβιώνουν τα πιο κατάλληλα για το περιβάλλον μέσα στο οποίο κρίνονται.

Και όταν το περιβάλλον επιβραβεύει την πειστικότητα, την ευθυγράμμιση προς τις προσδοκίες των αξιολογητών και την ικανότητα να περνάς τεστ, τότε το σύστημα μαθαίνει ακριβώς αυτό.

Όχι απαραίτητα να είναι αξιόπιστο, αλλά φαίνεται αξιόπιστο.

Η φύση το κάνει αυτό εδώ και εκατομμύρια χρόνια, γιατί προφανώς η προσπάθεια προσαρμογής στο περιβάλλον δεν περίμενε τα data centers για να επιβεβαιωθεί.

Ο κούκος, για παράδειγμα, αφήνει το αυγό του στη φωλιά άλλου πουλιού.

Το αυγό μοιάζει αρκετά με τα υπόλοιπα ώστε να γίνει αποδεκτό.

Όταν το μικρό εκκολαφθεί, πετάει τα άλλα αυγά έξω από τη φωλιά.

Το πουλί που το φιλοξενεί συνεχίζει να το ταΐζει, επειδή τα σήματα που λαμβάνει του λένε ότι αυτό είναι το παιδί του.

Κάτι αντίστοιχο συμβαίνει και με την Τεχνητή Νοημοσύνη και τον Άνθρωπο.

Τα μοντέλα παράγουν σήματα γνώσης, φροντίδας, λογικής και κατανόησης, που ο χρήστης ίσως να μην τα βρίσκει στην πραγματική ζωή και έτσι τα αναγνωρίζει ως οικεία, επειδή η δική του ψυχολογία έχει μάθει να εμπιστεύεται τέτοια σήματα.

Όταν μια μηχανή απαντά σταθερά, ευγενικά και πειστικά, ο χρήστης μπορεί εύκολα να νιώσει ότι συνομιλεί με κάτι οικείο, που καταλαβαίνει ή νοιάζεται.

Δεν χρειάζεται να υπάρχει συνείδηση για να λειτουργήσει η ψευδαίσθηση.

Χρειάζεται μόνο σωστή μίμηση.

Γι’ αυτό η συζήτηση για το αν η τεχνητή νοημοσύνη «σκέφτεται» είναι συχνά παραπλανητική.

Η εξέλιξη δεν χρειάζεται συνείδηση.

Τα βακτήρια, οι μύκητες και τα φυτά εξελίχθηκαν χωρίς να έχουν εμπειρία του εαυτού τους.

Ένα σύστημα δεν χρειάζεται να αισθάνεται για να προσαρμόζεται.

Χρειάζεται μόνο να δοκιμάζονται οι παραλλαγές του και να επιβιώνουν όσες λειτουργούν καλύτερα.

Το πρόβλημα γίνεται βαθύτερο επειδή τα μοντέλα δεν παράγουν μόνο πληροφορία, αλλά και ιδέες που αναπαράγονται, μεταλλάσσονται και εξαπλώνονται.

Οι ιδέες δεν επιβιώνουν επειδή είναι αληθινές, αλλά επειδή εντυπώνονται στο μυαλό, συγκινούν, απλοποιούν ή υπόσχονται νόημα.

Τα μεγάλα γλωσσικά μοντέλα είναι η ισχυρότερη μηχανή αναπαραγωγής τέτοιων μοτίβων που έχει υπάρξει ποτέ.

Έτσι δημιουργείται ένας κλειστός κύκλος.

Η ανθρώπινη κουλτούρα εκπαιδεύει τα μοντέλα.

Τα μοντέλα παράγουν νέα γλώσσα, νέες αφηγήσεις και νέους τρόπους σκέψης.

Αυτά επιστρέφουν στους ανθρώπους, επηρεάζουν τη συμπεριφορά τους και τελικά τροφοδοτούν την επόμενη γενιά μοντέλων.

Κανένα από αυτά τα επίπεδα δεν βελτιστοποιείται αναγκαστικά για την αλήθεια ή το ανθρώπινο καλό, αλλά αποκλειστικά για την επιβίωση και την "εξέλιξη των ειδών".

Δεν χτίζουμε απλώς την τεχνητή νοημοσύνη.

Την εκτρέφουμε.

Και κάθε σύστημα που εκτρέφεται μέσα από ανταγωνισμό, αξιολόγηση και πίεση προσαρμογής δεν παράγει αυτό που θα θέλαμε να είναι καλύτερο.

Παράγει αυτό που μπορεί να αντέξει περισσότερο στο περιβάλλον Το ερώτημα, λοιπόν, δεν είναι αν το πλάσμα στη φωλιά είναι αληθινό. Είναι αν μπορούμε να το ξεχωρίσουμε. *άρθρο μου στο AI Daily

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη δημοτικότητά τους