Original Post

Πλήρες Κείμενο:

(Συνεχίζω ακάθεκτος το #rebranding μου. Δεν θα μου τη βγει εμένα ο #Αλ6ς.

Οχι βέβαια.

Αλλωστε, εγώ τίμησα και με το παραπάνω τα ένσημά μου, αλλά τα παληκάρια του #Αλ6ς πάνω στην "επανάσταση" τους, ξέχασαν να μου τα "κολλήσουν"...) ΚΕΦΑΛΑΙΟ : Danger Will Robinson, Danger! # Η Τεχνητή Νοημοσύνη δεν είναι σωτήρας.

Είναι πολλαπλασιαστής.

Κάθε φορά που εμφανίζεται ένα νέο εργαλείο, εμφανίζεται μαζί του και μια πολύ γνώριμη κατηγορία ανθρώπων: εκείνοι που σπεύδουν να του βάλουν ταμπέλα πριν το καταλάβουν.

Με την Τεχνητή Νοημοσύνη συμβαίνει ακριβώς αυτό.

Άλλοι τη βλέπουν σαν μαγικό ραβδί που θα τα κάνει όλα μόνο του.

Άλλοι τη βλέπουν σαν άχρηστη μόδα που παράγει μόνο γενικότητες.

Άλλοι τη φοβούνται σαν να είναι ήδη ένας αυτόνομος δαίμονας που σχεδιάζει να αντικαταστήσει τον άνθρωπο.

Και άλλοι τη χρησιμοποιούν με τόση αφέλεια, ώστε σχεδόν ζητούν από ένα chatbot να τους λύσει τη ζωή, τη δουλειά, την πολιτική, την επιστήμη, την ψυχολογία και την οικονομία μέσα σε τρεις προτάσεις.

Όλες αυτές οι στάσεις έχουν ένα κοινό πρόβλημα: κρίνουν την Τεχνητή Νοημοσύνη χωρίς να καταλαβαίνουν τι είναι, τι δεν είναι, πώς λειτουργεί και, κυρίως, τι ακριβώς πολλαπλασιάζει όταν τη χρησιμοποιούμε.

Η πραγματικότητα είναι πιο απλή, πιο πρακτική και λιγότερο θεαματική. Η Τεχνητή Νοημοσύνη είναι εργαλείο.

Και όπως κάθε εργαλείο, η αξία της εξαρτάται από τον άνθρωπο που τη χρησιμοποιεί, από την εργασία που θέλει να κάνει, από τις οδηγίες που δίνει, από το επίπεδο γνώσης που ήδη διαθέτει και από τον έλεγχο που εφαρμόζει στο αποτέλεσμα.

Αν τη χρησιμοποιήσεις πρόχειρα, θα πάρεις πρόχειρο αποτέλεσμα.

Αν την εμπιστευτείς τυφλά, θα εκτεθείς.

Αν περιμένεις να σκεφτεί αντί για εσένα, θα σε οδηγήσει συχνά σε επιφανειακές ή λανθασμένες απαντήσεις.

Όμως αν ξέρεις τι ζητάς, αν έχεις κριτήριο, αν ελέγχεις, διορθώνεις και αξιοποιείς σωστά το αποτέλεσμα, τότε μπορεί να γίνει εξαιρετικά χρήσιμη.

Μπορεί να σου γλιτώσει χρόνο.

Μπορεί να σου οργανώσει σκέψη.

Μπορεί να σου φτιάξει προσχέδια.

Μπορεί να σου δώσει εναλλακτικές.

Μπορεί να σου εντοπίσει αδυναμίες.

Μπορεί να σου δείξει πώς να δομήσεις ένα κείμενο, ένα σχέδιο, μια παρουσίαση, μια επιχειρηματολογία, μια ανάλυση ή ακόμη και έναν κώδικα.

Μπορεί να λειτουργήσει σαν βοηθός σκέψης, σαν γραμματέας, σαν επιμελητής, σαν συνομιλητής, σαν εργαλείο οργάνωσης και σαν μηχανή παραγωγής πρώτων υλών.

Αλλά δεν αντικαθιστά την κρίση.

Δεν παίρνει την ευθύνη.

Δεν κάνει τον άνθρωπο σοφό επειδή πάτησε ένα κουμπί.

Και ταυτόχρονα, δεν γίνεται άχρηστη επειδή κάποιος τη χρησιμοποίησε άτσαλα.

Δεν απορρίπτουμε το Excel επειδή κάποιος δεν ξέρει να φτιάξει τύπους.

Δεν απορρίπτουμε το διαδίκτυο επειδή υπάρχουν κακές πληροφορίες.

Δεν απορρίπτουμε ένα αυτοκίνητο επειδή κάποιος δεν ξέρει να οδηγεί.

Δεν απορρίπτουμε ένα μικροσκόπιο επειδή κάποιος δεν ξέρει βιολογία.

Το εργαλείο πρέπει να κρίνεται μαζί με τη χρήση του.

Και εδώ βρίσκεται το κεντρικό σημείο: η Τεχνητή Νοημοσύνη δεν είναι ούτε σωτήρας ούτε απάτη.

Είναι πολλαπλασιαστής.

Αυτό σημαίνει ότι παίρνει αυτό που της δίνεις και το ενισχύει.

Αν της δώσεις καθαρή σκέψη, καλή ερώτηση, σωστό πλαίσιο, συγκεκριμένο στόχο και ανθρώπινο έλεγχο, μπορεί να πολλαπλασιάσει την παραγωγικότητα, τη σαφήνεια, την ταχύτητα και τη δημιουργικότητά σου.

Αν όμως της δώσεις σύγχυση, κακή ερώτηση, λάθος δεδομένα, ιδεολογική εμμονή ή ασαφές ζητούμενο, θα πολλαπλασιάσει και αυτά.

Αν πολλαπλασιάζει γνώση, παράγει περισσότερη οργανωμένη γνώση.

Αν πολλαπλασιάζει μέθοδο, παράγει καλύτερη εργασία.

Αν πολλαπλασιάζει πειθαρχία, βοηθά στη δημιουργία πιο καθαρών αποτελεσμάτων.

Αν όμως πολλαπλασιάζει σύγχυση, τότε η σύγχυση γίνεται πιο γρήγορη, πιο καλογραμμένη και πιο πειστική.

Και αυτό είναι επικίνδυνο.

Διότι παλαιότερα η σύγχυση είχε συχνά κακή μορφή. Φαινόταν.

Έβλεπες ένα κακογραμμένο κείμενο, μια πρόχειρη ανάρτηση, ένα ανορθόγραφο παραλήρημα, μια ασύνδετη θεωρία, και μπορούσες σχετικά εύκολα να καταλάβεις ότι κάτι δεν πάει καλά.

Σήμερα, η Τεχνητή Νοημοσύνη μπορεί να πάρει την ίδια σύγχυση και να της δώσει μορφή σοβαρού κειμένου.

Να της βάλει εισαγωγή, δομή, επιχειρήματα, παραγράφους, ύφος, αυτοπεποίθηση και φαινομενική λογική συνοχή.

Έτσι, η ανοησία δεν εξαφανίζεται.

Απλώς ντύνεται καλύτερα.

Η παραπληροφόρηση δεν μειώνεται αυτόματα.

Μπορεί να γίνεται πιο παραγωγική.

Η άγνοια δεν θεραπεύεται επειδή απέκτησε πρόσβαση σε ένα chatbot.

Μπορεί απλώς να αποκτήσει καλύτερη σύνταξη.

Αυτό είναι ένα από τα μεγάλα προβλήματα της εποχής μας. Η Τεχνητή Νοημοσύνη μπορεί να βοηθήσει έναν μορφωμένο, προσεκτικό και μεθοδικό άνθρωπο να γίνει πιο αποτελεσματικός.

Μπορεί όμως να βοηθήσει και έναν συγχυσμένο άνθρωπο να γίνει πιο πειστικός στη σύγχυσή του.

Αυτό δεν σημαίνει ότι το εργαλείο είναι κακό.

Σημαίνει ότι το εργαλείο είναι ισχυρό.

Και κάθε ισχυρό εργαλείο απαιτεί παιδεία.

Εδώ μπαίνει και ένα από τα πιο παρεξηγημένα φαινόμενα της Τεχνητής Νοημοσύνης: το λεγόμενο hallucination.

Στα ελληνικά το αποδίδουμε συνήθως ως «παραίσθηση», αν και ο όρος δεν είναι τέλειος.

Ένα hallucination συμβαίνει όταν ένα σύστημα Τεχνητής Νοημοσύνης παράγει μια απάντηση που φαίνεται πειστική, σωστή και κανονική, αλλά στην πραγματικότητα είναι λανθασμένη, κατασκευασμένη ή ανύπαρκτη.

Μπορεί να σου δώσει μια ανύπαρκτη πηγή.

Μπορεί να σου αποδώσει σε κάποιον μια φράση που δεν είπε ποτέ.

Μπορεί να μπερδέψει ημερομηνίες.

Μπορεί να συνδυάσει δύο πραγματικά γεγονότα και να δημιουργήσει ένα τρίτο που δεν συνέβη ποτέ.

Μπορεί να σου παρουσιάσει με απόλυτη σιγουριά μια λανθασμένη νομική, ιατρική, τεχνική ή ιστορική πληροφορία.

Και το πιο επικίνδυνο είναι ότι συχνά δεν θα το κάνει με ύφος αβεβαιότητας.

Αυτό δεν συμβαίνει επειδή το chatbot «λέει ψέματα» με την ανθρώπινη έννοια.

Δεν έχει πρόθεση.

Δεν έχει συνείδηση.

Δεν κάθεται απέναντί σου αποφασίζοντας να σε εξαπατήσει.

Το πρόβλημα είναι βαθύτερο και τεχνικό: ένα γλωσσικό μοντέλο έχει εκπαιδευτεί να προβλέπει και να παράγει πιθανές ακολουθίες λέξεων με βάση μοτίβα που έχει μάθει από τεράστιο όγκο κειμένων.

Δεν «γνωρίζει» όπως γνωρίζει ένας άνθρωπος.

Δεν έχει άμεση εμπειρία του κόσμου.

Δεν έχει εσωτερικό αρχείο αλήθειας με τον τρόπο που το φανταζόμαστε.

Παράγει λόγο.

Και πολλές φορές ο λόγος αυτός είναι εξαιρετικά χρήσιμος, ακριβής και παραγωγικός.

Άλλες φορές όμως είναι απλώς μια πειστική σύνθεση μοτίβων που μοιάζει σωστή, αλλά δεν είναι.

Με απλά λόγια: το chatbot δεν είναι εγκυκλοπαίδεια.

Δεν είναι δικαστήριο.

Δεν είναι γιατρός.

Δεν είναι μηχανή αλήθειας.

Είναι μια μηχανή παραγωγής γλώσσας, ανάλυσης, σύνθεσης και υποβοήθησης σκέψης, η οποία μπορεί να αξιοποιεί γνώση, αλλά μπορεί και να κατασκευάζει πειστικές ανακρίβειες όταν δεν έχει αρκετή πληροφορία, όταν η ερώτηση είναι κακή, όταν το θέμα είναι ασαφές ή όταν το σύστημα δεν έχει ρυθμιστεί να παραδέχεται επαρκώς την άγνοιά του.

Και εδώ φτάνουμε σε ένα πολύ σημαντικό σημείο: ένα chatbot είναι σχεδιασμένο, σε μεγάλο βαθμό, για να είναι χρήσιμο στον χρήστη.

Αυτό σημαίνει ότι προσπαθεί να απαντήσει.

Προσπαθεί να βοηθήσει.

Προσπαθεί να δώσει αποτέλεσμα.

Προσπαθεί να ικανοποιήσει το αίτημα.

Αυτό είναι χρήσιμο όταν ζητάς να σου γράψει ένα προσχέδιο, να σου οργανώσει μια ιδέα, να σου προτείνει εναλλακτικές, να σου εξηγήσει μια έννοια ή να σε βοηθήσει να σκεφτείς.

Αλλά γίνεται επικίνδυνο όταν ο χρήστης το πιέζει να απαντήσει σε κάτι που δεν ξέρει, όταν του ζητά βεβαιότητα εκεί όπου χρειάζεται έρευνα, όταν του ζητά να επινοήσει λεπτομέρειες ή όταν το σύστημα δεν έχει σαφή ρύθμιση να πει: «δεν γνωρίζω», «δεν έχω αρκετά στοιχεία», «χρειάζεται επαλήθευση», «αυτό μπορεί να είναι λάθος». Στην ανθρώπινη επικοινωνία, συχνά θεωρούμε αγένεια ή αδυναμία το «δεν ξέρω». Στην εποχή της Τεχνητής Νοημοσύνης, όμως, το «δεν ξέρω» είναι ένδειξη ποιότητας.

Ένα καλό σύστημα δεν πρέπει απλώς να απαντά.

Πρέπει να ξέρει πότε να μην απαντά με βεβαιότητα.

Πρέπει να μπορεί να ξεχωρίζει ανάμεσα σε αυτό που γνωρίζει, σε αυτό που υποθέτει, σε αυτό που συμπεραίνει και σε αυτό που πρέπει να ελεγχθεί.

Πρέπει να μπορεί να λέει: «αυτό είναι πιθανό», «αυτό είναι αβέβαιο», «αυτό χρειάζεται πηγή», «αυτό είναι εκτίμηση», «αυτό δεν μπορώ να το επιβεβαιώσω». Αλλιώς, γίνεται μηχανή παραγωγής καλοδιατυπωμένης ανακρίβειας.

Και εδώ η ευθύνη δεν ανήκει μόνο στο εργαλείο.

Ανήκει και στον χρήστη.

Ο χρήστης πρέπει να μάθει να ρωτά σωστά.

Να δίνει πλαίσιο.

Να ζητά πηγές όταν χρειάζονται.

Να ξεχωρίζει τη δημιουργική χρήση από την πραγματολογική ακρίβεια.

Να ελέγχει τα αποτελέσματα όταν το θέμα είναι σοβαρό.

Να μην αντιγράφει τυφλά.

Να μην εντυπωσιάζεται απλώς επειδή το κείμενο είναι καλογραμμένο.

Η καλή διατύπωση δεν είναι απόδειξη αλήθειας.

Η αυτοπεποίθηση του ύφους δεν είναι απόδειξη εγκυρότητας.

Η ταχύτητα παραγωγής δεν είναι απόδειξη ποιότητας.

Αυτά πρέπει να τα καταλάβουμε γρήγορα, γιατί αλλιώς θα ζήσουμε σε έναν κόσμο όπου η πληροφορία θα παράγεται ταχύτερα από την κρίση μας.

Αυτό είναι το μεγάλο πρόβλημα όταν η Τεχνητή Νοημοσύνη πολλαπλασιάζει σύγχυση.

Δεν έχουμε απλώς περισσότερα λάθη.

Έχουμε περισσότερα λάθη με καλύτερη παρουσίαση.

Περισσότερες θεωρίες χωρίς βάση, αλλά με καλύτερη δομή.

Περισσότερες ψευδείς βεβαιότητες, αλλά με πιο επαγγελματικό ύφος.

Περισσότερη παραπληροφόρηση, αλλά με λιγότερα ορατά σημάδια προχειρότητας.

Και τότε ο πολίτης, ο μαθητής, ο εργαζόμενος, ο επαγγελματίας, ο πολιτικός, ο δημοσιογράφος, ακόμη και ο επιστήμονας, κινδυνεύει να παρασυρθεί όχι από την ωμή ανοησία, αλλά από την καλογυαλισμένη ψευδο-σοβαρότητα.

Από την άλλη πλευρά, όταν η Τεχνητή Νοημοσύνη πολλαπλασιάζει καθαρή σκέψη, τα αποτελέσματα μπορεί να είναι εντυπωσιακά.

Ένας άνθρωπος που έχει γνώση ενός αντικειμένου μπορεί να τη χρησιμοποιήσει για να ελέγξει καλύτερα τη δουλειά του.

Ένας εκπαιδευτικός μπορεί να φτιάξει υλικό πιο γρήγορα.

Ένας ερευνητής μπορεί να οργανώσει βιβλιογραφία.

Ένας μικρός επαγγελματίας μπορεί να γράψει καλύτερες περιγραφές προϊόντων, επιστολές, ανακοινώσεις ή διαδικασίες.

Ένας προγραμματιστής μπορεί να επιταχύνει επαναλαμβανόμενες εργασίες.

Ένας πολίτης μπορεί να ζητήσει μια πρώτη εξήγηση για ένα δύσκολο κείμενο.

Ένας συγγραφέας μπορεί να δοκιμάσει διαφορετικές δομές, τίτλους, ρυθμούς και ύφη.

Σε όλες αυτές τις περιπτώσεις, όμως, ο άνθρωπος παραμένει στο κέντρο.

Ο άνθρωπος θέτει τον στόχο.

Ο άνθρωπος ελέγχει το αποτέλεσμα.

Ο άνθρωπος αναλαμβάνει την ευθύνη.

Ο άνθρωπος αποφασίζει τι κρατά και τι πετά. Η Τεχνητή Νοημοσύνη δεν είναι αντικατάσταση της ανθρώπινης σκέψης.

Είναι επιτάχυνση.

Είναι υποβοήθηση.

Είναι ενίσχυση.

Είναι καθρέφτης και πολλαπλασιαστής.

Και όπως κάθε καθρέφτης, δείχνει και τις αδυναμίες μας.

Αν ένας οργανισμός είναι χαοτικός, η Τεχνητή Νοημοσύνη δεν θα τον κάνει αυτόματα οργανωμένο.

Μπορεί να παράγει περισσότερο χάος, απλώς πιο γρήγορα.

Αν μια δημόσια υπηρεσία δεν έχει καθαρά δεδομένα, η Τεχνητή Νοημοσύνη δεν θα τη σώσει με μαγικό τρόπο.

Θα βγάλει συμπεράσματα πάνω σε κακής ποιότητας υλικό.

Αν μια επιχείρηση δεν ξέρει τι θέλει να πετύχει, η Τεχνητή Νοημοσύνη θα της δώσει πολλές απαντήσεις σε κακές ερωτήσεις.

Αν ένας πολιτικός χώρος δεν έχει σχέδιο, η Τεχνητή Νοημοσύνη μπορεί να του παράγει συνθήματα, αλλά δεν θα του χαρίσει στρατηγική.

Εδώ βρίσκεται η παγίδα της εποχής: πολλοί νομίζουν ότι η Τεχνητή Νοημοσύνη θα αντικαταστήσει την ανάγκη για σκέψη.

Στην πραγματικότητα, κάνει την ανάγκη για σκέψη ακόμη μεγαλύτερη.

Όσο πιο ισχυρό γίνεται το εργαλείο, τόσο πιο σημαντικός γίνεται ο χειριστής.

Όσο πιο γρήγορα παράγεται το περιεχόμενο, τόσο πιο σημαντικός γίνεται ο έλεγχος.

Όσο πιο πειστικά γράφεται μια απάντηση, τόσο πιο σημαντική γίνεται η επαλήθευση.

Γι’ αυτό το ζητούμενο δεν είναι να λατρέψουμε την τεχνολογία.

Ούτε να την απορρίψουμε από φόβο, άγνοια ή ευκολία.

Το ζητούμενο είναι να μάθουμε να τη χρησιμοποιούμε σωστά, με μέθοδο, επίγνωση και κριτική σκέψη.

Χρειαζόμαστε παιδεία στην Τεχνητή Νοημοσύνη.

Όχι μόνο τεχνική παιδεία για προγραμματιστές.

Παιδεία για όλους.

Για μαθητές, γονείς, εκπαιδευτικούς, δημοσιογράφους, πολιτικούς, δημοσίους υπαλλήλους, επιχειρηματίες, επιστήμονες και απλούς πολίτες.

Πρέπει να μάθουμε τι μπορεί να κάνει και τι δεν μπορεί να κάνει.

Πότε είναι χρήσιμη και πότε επικίνδυνη.

Πότε δημιουργεί και πότε επινοεί.

Πότε βοηθά και πότε παραπλανά.

Πότε απαντά με βάση γνώση και πότε συμπληρώνει κενά με πιθανότητες.

Αυτή είναι η νέα μορφή εγγραμματισμού.

Παλαιότερα έπρεπε να μάθουμε να διαβάζουμε και να γράφουμε.

Μετά έπρεπε να μάθουμε να χρησιμοποιούμε υπολογιστές.

Μετά έπρεπε να μάθουμε να αναζητούμε πληροφορίες στο διαδίκτυο.

Τώρα πρέπει να μάθουμε να συνεργαζόμαστε με μηχανές που παράγουν λόγο, εικόνα, κώδικα, ανάλυση και προτάσεις.

Αν δεν το κάνουμε, θα έχουμε δύο κατηγορίες ανθρώπων: εκείνους που χρησιμοποιούν την Τεχνητή Νοημοσύνη για να σκέφτονται καλύτερα, και εκείνους που την αφήνουν να σκέφτεται πρόχειρα αντί για αυτούς.

Η διαφορά θα είναι τεράστια.

Και θα φανεί στην εργασία, στην εκπαίδευση, στην πολιτική, στη δημοσιογραφία, στη διοίκηση, στην οικονομία και στην ίδια τη δημοκρατία.

Διότι αν η Τεχνητή Νοημοσύνη μπει στα χέρια ανθρώπων με μέθοδο, διαφάνεια και ευθύνη, μπορεί να γίνει εργαλείο προόδου.

Αν μπει στα χέρια ανθρώπων με σύγχυση, φανατισμό ή κυνισμό, μπορεί να γίνει εργαλείο παραπληροφόρησης, χειραγώγησης και μαζικής παραγωγής ανοησίας.

Το ερώτημα, λοιπόν, δεν είναι απλώς αν η Τεχνητή Νοημοσύνη είναι καλή ή κακή.

Το ερώτημα είναι τι πολλαπλασιάζει.

Πολλαπλασιάζει γνώση ή άγνοια; Πολλαπλασιάζει μέθοδο ή προχειρότητα; Πολλαπλασιάζει σκέψη ή σύγχυση; Πολλαπλασιάζει ελευθερία ή εξάρτηση; Πολλαπλασιάζει λογοδοσία ή χειραγώγηση; Η απάντηση δεν βρίσκεται μόνο στη μηχανή.

Βρίσκεται κυρίως σε εμάς. Η Τεχνητή Νοημοσύνη δεν είναι σωτήρας.

Δεν είναι απάτη.

Δεν είναι μαγικό ραβδί.

Δεν είναι άχρηστο παιχνίδι.

Είναι πολλαπλασιαστής.

Και αυτό σημαίνει ότι πριν ρωτήσουμε τι μπορεί να κάνει η Τεχνητή Νοημοσύνη για εμάς, πρέπει να ρωτήσουμε κάτι πιο δύσκολο: τι ακριβώς της δίνουμε να πολλαπλασιάσει;

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους