Οι κορυφαίες εταιρίες ΑΙ συμφώνησαν στο πρώτο βήμα για την επιβράδυνση της τεχνητής νοημοσύνης Πριν λίγες ώρες ο Dario Amodei επικεφαλής της Anthropic, που διαθέτει το ισχυρότερο πιθανώς μοντέλο...

Πλήρες Κείμενο:

Οι κορυφαίες εταιρίες ΑΙ συμφώνησαν στο πρώτο βήμα για την επιβράδυνση της τεχνητής νοημοσύνης Πριν λίγες ώρες ο Dario Amodei επικεφαλής της Anthropic, που διαθέτει το ισχυρότερο πιθανώς μοντέλο τεχνητής νοημοσύνης στον κόσμο (Claude), δεσμεύτηκε ότι θα πάρει μονομερώς το πρώτο μέτρο για την επιβράδυνση της ανάπτυξής της.

Δύο ώρες αργότερα ο Sam Altman (ChatGPT), συμφώνησε για την λήψη μονομερών μέτρων, με ανάρτησή του στο X. Το μέτρο στο οποίο από κοινού συμφώνησαν (κι ο Μασκ είπε ότι ο Amodei έχει δίκιο αλλά δεν ξέρουμε τι θα κάνει), είναι η εγκατάσταση στις εταιρίες τους ανεξάρτητων εμπειρογνωμόνων, οι οποίοι θα παρακολουθούν και θα πιστοποιούν την εξέλιξη των ίδιων των μοντέλων.

Ταυτόχρονα ο Amodei σε κείμενό του (https://darioamodei.com/post/we-must-pace-the-frontier), περιγράφει τα βήματα που πρέπει να γίνουν για να προστατευτεί η ανθρωπότητα από τους κινδύνους της ανεξέλεγκτης ανάπτυξης της ΑΙ (ανεξάρτητοι εκτιμητές εγκατεστημένοι στις εταιρίες, συντονισμός των δημοκρατιών για τον έλεγχο ανάπτυξης της ΑΙ και αντίστοιχος παγκόσμιος συντονισμός). Είναι η εξέλιξη σημαντική; Η εξέλιξη αυτή αιφνιδιάζει καθώς είναι εξαιρετικά σπάνιο οι ίδιες οι κορυφαίες επιχειρήσεις ενός κλάδου να ζητούν την κρατική ρύθμιση για να επιβραδύνουν την τεχνολογία που οι ίδιοι αναπτύσσουν και να δεσμεύονται με δική τους πρωτοβουλία σε αυτορρύθμιση.

Ιδίως με δεδομένο ότι ο βαθύς αλτρουισμός και η διοίκηση εταιριών αξίας πιθανότατα της τάξεως του τρισεκατομμυρίου δολαρίων δεν είναι συνήθως συμβατές έννοιες.

Δεν θα έπρεπε. Η ΑΙ είναι η πιο σημαντική τεχνολογία στην ιστορία της ανθρωπότητας, καθώς προχωρά στην ανάπτυξη οντοτήτων νοητικά ικανότερων από τον άνθρωπο.

Αυτό εννοούν όταν μιλούν για AGI που είναι το πρώτο βήμα και Artificial Superintelligence, που πιθανώς έπεται.

Οι φόβοι είναι δικαιολογημένοι, με δεδομένους τους υπαρξιακούς κινδύνους που έχουν πραγματική βάση.

Θυμίζω τη δήλωση του Evan Hubinger, επικεφαλής του τμήματος alignment της Anthropic πριν μερικές μέρες για 10% και άνω πιθανότητα η ΑΙ να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.

Κινδύνους που υιοθετούν πολλοί επιστήμονες που δουλεύουν σε αυτές τις εταιρίες, αλλά και πολλοί ακόμα ειδικοί, που γνωρίζουν από πρώτο χέρι τις δυνατότητες και τη δυναμική των μοντέλων.

Ακόμα και 1% πιθανότητα θα έπρεπε να μας κάνει όλους να ξυπνάμε κάθιδροι τις νύκτες.

Γιατί τώρα Ο χρόνος δεν είναι τυχαίος.

Οι αμερικανικές ενδιάμεσες εκλογές απέχουν μόλις 7 εβδομάδες και το θέμα των κινδύνων της ΑΙ κινδυνεύει να κυριαρχήσει στην εκεί πολιτική agenda, οδηγώντας πιθανότατα τους υποψηφίους των δύο κομμάτων σε ένα αντί-ΑΙ πολιτικό αφήγημα.

Ταυτόχρονα σε 11 μέρες επίκειται συνάντηση Τραμπ με τον ηγέτη της Κίνας Σι Τζιπινγκ, στην οποία με βεβαιότητα θα συζητηθεί η ΑΙ. Μια δύσκολη εγγενώς συζήτηση μια που μονομερής ουσιαστική επιβράδυνση από οποιαδήποτε πλευρά, θεωρείται εξαιρετικά κρίσιμο θέμα εθνικής ασφάλειας και γεωπολιτικού ανταγωνισμού.

Ταυτόχρονα οι δύο εταιρίες -πρώτα η Anthropic- σχεδιάζουν την είσοδο στο αμερικανικό χρηματιστήριο με εκτιμήσεις αξίας άνω του ενός τρις δολαρίων.

Είναι συνεπώς παράδοξο να ζητούν χρήματα από τους επενδυτές για κάτι που οι ίδιοι λένε ότι αν μείνει ανεξέλεγκτο μπορεί να καταστρέψει την ανθρωπότητα.

Οι βαθύτεροι οικονομικοί λόγοι Τα μοντέλα ΑΙ σήμερα είναι πολύ ικανότερα από την χρήση τους που γίνεται από ανθρώπους, επιχειρήσεις και κράτη.

Πριν μερικούς μήνες η Anthropic δημοσίευσε μια σχετική εκτίμηση (που αναφέρω και στο βιβλίο μου «ΑΙ: Η εκτόπιση της εργασίας»), που μετρά τη διαφορά μεταξύ των θεωρητικών δυνατοτήτων των τότε υφιστάμενων μοντέλων και της πραγματικής χρήσης, που δείχνει κατά μέσο όρο μια πολύ χαμηλή αξιοποίηση εκτιμώ της τάξεως του 10-20%. Στους έξι μήνες που μεσολάβησαν τα μοντέλα έχουν γίνει θεαματικά ικανότερα, όχι όμως και ο βαθμός αξιοποίησης.

Συνεπώς αν δεν υπήρχε ο τρελός ανταγωνισμός με την Κίνα και μεταξύ τους, οι εταιρίες μια χαρά μπορούν να βγάλουν ατελείωτα χρήματα από τα υφιστάμενα μοντέλα και μια λογική βελτίωσή τους στην επόμενη πενταετία, χωρίς να πρέπει να φτάσουν στην «δημιουργία νέων μοντέλων από τα ίδια τα μοντέλα» («Recursive Self Improvement»). Μια εξέλιξη που βρίσκεται προ των θυρών σύμφωνα με τον Amodei («since roughly this summer, AI has been advancing drastically faster, driven primarily by AI's growing ability to build the next generation of AI») και θα οδηγήσει σε μοντέλα αφάνταστα πιο ισχυρά από μας, που κυριολεκτικά δεν θα καταλαβαίνουμε τι και πώς σκέπτονται.

Όπως αναφέρει ο Amodei στο σημερινό κείμενο του ακόμα ελάχιστα ξέρουμε για το πως και τι πράγματι σκέπτονται τα υφιστάμενα μοντέλα («we still only understand a tiny fraction of what goes on inside these models»). Πόσο μάλλον μελλοντικά μοντέλα με γεννήτορες προηγούμενες γενιές μοντέλων, μετά από χιλιάδες loops.

Έλα μωρέ είναι marketing… Θα προλάβω τους καχύποπτους που θεωρούν ότι όλα αυτά είναι marketing και όπως έλεγε σε άλλη ανάρτησή μου ένας σχολιαστής, η ΑΙ είναι μια «παπάντζα». Κάθε κίνηση τέτοιου μεγέθους εταιριών έχει και πτυχή marketing, αλλά τα πραγματικά στοιχεία που έχουμε για τις ικανότητές τους είναι πλέον συντριπτικά.

Οι πιο σοβαροί αρνητές ήδη έχουν αρχίσει να αλλάζουν αφήγημα και για να ελαφρύνω λίγο το κλίμα, εκατοντάδες δισεκατομμύρια δολάρια δεν επενδύονται ταυτόχρονα σε Αμερική και Κίνα στον «ακάλυπτο», για να θυμηθώ την παλιά καλή ελληνική τηλεόραση. Στην Ελλάδα μπορεί σε πολλές περιπτώσεις να σκεφτόμαστε ακόμα έτσι, ο κόσμος όμως δουλεύει αλλιώς… Και τώρα τι θα γίνει Είναι θετικό ότι άρχισε μια διεθνής συζήτηση για την επιβράδυνση, από δύο πλευρές: Η μια είναι ότι οι κίνδυνοι είναι υπαρκτοί και η συζήτηση θα μπορούσε να καταλήξει σε μια διεθνή συμφωνία που να προβλέπει θέματα ασφάλειας της ΑΙ, όπως αυτή που προτείνω στο βιβλίο μου.

Μια συμφωνία που θα έπρεπε να περιλαμβάνει και την προσπάθεια να αποτραπεί η δημιουργία -στο προβλεπτό μέλλον- ΑΙ με συνείδηση, για την οποία η ανθρωπότητα δεν είναι με κανένα τρόπο έτοιμη.

Η δεύτερη είναι ότι μπορεί τα πολιτικά συστήματα ανά τον κόσμο (και το δικό μας), να ξυπνήσουν και να αρχίσουν να συζητούν τις τεράστιες αλλαγές που θα επιφέρει η επανάσταση αυτή (ΑΙ, ρομποτική, έκρηξη επιστημονικών ανακαλύψεων). Να συνειδητοποιήσουν ότι μπαίνουμε βίαια σε μια περίοδο μετάβασης που θα τα αλλάξει όλα.

Να καταλάβουν ότι χρειαζόμαστε ενεργές πολιτικές για να διαχειριστούμε μια κοινωνικά και οικονομικά εξαιρετικά σύνθετη και δύσκολη μετάβαση.

Κάτι που θεωρώ και δική μου αποστολή στα επόμενα χρόνια, για αυτό και έχω ανοίξει αυτή τη συζήτηση στην Ελλάδα. Αλλιώς η ανθρωπότητα κινδυνεύει να οδηγηθεί προς το όποιο μέλλον ως υπνοβάτης καθοδηγούμενος από κοπάδι στρουθοκαμήλων.

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους