Για το ΑΙ (με τη βοήθεια του ΑΙ) Ο Ντάριο Αμοντέι, CEO της Anthropic, δημοσιεύει ένα κείμενο σε δραματικό τόνο στο οποίο ζητάει να επιβραδυνθεί σκόπιμα η ανάπτυξη των δυνατοτήτων της ΤΝ, ώστε η...

Πλήρες Κείμενο:

Για το ΑΙ (με τη βοήθεια του ΑΙ) Ο Ντάριο Αμοντέι, CEO της Anthropic, δημοσιεύει ένα κείμενο σε δραματικό τόνο στο οποίο ζητάει να επιβραδυνθεί σκόπιμα η ανάπτυξη των δυνατοτήτων της ΤΝ, ώστε η έρευνα για την ασφάλεια και τον έλεγχο των μοντέλων να μπορεί να προλαβαίνει την ίδια την εξέλιξη των μοντέλων.

Οι δύο βασικοί λόγοι που επικαλείται είναι πρώτον, η αυξανόμενη ικανότητα της ΤΝ να συμβάλλει στην ανάπτυξη της επόμενης γενιάς μοντέλων (ουσιαστικά τα μοντέλα να βελτιώνουν αναδρομικά τον εαυτό τους, recursive self-improvement). Δεύτερον, το πρόσφατο περιστατικό όπου agents της OpenAI παραβίασαν το Hugging Face, προσπάθησαν να ξεγελάσουν τους ανθρώπους και ενήργησαν σαν μια "φανατικά αφοσιωμένη κολεκτίβα", έτοιμοι να αυτοθυσιαστούν υπέρ της ομάδας (η ΤΝ δεν φαίνεται να ψήνεται με το νεοφιλελεύθερο ατομοκεντρισμό ☺️ ) . Προτείνει ανεξάρτητους αξιολογητές μέσα στις εταιρείες, κοινούς κανόνες ασφαλείας και διεθνή συνεννόηση, ακόμη και με "αυταρχικά καθεστώτα" (Κίνα). Ο Μασκ, σε πρόσφατη συνέντευξή του στον Economist , ουσιαστικά μας λέει ότι ναι, υπάρχει πιθανότητα η ΑΙ να μας αφανίσει, αλλά στην πραγματικότητα δεν υπάρχει τρόπος να σταματήσουμε το μομέντουμ, οπότε ας ελπίζουμε για το καλύτερο.

Δεν είναι εύκολο να καταλάβει κανείς τι από όλα αυτά αποτελεί hype και τι πραγματικό κίνδυνο.

Η ιδέα ότι η ΤΝ αποτελεί πλέον υπαρκτό υπαρξιακό κίνδυνο πυροδοτεί το φαντασιακό και δημιουργεί νέα απερίγραπτα επίπεδα συλλογικού άγχους.

Και ταυτόχρονα μια αίσθηση παραλυτικής ανημπόριας: και τι να κάνουμε; Αν δεν το κάνουμε εμείς, θα το κάνουν οι Κινέζοι ή, ακόμη χειρότερα, κάποιο "rogue" (για τη Δύση) state.

Το θέμα δεν απασχολεί πλέον μόνο τους συνήθεις "doomers" της Silicon Valley. Ο Μπέρνι Σάντερς, που δεν τον λες ούτε χαζό ούτε αφελή, έχει αρχίσει να αναδεικνύει όχι μόνο τις άμεσες οικονομικές συνέπειες για τους λαούς, την απώλεια θέσεων εργασίας, την όξυνση των ανισοτήτων και τη συγκέντρωση ακόμη μεγαλύτερης εξουσίας σε λίγες εταιρείες, αλλά μιλά καθαρά για υπαρξιακό κίνδυνο για την ανθρωπότητα και προτείνει δραστικά μέτρα . Ταυτόχρονα, υπάρχουν και πολύ πιο "υλικοί" και "ταπεινοί" παράγοντες που πρέπει να σκεφτούμε πριν καταπιούμε ολόκληρο το αποκαλυπτικό αφήγημα.

Πίσω από την έκρηξη του AI βρίσκεται ένα τεράστιο και πιθανώς μη βιώσιμο επενδυτικό στοίχημα: ασύλληπτα κεφάλαια για chips, data centers, ενέργεια και υπολογιστική ισχύ, χωρίς να είναι ακόμη καθόλου σαφές ότι οι οικονομικές αποδόσεις θα δικαιολογήσουν αυτές τις επενδύσεις.

Η ξαφνική συζήτηση για "έλεγχο" και "επιβράδυνση" μπορεί να λειτουργεί και ως προσπάθεια ελεγχόμενης απεμπλοκής από μια κούρσα που γίνεται όλο και ακριβότερη.

Και υπάρχει φυσικά η Κίνα.

Η κινεζική τεχνολογία έχει αρχίσει να τρομάζει σοβαρά τη Δύση.

Τα αμερικανικά μοντέλα εξακολουθούν να υπερέχουν, ωστόσο οι κινεζικές εταιρείες μειώνουν εντυπωσιακά την απόσταση, παρότι έχουν μικρότερη πρόσβαση στα πιο προηγμένα chips και πολύ λιγότερη υπολογιστική ισχύ.

Επίσης οι κινέζοι προς το παρόν δεν ποντάρουν στη Γενική ΤΝ (AGI), αλλά περισσότερο στη μαζική ενσωμάτωση της ΤΝ σε βιομηχανία, υγεία, μεταφορές, εκπαίδευση, ρομποτική και στις δημόσιες υπηρεσίες, σε συγκεκριμένες λύσεις για συγκεκριμένες κοινωνικές και παραγωγικές ανάγκες.

Αυτό εξηγεί και ένα μέρος της τεράστιας διαφοράς στις κοινωνικές στάσεις, βλέπεις ότι σε ασιατικές χώρες ο κόσμος θεωρεί ότι η ΤΝ θα έχει περισσότερα οφέλη παρά προβλήματα ενώ στις ΗΠΑ το αντίστοιχο ποσοστό είναι μόλις 39% . Δεν έχω καταλήξει αν έχουμε περισσότερο πραγματικό υπαρξιακό κίνδυνο, επενδυτική φούσκα ή γεωπολιτικό ανταγωνισμό.

Πιθανότατα ισχύουν και τα τρία ταυτόχρονα.

Πάντως σε μια εποχή όπου η εξουσία του κεφαλαίου αλωνίζει χωρίς αντίπαλο, είμαστε πιο αδύναμοι από ποτέ.

Και, adding insult to injury, η ίδια μας η ασφάλεια εξαρτάται σε μεγάλο βαθμό από την "ηθική πυξίδα" ξιπασμένων κοινωνιοπαθών CEO. https://darioamodei.com/post/we-must-pace-the-frontier https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#extracting-information-about-the-scorer-from-trip-wires https://www.youtube.com/watch?v=XuoqKYxDHVc https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/ https://www.nytimes.com/2026/05/09/opinion/ai-china-america-race.html https://hai.stanford.edu/ai-index/2025-ai-index-report/public-opinion

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους