Original Post

Πλήρες Κείμενο:

Έγραψα προχτές για τις προσπάθειες τεχνολογικής απεξάρτησης της Γαλλίας και η ανάρτηση διαβάστηκε και μοιράστηκε από (ασυνήθιστα για μένα) πολύ κόσμο.

Φαίνεται πως το θέμα έκρουσε κάποια ευαίσθητη χορδή και πολύ χαίρομαι γι αυτό.

Σήμερα θέλω να γράψω μια ιστορία που είναι σχετική με την παραπάνω ανάρτηση κι έχει μερικές πολύ ενδεικτικές λεπτομέρειες.

Έλεγα εκεί: "Η Γαλλία αποφάσισε πρόσφατα ... να συνάψει σύμβαση με τη Mistral για sovereign AI και για το chatbot που θα χρησιμοποιεί το γαλλικό δημόσιο". Η ιστορία που θέλω να πω έχει σχέση με τη Mistral που είναι αυτή τη στιγμή η πιο υποσχόμενη Ευρωπαϊκή εταιρία στην παραγωγή μεγάλων γλωσσικών μοντέλων. Η Mistral δεν ξεκίνησε σαν copycat της OpenAI ή της Anthropic.

Εξαρχής είχε μια διαφορετική από τους δυο προαναφερόμενους προσέγγιση στην ανάπτυξη γλωσσικών μοντέλων: παράγει ανοιχτά μοντέλα.

Τι σημαίνει αυτό; Η εκπαίδευση που κάνει στα μοντέλα της καταλήγει σε μια σειρά παραμέτρων, ένα τεράστιο αρχείο, ελεύθερα διαθέσιμο για να το πάρει κάποιος και να το τρέξει στις δικές του υποδομές.

Μπορεί επίσης να κάνει το λεγόμενο post training για να εξειδικεύσει το μοντέλο και να το προσαρμόσει στις δικές του ανάγκες.

Και ποιος θα είναι αυτός που θα κάνει κάτι τέτοιο; Και, κυρίως, γιατί; Υπάρχουν δυο ειδών υποψήφιοι: κράτη/κρατικοί οργανισμοί και μεγάλες εταιρίες.

Και οι δύο έχουν τον ίδιο λόγο: δεν θέλουν να μοιραστούν τα δεδομένα τους με τρίτους και θέλουν η AI που θα χρησιμοποιούν να είναι προσαρμοσμένη στις δικές τους ανάγκες.

Στην περίπτωση των κρατών μιλάμε για sovereign AI γιατί εκεί η εμπιστευτικότητα πάει πέραν των απλών εμπορικών και τεχνολογικών μυστικών, σε θέματα εθνικής ασφάλειας.

Σ΄αυτή την αγορά στοχεύει η Mistral και μέχρι στιγμής τα πάει μια χαρά.

Αλλά πως της ήρθε η ιδέα για ένα τέτοιο επιχειρηματικό μοντέλο; Εδώ πρέπει να πάμε στην ιστορία των ιδρυτών της για να την ιχνηλατήσουμε.

Παραθέτω τα σύντομα σύντομα βιογραφικά τους με την επιπλέον λεπτομέρεια ότι γνωρίστηκαν τον καιρό που σπούδαζαν κι έκαναν κοινή έρευνα. - Arthur Mensch: Γεννήθηκε το 1992 στο Παρίσι.

Είναι απόφοιτος της École Polytechnique και ερευνητής στην τεχνητή νοημοσύνη.

Εργάστηκε στο Google DeepMind (2020–2023) σε μεγάλα γλωσσικά μοντέλα (LLMs), πολυμοντέλα συστήματα και αρχιτεκτονικές ενισχυμένης ανάκτησης (retrieval-augmented architectures). Αποχώρησε το Μάιο του 2023 για να ιδρύσει την Mistral AI. Είναι ο CEO της εταιρείας. - Guillaume Lample: Επίσης απόφοιτος της École Polytechnique (προώθηση X2011). Ειδικός σε μεγάλα γλωσσικά μοντέλα, εργάστηκε στο Meta Platforms (FAIR), όπου ήταν ένας από τους κύριους συμβάλλοντες στο LLaMA (το ανοικτού κώδικα μοντέλο του Meta). Έχει εξειδίκευση σε μοντέλα μεγάλης κλίμακας. - Timothée Lacroix: Απόφοιτος της École Normale Supérieure, επίσης ειδικός σε τεχνητή νοημοσύνη.

Εργάστηκε στο Meta Platforms (FAIR) μαζί με τον Lample, όπου συνεισέφερε στην ανάπτυξη ανοικτών μοντέλων.

Βλέπουμε ότι κι οι τρεις είναι 'απόφοιτοι' μεγάλων 'μαγαζιών' κι είναι η θητεία των Lample και Lacroix στην Meta και στο FAIR που έκανε τη διαφορά.

Γιατί ο επικεφαλής του FAIR ήταν ο Γάλλος (τονίζω την εθνικότητα, εδώ) Yann Lecun που θεωρείται ένας από τους τρεις "πατέρες" της σύγχονης τεχνητής νοημοσύνης μαζί με τον Άγγλο Geoffrey Hinton και τον Καναδό Yoshua Bengio. Στο FAIR αναπτύχθηκε το Llama, ένα από τα πρώτα ανοιχτά μοντέλα, που συνετέλεσε σημαντικά στην άνοδο τους.

Με αυτήν την έμπνευση, οι τρεις ίδρυσαν το 2023 στην Γαλλία την Mistral που η λειτουργία της είναι εξαιρετικά κρίσιμη για τις τύχες της Ευρωπαϊκής Τεχνητής Νοημοσύνης.

Αντίστοιχες ιστορίες υπάρχουν κι από τη μεριά της Κίνας.

Κανείς δεν αμφισβητεί ότι το φυτώριο όλων των AI προσπαθειών είναι η Αμερική.

Τα ταλέντα όμως, αν γίνει μια ανάλυση ανά χώρα προέλευσης, προέρχονται από αλλού.

Αυτό που δίνει προβάδισμα στην Αμερική είναι η τεράστια συσσώρευση κεφαλαίου που μπορεί να επενδύεται γρήγορα και με ρίσκο σε πολλά υποσχόμενους τομείς.

Αν η Mistral αυτή τη στιγμή υπολείπεται των λεγόμενων frontier models, δεν είναι λόγω έλλειψης τεχνογνωσίας.

Είναι κυρίως λόγω αδυναμίας συγκέντρωσης ανάλογων κεφαλαίων και -το σημαντικότερο- υποδομών.

Δεν υπάρχουν στην Ευρώπη AI data centers ανάλογα των Αμερικανικών.

Δεν υπάρχουν κεφάλαια; Αμφιβάλω.

Αυτό που δεν υπάρχει (ακόμα) είναι ανάλογος μηχανισμός συγκέντρωσης και επένδυσης των.

Κι ένα λόγος που οι μεγάλες Ευρωπαϊκές χώρες πιέζουν για την ενοποίηση των χρηματαγορών είναι αυτός. Η συνέχεια επί της οθόνης, ή, καλύτερα, του chatbot.

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους