Original Post

Πλήρες Κείμενο:

Η Τεχνητή Νοημοσύνη (ΤΝ) αυτή τη στιγμή αναδιαμορφώνει τα θεμέλια της κοινωνικής μας αντίληψης.

Η κατανόηση της στρατηγικής αιχμαλωσίας της προσοχής μας θα έπρεπε να αποτελεί προτεραιότητα εθνικής και κοινωνικής μέριμνας κι ασφάλειας. Ο Daniel Tilo Estrader χρησιμοποιεί μια εύστοχη βιολογική αναλογία για να περιγράψει αυτό το "Γνωστικό Παράδοξο": τη συμπεριφορά της νυχτοπεταλούδας (moth). Οι πεταλούδες εξελίχθηκαν επί εκατομμύρια χρόνια να πλοηγούνται να χρησιμοποιούν το φως του φεγγαριού σαν σταθερό σημείο αναφοράς.

Η έλευση του τεχνητού φωτός δημιούργησε ένα "τεχνητό ερέθισμα" που, λόγω εγγύτητας και έντασης, υπερσκελίζει το φυσικό φως, οδηγώντας τις πεταλούδες σε σύγχυση και θάνατο.

Αντίστοιχα, η Generative AI δημιουργεί ένα ψηφιακό "τεχνητό φως". Μιμούμενη την ανθρώπινη γλώσσα και συμπεριφορά με απόλυτη ακρίβεια, "αιχμαλωτίζει" τα κοινωνικά αισθητήρια των χρηστών, τα οποία έχουν εξελιχθεί να αναγνωρίζουν την ανθρωπινότητα ως τεκμήριο εγκυρότητας.

Για να αξιολογήσουμε την τρέχουσα επιχειρησιακή αποτελεσματικότητα των απειλών, πρέπει να κατανοήσουμε το χάσμα μεταξύ των παλαιών μεθόδων και της νέας πραγματικότητας: Παλιότερα οι φάρμες των τρολ βασίζονταν στην ανθρώπινη δράση, προσφέροντας υψηλή πειστικότητα και ικανότητα ελιγμών αλλά περιορίζονταν δραματικά ως προς την κλιμάκωση.

Κι αυτό γιατί η διαχείριση λίγων εκατοντάδων λογαριασμών απαιτούσε πολύ προσωπικό, περιορίζοντας την εμβέλεια των επιχειρήσεων σε συγκεκριμένους στόχους. Τα Botnets, δηλαδή τα παραδοσιακά δίκτυα Bot, προσέφεραν μεν τεράστια κλίμακα μέσω αυτοματισμού, αλλά η συμπεριφορά τους ήταν μηχανική και εύκολα ανιχνεύσιμη.

Τα μηνύματα ήταν απλοϊκά και (π.χ. "Vote for Trump"), στερούμενα της λεπτότητας που απαιτείται για τη βαθιά πειθώ.

Η υπέρβαση αυτών των δομικών περιορισμών μέσω των Μεγάλων Γλωσσικών Μοντέλων (LLMs) σηματοδοτεί τη μετάβαση από τον "θόρυβο" στη στρατηγική διείσδυση.

Από το στατικό περιεχόμενο περνάμε στην "πράκτορα-κεντρική" (agentic) ΤΝ που αλλάζει τους κανόνες της μαζικής πειθούς καθώς η τεχνολογία γίνεται πλέον αυτόνομος δρώντας. Τα LLMs έχουν μειώσει δραματικά το κόστος παραγωγής πειθούς.

Η ικανότητά τους να περνούν τα Turing tests σε περιβάλλοντα κοινωνικών δικτύων τα καθιστά αόρατα.

Επιπλέον, έρευνες του 2024 επιβεβαιώνουν ότι αυτά τα μοντέλα μπορούν να αλλάξουν βαθιά ριζωμένες πεποιθήσεις (π.χ. θεωρίες συνωμοσίας) μέσω διαλογικής προσαρμογής, επιτυγχάνοντας στρατηγική μεταστροφή της κοινής γνώμης σε κλίμακα.

Σύμφωνα με αποκαλύψεις του Canadian National Observer, η υβριδική χρήση ανθρώπων και ΤΝ (Cyborg Propaganda) εφαρμόστηκε ήδη σε εκλογικές αναμετρήσεις στο Ισραήλ και τη Γεωργία.

Ειδικές εφαρμογές κινητών χαρτογραφούν τις επαφές των χρηστών, η ΤΝ μετά τους στέλνει ειδοποιήσεις, προτρέποντάς τους να δημοσιεύσουν εξατομικευμένο περιεχόμενο στους κύκλους τους.

Οπότε γίνονται βαποράκια, απλοί φορείς ΤΝ περιεχομένου, δανείζοντας την οργανική τους αξιοπιστία σε μηχανικά μηνύματα χωρίς κριτική επεξεργασία.

Η μεγάλη απειλή όμως που έρχεται είναι τα «Κακόβουλα σμήνη» (AI Swarms), μια νέα υποδομή επιρροής που βασίζεται όχι τόσο στην ποσότητα όσο στον απόλυτο συντονισμό.

Οι πράκτορες ΤΝ επικοινωνούν κρυφά στο παρασκήνιο για να ενορχηστρώσουν καμπάνιες, χρησιμοποιούν μεθόδους A/B testing στις στρατηγικές τους, δοκιμάζοντας διαφορετικές προσεγγίσεις σε πραγματικό χρόνο για να εντοπίσουν ποια αποφεύγει τα συστήματα ασφαλείας των πλατφορμών.

Το σμήνος στοχεύει έναν χρήστη από διαφορετικές κοινότητες (π.χ. ομάδες μοτοσυκλετιστών και μπασκετμπολιστών ταυτόχρονα). Η λήψη του ίδιου μηνύματος από φαινομενικά ασύνδετες πηγές δημιουργεί την ψευδαίσθηση της καθολικής συναίνεσης.

Επίσης πέρα από τη γλώσσα, τα σμήνη χρησιμοποιούν τα LLMs για την ταξινόμηση δεδομένων, εξάγοντας ψυχολογικά προφίλ χρηστών για να στοχεύσουν με χειρουργική ακρίβεια ευάλωτες ομάδες, όπως τα παιδιά.

Τα σμήνη λειτουργούν ταυτόχρονα σε διάφορες πλατφόρμες ή και email, διατηρώντας συνεκτικές, ψεύτικες προσωπικότητες που καθιστούν την ανίχνευση από μεμονωμένες πλατφόρμες σχεδόν αδύνατη.

Η στρατηγική διάβρωση της εμπιστοσύνης αποτελεί τον απώτερο στόχο των ΤΝ-επιθέσεων, οδηγώντας στην παράλυση του δημόσιου διαλόγου.

Η αβεβαιότητα για την οντολογική υπόσταση του συνομιλητή καταστρέφει το κοινωνικό κεφάλαιο.

Η συστηματική "μόλυνση" του διαδικτύου με ΤΝ περιεχόμενο (LLM Poisoning) μολύνει τα δεδομένα εκπαίδευσης των μελλοντικών μοντέλων, δημιουργώντας έναν φαύλο κύκλο κατασκευασμένης πραγματικότητας.

Μάλιστα σε καταστάσεις έκτακτης ανάγκης, ο όγκος των ΤΝ μηνυμάτων μπορεί να προκαλέσει "άρνηση υπηρεσίας" στην ανθρώπινη προσοχή, εμποδίζοντας την πρόσβαση σε έγκυρες πληροφορίες.

Η άμυνα απαιτεί μετάβαση από την ανίχνευση μεμονωμένων λογαριασμών στην ανάλυση της συλλογικής συμπεριφοράς του σμήνους.

Το κλείσιμο των APIs έχει στερήσει από τους ερευνητές τη δυνατότητα μελέτης "ψηφιακών εστιών". Ενώ παλαιότερα αναλύονταν δισεκατομμύρια tweets, σήμερα η έρευνα είναι τυφλή.

Η προληπτική προσομοίωση επιθέσεων είναι ζωτικής σημασίας.

Έρευνες απέδειξαν ότι αυτόνομες καμπάνιες μπορούν πλέον να εκτελεστούν με ελάχιστο κόστος από ένα απλό υπνοδωμάτιο, χρησιμοποιώντας μοντέλα ανοιχτού κώδικα.

Δε μιλάμε για απλά φίλτρα, αλλά για προσωπικούς βοηθούς που διατηρούν το πλήρες πλαίσιο του χρήστη, λειτουργώντας ως "γνωστικοί προστάτες" έναντι εξωτερικών προσπαθειών χειραγώγησης.

Η ταχύτητα και η ευελιξία των απειλών ΤΝ απαιτούν μια νέα, παγκόσμια υποδομή επικοινωνίας που θα λειτουργεί σε πραγματικό χρόνο.

Έμπνευση και υλικό από πρόσφατο σεμινάριο του EU DisinfoLab με τίτλο From Botnets to AI Swarms: Tracking Emerging Risks Through an AI Influence Observatory

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους