Original Post

Πλήρες Κείμενο:

Τελικά η Meta δεν απέλυσε ανθρώπους, αλλά «χαμηλές βαθμολογίες», καθώς τον περασμένο Μάιο, ανακοινώνοντας την επώδυνη περικοπή οκτώ χιλιάδων θέσεων, το δέκα τοις εκατό του δυναμικού της, οδήγησε εικοσιέξι από αυτούς τους ανθρώπους να καταθέσουν αγωγή στο ομοσπονδιακό δικαστήριο της Καλιφόρνιας.

Οι ενάγοντες δεν αμφισβητούν το δικαίωμα της εταιρείας να μειώσει το προσωπικό της, αλλά τον εντελώς απρόσωπο τρόπο επιλογής τους, καθώς, όπως αποκαλύπτει η αγωγή των εβδομήντα μίας σελίδων, η ηγεσία απαγόρευσε στα στελέχη να αξιολογήσουν με ανθρώπινα κριτήρια τις ομάδες τους.

Αντιθέτως, ανέθεσε αυτό το βάρος σε εσωτερικά συστήματα τεχνητής νοημοσύνης, τα οποία αξιοποίησαν εργαλεία όπως η καταγραφή πληκτρολόγησης, οι πίνακες ελέγχου χρήσης πόρων ΑΙ, η παρακολούθηση δραστηριότητας και οι αλγοριθμικές κατατάξεις απόδοσης, προκειμένου να βαθμολογήσουν το προσωπικό και να παράγουν την τελική λίστα των απολύσεων.

Ας αναγνωρίσουμε, με ειλικρίνεια, πως σε έναν τεράστιο οργανισμό ογδόντα χιλιάδων ατόμων, η υποκειμενική αξιολόγηση από ένα πλήθος διευθυντών εισάγει αναπόφευκτα χαοτικές μεταβλητές, αφού ο κάθε άνθρωπος κρίνει διαφορετικά: άλλος με αυστηρότητα, άλλος με επιείκεια και κάποιος τρίτος ίσως ευνοεί ελαφρώς τον... κοινωνικό του περίγυρο!!! Θεωρητικά τώρα, ο αλγόριθμος εξαλείφει αυτή την ανθρώπινη μεροληψία εστιάζοντας μόνο στα ψυχρά δεδομένα και σαν ιδέα αυτή η αυτοματοποίηση δεν κρύβει κάποιον εγγενή κίνδυνο.

Η παγίδα, ωστόσο, βρίσκεται στα ερωτήματα που εμείς οι ίδιοι θέτουμε στο ΑΙ. Τα δεδομένα που επέλεξε η Meta αφορούσαν αποκλειστικά την τυπική, επιφανειακή παρουσία στο σύστημα και όχι την πραγματική, ουσιαστική ποιότητα της εργασίας, εξισώνοντας ισοπεδωτικά έναν εργαζόμενο που απουσίαζε νόμιμα και άρα δεν κατέγραφε χτυπήματα στο πληκτρολόγιο, με κάποιον που απλώς αδρανούσε στο γραφείο του.

Για να φτάσουν σε αυτό το οξύμωρο αποτέλεσμα, δεν χρειάστηκε καμία απολύτως κακόβουλη πρόθεση, παρά μόνο η διατύπωση ενός εντελώς λανθασμένου ερωτήματος.

Σύμφωνα με τα στοιχεία της αγωγής, οκτώ από τους εικοσιέξι ενάγοντες βρίσκονταν σε άδεια εγκυμοσύνης ή τοκετού και άλλοι τέσσερις σε γονική άδεια και μάλιστα το σύστημα ειδοποίησε μια γυναίκα για την απόλυσή της μόλις σαράντα οκτώ ώρες πριν φέρει στον κόσμο το παιδί της, ένας άνδρας απομακρύνθηκε δεκαέξι ημέρες μετά την έναρξη της αναρρωτικής του άδειας, ενώ ένας άλλος βαθμολογήθηκε αρνητικά αποκλειστικά και μόνο λόγω της απουσίας του έπειτα από ένα σοβαρό τραυματισμό.

Προφανώς και κανείς δεν σχεδίασε εσκεμμένα να πλήξει τις εγκύους, γιατί η πιο ρεαλιστική εξήγηση είναι πως ζήσαμε μια αστοχία σχεδιασμού, όπου οι μηχανισμοί παρακολούθησης δεν συγχρονίστηκαν ποτέ με τη βάση δεδομένων του HR που καταγράφει τις άδειες.

Νομικά, όμως, η ύπαρξη ή όχι δόλου δεν έχει καμία απολύτως σημασία, διότι η αρχή της δυσανάλογης επίπτωσης (disparate impact) στο εργασιακό δίκαιο δεν εξετάζει αν επιδίωξες συνειδητά να κάνεις διακρίσεις όταν πλήττεται μια προστατευόμενη ομάδα, αλλά ρωτάει απλώς αν το αποτέλεσμα ήταν ήταν διακριτό και αν είχες τη δυνατότητα να το αποφύγεις. Η Meta είχε την ξεκάθαρη υποχρέωση να εξαιρέσει τις νόμιμες απουσίες ή να ζητήσει εξω-αλγοριθμική, ατομική αξιολόγηση για αυτούς τους ανθρώπους, όμως επέλεξε να αδιαφορήσει.

Εξετάζοντας το ζήτημα με μια στεγνή, επιχειρηματική λογική, ο αλγόριθμος έκανε ακριβώς αυτό για το οποίο προγραμματίστηκε: εντόπισε τη νεκρή δραστηριότητα προκειμένου να ικανοποιήσει τους μετόχους σε ένα τρίμηνο οικονομικής συρρίκνωσης.

Όμως, η γυναίκα που γεννούσε δεν ήταν «νεκρός χρόνος» και αυτό δεν αποτελεί ένα απλό τεχνικό σφάλμα (bug), αλλά την κατάφωρη ακύρωση ενός ανθρώπινου δικαιώματος, μετατρέποντας μια σχεδιαστική παράλειψη σε μαζική αδικία. Στην Ελλάδα και την Κύπρο τώρα μπορεί να μην έχουμε εγκατεστημένους τέτοιους μηχανισμούς, αλλά σε μια μικρή εταιρεία τον ρόλο του αλγορίθμου τον αναλαμβάνει το άγρυπνο μάτι του ιδιοκτήτη: αυτός μετράει ποιος «φαίνεται» περισσότερο και ποιος φεύγει τελευταίος από το γραφείο. Η Meta, ουσιαστικά, πήρε αυτή την παρωχημένη, οπτική αξιολόγηση και την αυτοματοποίησε, τιμωρώντας λανθασμένα τον νόμιμα απόντα.

Αν και ο Zuckerberg ανέστειλε το πρόγραμμα τον Ιούνιο, υποκύπτοντας στις υπογραφές χιλίων εξακοσίων εργαζομένων, η συγκεκριμένη υπόθεση αποδεικνύει κάτι πολύ βαθύ: αν η αξία σου μετριέται με δεδομένα που είναι τυφλά απέναντι στα νόμιμα δικαιώματά σου, τότε η ίδια η νόμιμη απουσία σου μετατρέπεται νομοτελειακά σε τιμωρία, χωρίς κανείς να χρειάζεται να σε βάλει στο στόχαστρο, αρκεί να μην ρωτήσει ποτέ για... τον πραγματικό λόγο που λείπεις!!!

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους