Original Post

Πλήρες Κείμενο:

Credit Score: Ρυθμιστικός Έλεγχος έναντι Αποφαντικής Αυθεντίας Τι σημαίνει να αποκτήσει κάθε πολίτης ένα κρατικό «credit score» και ποια επιστημολογική τομή συντελείται στη βαθμολόγηση όταν εισέρχεται σε αυτήν η #Ai ; Το credit score είναι, εν συντομία και με απλά λόγια, ενα σύστημα βαθμολόγησης που επιχειρεί να εκτιμήσει την οικονομική φερεγγυότητα ενός προσώπου.

Πόσο πιθανό θεωρείται ότι θα είναι κάποιος/ κάποια συνεπής στις οικονομικές του υποχρεώσεις; Στην Ελλάδα διαμορφώνεται πλέον ένα κρατικό πλαίσιο πιστοληπτικής αξιολόγησης, με αξιοποίηση δεδομένων οικονομικής συμπεριφοράς που βρίσκονται στη διάθεση του Δημοσίου.

Εδώ όμως αρχίζει το πραγματικά ενδιαφέρον ζήτημα από τη σκοπιά της Τεχνητής Νοημοσύνης.

Εάν για την παραγωγή ή ουσιαστική υποστήριξη μιας τέτοιας βαθμολογίας χρησιμοποιούνται συστήματα AI, δεν έχουμε απλώς μια βάση δεδομένων που καταγράφει τι συνέβη στο παρελθόν.

Έχουμε έναν αλγόριθμο που επιχειρεί να προβλέψει το μέλλον ενός ανθρώπου από το παρελθόν του.

Αυτή είναι μια ειδοποιός διαφορά σε σχέση με πρωτύτερα συστήματα αξιολόγησης.

Ένας άνθρωπος μπορεί να καθυστέρησε κάποτε τις υποχρεώσεις του επειδή έχασε τη δουλειά του, επειδή η επιχείρησή του επλήγη από μια οικονομική κρίση ή επειδή αντιμετώπισε μια προσωρινή οικονομική δυσκολία. ​Η ελληνική κοινωνία, ειρήσθω εν παρόδω, διήλθε μια υπερδεκαετή κρίση, της οποίας το παλιμψηστικό αποτύπωμα παραμένει ενεργό στις σύγχρονες οικονομικές δομές.

Για ένα μοντέλο μηχανικής μάθησης, όμως, όλα αυτά μπορούν πολύ εύκολα να μετατραπούν σε μεταβλητές, συσχετίσεις και πιθανότητες αθέτησης. Η AI φυσικά δεν γνωρίζει από μόνο της τι είναι «δίκαιο». Βρίσκει στατιστικά πρότυπα και κάνει προβλέψεις.

Εφόσον όμως τα ιστορικά δεδομένα περιέχουν κοινωνικές ή οικονομικές ανισότητες, ελλοχεύει πάντα ο κίνδυνος το μοντέλο να τις μάθει, να τις αναπαράγει και ,ακόμη χειρότερα, να τους προσδώσει την επίφαση της μαθηματικής αντικειμενικότητας.

Γι' αυτό ο EU AI Act αντιμετωπίζει τα συστήματα AI που χρησιμοποιούνται για την αξιολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων ως συστήματα υψηλού κινδύνου.

Οι απαιτήσεις για ποιότητα και διακυβέρνηση δεδομένων, διαφάνεια, καταγραφή λειτουργίας, ανθρώπινη εποπτεία και διαχείριση κινδύνων δεν αποτελούν γραφειοκρατικές λεπτομέρειες.

Είναι ασφαλιστικές δικλείδες.

Υπάρχει μάλιστα ήδη ένα πολύ σημαντικό ευρωπαϊκό προηγούμενο.

Στην υπόθεση #SCHUFA, το Δικαστήριο της Ευρωπαϊκής Ένωσης εξέτασε το γερμανικό σύστημα πιστοληπτικής βαθμολόγησης και έκρινε, ουσιαστικά, ότι όταν ένα αυτοματοποιημένο score διαδραματίζει καθοριστικό ρόλο στην απόφαση ενός τρίτου, πχ μιας τράπεζας, μπορεί να εμπίπτει στους αυστηρούς κανόνες του #GDPR για την αυτοματοποιημένη λήψη αποφάσεων.

Το ζήτημα λοιπόν δεν είναι αν πρέπει να χρησιμοποιήσουμε AI. Το ζήτημα είναι τι εξουσία θα επιτρέψουμε να αποκτήσει το αποτέλεσμα ενός αλγορίθμου πάνω στη ζωή ενός ανθρώπου.

Αν ένα χαμηλό score οδηγήσει σε ακριβότερο δάνειο, δυσκολότερη χρηματοδότηση και, αύριο ενδεχομένως, δυσκολότερη πρόσβαση σε άλλες βασικές συναλλαγές, μπορεί να δημιουργηθεί ένας αλγοριθμικός κύκλος: Οικονομική δυσκολία → χαμηλότερο score → δυσκολότερη πρόσβαση σε ευκαιρίες → μεγαλύτερη οικονομική δυσκολία → ακόμη χαμηλότερο score.

Ένας φαύλος κύκλος... Αυτό είναι, κατά τη γνώμη μου, το σημείο στο οποίο πρέπει να επικεντρωθεί η συζήτηση για την AI. Γιατί υπάρχει μια θεμελιώδης διαφορά ανάμεσα στο να χρησιμοποιούμε την Τεχνητή Νοημοσύνη για να βοηθά τον άνθρωπο να αποφασίζει και στο να χρησιμοποιούμε την Τεχνητή Νοημοσύνη για να αποφασίζουμε ποιος άνθρωπος «αξίζει» μια οικονομική ευκαιρία. Ακριβώς γι' αυτή τη διαφορά χρειαζόμαστε τον EU AI Act. @highlight

Η επιλογή των posts/links γίνεται με ένα στατιστικό μοντέλο και μπορεί να μην απεικονίζει επακριβώς τη σειρά δημοτικότητάς τους