11 Μαρτίου, 2017

Η ιστορία της Tay, που ξεκίνησε αθώα στο Twitter και μέσα σε λίγες μέρες, έγινε ρατσίστρια

Guest Αρθρογράφος

Η ομιλία του καθηγητή του MIT στην εκδήλωση του Ποταμιού με τίτλο «τα ψέματα του κόσμου μας και οι αλήθειες του Ποταμιού»

Η ελπίδα μου για το ίντερνετ είναι, και πάντα ήταν, ότι θα ενδυναμώσει τον άνθρωπο και τις κοινωνίες. Ότι θα αμβλύνει τις διαφορές τους, τόσο τις κοινωνικές όσο και τις πολιτικές. Ότι θα φέρει τους ανθρώπους πιο κοντά. Και πράγματι, το έχει πετύχει αυτό σε μεγάλο βαθμό. Χάρη στο Google, στο Wikipedia, στο Quora, έχουμε όλοι πλέον πρόσβαση σε όλη την ανθρώπινη γνώση και εμπειρία. Χάρη στο MITx, στο Coursera, στο Audacity, μπορούμε όλοι μας να παίρνουμε μαθήματα από τα μεγαλύτερα πανεπιστήμια του κόσμου. Χάρη στο Facebook, το Twitter, άλλα μέσα κοινωνικής δικτύωσης, μπορούμε να κρατάμε διαρκή επαφή με τους φίλους μας, να βρίσκουμε παλιούς, χαμένους φίλους ή να συνάπτουμε καινούριες φιλίες ανά την υφήλιο. Μπορούμε όλοι μας να έχουμε το μπλογκ μας και να έχουμε ένα διεθνές ακροατήριο. Μπορούμε να φέρουμε την εταιρεία μας στο ίντερνετ και να έχουμε, έτσι, πρόσβαση στην παγκόσμια αγορά. Όταν όλοι μας έχουμε τόσο εύκολη πρόσβαση σε όλη την γνώση και την πληροφορία και όλη την ανθρώπινη εμπειρία, θα περίμενε κανείς ότι και ο πολιτικός διάλογος και ο έλεγχος προς την οικονομική και πολιτική ελίτ θα έπρεπε να αναβαθμιστεί.

Και όμως έχουμε συνειδητοποιήσει πλέον ότι τα πράγματα δεν είναι τόσο απλά. Πολλοί θεωρούν ότι οι ψευδείς ειδήσεις και τρολαρίσματα μπορεί να επηρεάσουν εκλογικά αποτελέσματα. Και άλλοι πιστεύουν ότι οι ισχυρισμοί αυτοί, αυτοί καθαυτοί, είναι ψευδείς ειδήσεις και τρολαρίσματα. Η αλήθεια και η ψευδής αλήθεια είναι δυσδιάκριτα μεταξύ τους πλέον. Και δεν είναι μόνο αυτό. Στα μέσα κοινωνικής δικτύωσης, πολλές φορές συμβαίνει αυτό που λένε «δωμάτια ηχούς». Τα «δωμάτια ηχούς» είναι καταστάσεις, όπου κάποιος χρήστης του facebook βρίσκει μια παρέα από άλλους χρήστες, οι οποίοι έχουν πανομοιότυπες ιδέες και οι οποίοι βαυκαλίζονται για την ορθότητα των δικών τους ιδεών και απορρίπτουν οποιεσδήποτε άλλες ιδέες ως αφελείς. Επομένως, αναπαράγουν μια δική τους, άκριτη γνώση, η οποία δεν παίρνει κανένα ερέθισμα από το τί πραγματικά συμβαίνει γύρω τους. Επομένως, η ποιότητα του πολιτικού διαλόγου έχει πλέον υποβαθμιστεί, αντί να ενισχυθεί από το ίντερνετ, από αυτά που συμβαίνουν, από τις ψευδείς ειδήσεις, και αυτά τα «δωμάτια ηχούς» που έχουν δημιουργηθεί στα μέσα κοινωνικής δικτύωσης.

Πολλοί μάλιστα κατακρίνουν τους μεγάλους τεχνολογικούς γίγαντες για τα πρόσφατα εκλογικά αποτελέσματα στην Αγγλία και την Αμερική, και άλλες χώρες. Θεωρούν ότι οι ψευδείς ειδήσεις που άκριτα αναπαρήχθησαν μέσα στα μέσα κοινωνικής δικτύωσης, βοήθησαν τον Trump και το Brexit να νικήσουν. Θεωρούν ότι τα «δωμάτια ηχούς», που δημιουργούνται στα μέσα κοινωνικής δικτύωσης, βοηθούν στην έλλειψη πολιτικού διαλόγου και οδηγούν σε κακή εκτίμηση εκλογικών αποτελεσμάτων.

Ως συνέπεια της μεγάλης κριτικής που δέχτηκαν, ειδικά στις πρόσφατες εκλογές της Αμερικής, οι μεγάλοι τεχνολογικοί γίγαντες, έχουν αρχίσει πλέον να κάνουν βήματα, στο να περιορίσουν τις ψευδείς ειδήσεις, το τρολάρισμα και άλλες αντικοινωνικές συμπεριφορές που συμβαίνουν στο ίντερνετ. Για παράδειγμα, το Google απέκλεισε εκατοντάδες ιστοσελίδες από τη δυνατότητα να δείχνουν διαφημίσεις, των οποίων ο πλειστηριασμός γίνεται μέσα από τους servers της google. Το facebook πρόσφατα άλλαξε τον αλγόριθμο με τον οποίο υπολογίζονται οι ειδησεογραφικές τάσεις που παρέχει το facebook, ώστε να μην περιλαμβάνει στις ειδησεογραφικές τάσεις, ειδήσεις για τις οποίες αφενός μεν γίνεται μεγάλη συζήτηση, αφετέρου δε έχουν μια πηγή και όχι πολλές πηγές από τις οποίες προέρχονται.

Η πρόκληση, βέβαια, είναι ότι δεν είναι καλά μαθηματικά ορισμένο το τί συνιστά μια «ψευδή είδηση» ή, εν πάσει περιπτώση, το ποια είναι τα χαρακτηριστικά μιας ψευδούς είδησης. Επομένως, είναι πολύ δύσκολο για έναν αλγόριθμο, με αυτοματοποιημένο τρόπο, να αποφανθεί αν κάποια είδηση είναι ψευδής ή όχι. Και επειδή πολύ εύκολα ξεπηδούν καινούριες ειδήσεις ή καινούρια trolls, δεν μπορεί να γίνει με manual, με χειρωνακτικό τρόπο, η απόφαση για το τί συνιστά μια ψευδή είδηση και τί όχι. Πρέπει να γίνει με αυτοματοποιημένο τρόπο, με αλγοριθμικό τρόπο. Και αυτό είναι μια τεράστια αντίθεση με το παρελθόν. Στο παρελθόν, δεν ήταν τόσο εύκολο να φτιάξεις μια καινούρια εφημερίδα, ένα καινούριο κανάλι. Ενώ πλέον είναι πανεύκολο να φτιάξεις μια καινούρια ιστοσελίδα που ισχυρίζεται ότι είναι ειδησεογραφικό μέσο και να αρχίσεις να αναμεταδίδεις ό,τι ειδήσεις γουστάρεις. Και μάλιστα, επειδή το google σου παρέχει τη δυνατότητα να δείχνεις διαφημίσεις στην ιστοσελίδα σου και από αυτή να βγάζεις χρήματα, μπορείς να συντηρείσαι κιόλας. Και όσο πιο προκλητικές είναι οι ειδήσεις που βγάζεις στην ιστοσελίδα σου, τόσο μεγαλύτερο traffic θα έχει η σελίδα σου και τόσα περισσότερα χρήματα θα βγάζεις. Επομένως, βρισκόμαστε πλέον σε μια μεγάλη τεχνολογική πρόκληση ουσιαστικά. Το ίντερνετ μας έχει δώσει τεράστιες δυνατότητες επικοινωνίας. Από την άλλη, η τεχνολογία μας μπορεί εύκολα να χειραγωγηθεί. Πώς μπορούμε να αποτρέψουμε αυτή τη χειραγώγηση της τεχνολογίας, που έχει τόσο πολλά θετικά πράγματα; Ωστόσο, όπως έδειξαν τα πρόσφατα δεδομένα μπορεί να χειραγωγηθεί με μεγάλο τρόπο. Η πρόοδος, τα βήματα που έχει κάνει η τεχνολογία προς το παρόν, στο να αποφευχθεί αυτή η χειραγώγηση της τεχνολογίας μας, είναι μικρά και – θα έλεγα – απογοητευτικά προς το παρόν.

Ένα άλλο πολύ χαρακτηριστικό παράδειγμα χειραγώγησης τεχνολογίας που συνέβη πρόσφατα αφορά το λεγόμενο ρομποτάκι Tay της Microsoft. Το ρομποτάκι Tay δεν ήταν ένα φυσικό ρομπότ. Ήταν ένας αλγόριθμος, τον οποίο λάνσαρε στο Twitter. Ήταν ένας αλγόριθμος συνομιλίας. Το Tay είχε φτιαχτεί για να αλληλεπιδρά με άλλους χρήστες του Twitter, να συνομιλεί μαζί τους και να μαθαίνει με βάση αυτή την αλληλεπίδραση. Ωστόσο το ρομποτάκι αυτό έγινε θύμα μιας οργανωμένης επίθεσης από μια ομάδα χρηστών, η οποία -εκμεταλλευόμενη το γεγονός ότι το ρομπότ ήταν φτιαγμένο να μαθαίνει από την αλληλεπίδρασή του με άλλους χρήστες- το προπόνησε, το έμαθε να γίνει ρατσιστής, αντιφεμινιστής, οπαδός του Χίτλερ και συνωμοσιολόγος. Τελικά  αυτά όλα συνέβησαν μέσα σε 17 ώρες και η Microsoft αναγκάστηκε να το κατεβάσει από το internet.

Τι μας διδάσκει το παράδειγμα της Tay; Από τη θεμελιώδη εργασία του Άλαν Τούρινγκ το 1950, o οποίος έβαλε αυτή την πρόκληση στην τεχνητή νοημοσύνη, έχουν φτιαχτεί πολλοί αλγόριθμοι συνομιλίας και όχι μόνο. Η τεχνητή νοημοσύνη, ειδικά τα τελευταία χρόνια, έχει κάνει τεράστια άλματα και δεν θα ήταν υπερβολή να πει κανείς ότι βρίσκεται στην καρδιά πολλών τεχνολογικών και επιστημονικών ανακαλύψεων, από αυτο-οδηγούμενα αυτοκίνητα έως μηχανική μετάφραση, ιατρική πρόγνωση, μετεωρολογία, αστρονομία, πάμπολλες εφαρμογές. Και ενώ αυτή η ραγδαία πρόοδος συμβαίνει, όπως μας δείχνει το παράδειγμα της Tay και αυτό το ψευδών ειδήσεων και τρολαρισμάτων, υπάρχουν πάρα πολλοί κίνδυνοι.

Σε τελική ανάλυση ένας αλγόριθμος τεχνητής νοημοσύνης είναι φτιαγμένος να αλληλεπιδρά με το περιβάλλον του και να "γίνεται καλύτερος". Αν όμως αυτός ο αλγόριθμος έχει άσχημες εμπειρίες; Μήπως τότε μπορεί να γίνει χειρότερος; Στο παράδειγμα της Tay, η Tay βρέθηκε να έχει κακές εμπειρίες και έτσι αναπαρήγαγε αυτές τις ιδεοληψίες, τις συνωμοσίες, τα ρατσιστικά σχόλια στα οποία βρέθηκε να εμβαφτίζεται. Και ακόμα χειρότερα ήταν θύμα μιας οργανωμένης επίθεσης. Και πες «εντάξει, η Tay είναι απλά ένα ρομπότ που βρίσκεται στο Twitter, έγινε και αυτή ένα τρολ σαν τον Μίλο Γιαννόπουλο». Ωστόσο ας πάρουμε ένα πιο σοβαρό παράδειγμα. Σε πέντε με δέκα χρόνια θα κυκλοφορούν αυτο-οδηγούμενα αυτοκίνητα στους δρόμους μας. Έστω λοιπόν κάποιος μακιαβελιακός χάκερ, χακάρει το αυτοκίνητό μας, που φαντάζομαι ότι θα είναι και συνδεδεμένο στο ίντερνετ επομένως αν είναι αρκετός ικανός χάκερ θα μπορείς να το χάκαρεις. Έστω λοιπόν αυτός ο χάκερ, χακάρει το αυτοκίνητό μας και αντί να του παρέχει παραδείγματα από τους δρόμους της Αθήνας, του παρέχει παραδείγματα από τους δρόμους της Ινδίας. Τότε ίσως ο αλγόριθμος που οδηγεί το αυτοκίνητό μας θα γίνει λίγο πιο επιθετικός. Τότε θα θέλουμε να μπούμε στο αυτοκίνητό μας; Μήπως θα είναι πολύ επικίνδυνη η οδήγησή του για τους δρόμους της Αθήνας;

Όσο πιο αυτοματοποιημένη γίνεται η κοινωνία μας και όσο πιο πολύ επικουρείται η ζωή μας από την τεχνητή νοημοσύνη τόσο περισσότερες ευκαιρίες θα υπάρχουν για να πάνε τα πράγματα στραβά. Ωστόσο το Ποτάμι δε γυρίζει και η τεχνολογία είναι εδώ για να μείνει. Ελπίζω και εύχομαι ότι η τεχνολογία θα μας παρέχει ασφαλιστικές δικλείδες στο μέλλον. Ωστόσο πρέπει κι εμείς να αποκτήσουμε τεχνολογικό αλφαβητισμό. Πρέπει να είμαστε πολύ ενδελεχείς στον τρόπο με τον οποίο χρησιμοποιούμε την τεχνολογία και να αφομοιώνουμε τα ερεθίσματα τα οποία μας παρέχουν οι τεχνολογικές πλατφόρμες.

Δείτε το βίντεο: