Μια διαδικτυακή μηχανή αναζήτησης μεταφράζει τον αγγλικό όρο «nurse» ως «νοσοκόμα», ενώ ένα εργαλείο τεχνητής νοημοσύνης, όταν του ζητείται να δημιουργήσει εικόνες για δασκάλους σε δημοτικά σχολεία, αυτό απαντά με χαμογελαστές γυναίκες σε σχολικές αίθουσες. Αντίθετα, όταν το αίτημα αφορά μηχανικούς, οι παραγόμενες εικόνες απεικονίζουν άνδρες επαγγελματίες. Τέτοιου είδους βαθιά ριζωμένες έμφυλες προκαταλήψεις είναι ορατές στα δεδομένα και τους αλγόριθμους της τεχνητής νοημοσύνης που χρησιμοποιούνται σε εκπαιδευτικά συστήματα στους τομείς της Επιστήμης, της Τεχνολογίας, της Μηχανικής και των Μαθηματικών (STEM).
Η συνέχεια του άρθρου εδώ
by 
Συγχαρητήρια Τίνα.
Αυτό που δεν καταλαβαίνω είναι μάλλον τεχνικό.
Πως εκπαιδεύεται ώστε να αναπαράγει ή να μην αναπαράγει στερεότυπα.
Για παράδειγμα ζήτησα την εικόνα ενός Μεξικανού.
Μου έστειλε:
Το στερεότυπο με το σομπρέρο!
Ψάχνει εικόνες στο διαδίκτυο και κάνει κάτι που μοιάζει με την πλειοψηφία;
Βλέπει εικόνες ή γελοιογραφίες που αναπαράγουν στερεότυπα;
Ευχαριστούμε πολύ Γιάννη. Σε σχέση με την καλή ερώτηση – και όχι εύκολη. Η αλήθεια είναι πως το AI δεν «ξέρει» τι είναι στερεότυπο με την ανθρώπινη έννοια. Μαθαίνει από τα δεδομένα που του δίνουμε. Αν λοιπόν του δώσουμε 10.000 εικόνες Μεξικανών, και στις 7.000 φοράνε σομπρέρο, τότε αυτό θα το μάθει ως «τυπικό» και θα το αναπαράγει – όχι επειδή το θεωρεί σωστό ή αστείο, αλλά επειδή έτσι του έδειξαν τα δεδομένα.
Το AI δεν ξεχωρίζει εύκολα τη διαφορά μεταξύ “πολιτιστικής αναφοράς” και “καρικατούρας”. Ούτε ξέρει τι είναι προσβλητικό ή κοινωνικά φορτισμένο – εκτός αν του το μάθουμε ρητά.
Τεχνικά, προσπαθούν να το περιορίσουν με φιλτράρισμα των δεδομένων, ειδική εκπαίδευση με ανθρώπινη ανατροφοδότηση και κάποιους «κανόνες» για το τι απορρίπτεται ως στερεοτυπικό. Αλλά όταν η πλειοψηφία των εικόνων στο διαδίκτυο όντως δείχνει Μεξικανούς με σομπρέρο, το μοντέλο απλώς αντικατοπτρίζει αυτό που έχει δει πιο συχνά. Οπότε ναι – το σομπρέρο προκύπτει όχι επειδή “έχει άποψη”, αλλά επειδή στατιστικά «του φαίνεται λογικό».
Άρα για να μη βγάζει στερεότυπα, πρέπει να του μάθεις εναλλακτικά πρότυπα. Και εκεί κάνουμε και εμεις την δικη μας προσπαθεια ως ερευνητική ομάδα σε συνεργασία με τον πρύτανη του Πολυτεχνείου Μαδρίτης και π. πρόεδρο του ΙΕΕΕ Education Society.
Κατάλαβα κάπως Τίνα.
Η πρότασή σας επομένως είναι μια εκπαίδευση της Τ.Ν. μέσω κάποιων οδηγιών.
Ναι Γιάννη κάπως έτσι. Σκέψου ότι πολλές εταιρίες σκαναρουν τα βιογραφικα για μια θεση με χρηση του ΑΙ. Το αναφέρουμε και στο paper μας αυτο με στοιχεια. Καταλαβαίνεις τι σημαίνει να κόβεται το βιογραφικό λόγω ΑΙ; Αυτο εγινε στην Αμαζον και αλλαξαν το σύστημα τους.
Ναι διάβασα αυτό με το Άμαζον.