by 
Τζων Τασιούλας: Τι μας διδάσκει ο Αριστοτέλης για την ΑΙ
Η ηθική του αρχαίου φιλοσόφου μπορεί να μας καθοδηγήσει και στη χρήση της «ευφυούς» τεχνολογίας
Τι έχει να μας διδάξει ο Αριστοτέλης για την τεχνητή νοημοσύνη και το πώς να διαχειριστούμε τις ραγδαίες ανατροπές που επιφέρει; Αυτή θα είναι η βασική θεματική του «The Lyceum Project: AI Ethics with Aristotle», ημερίδας που θα διεξαχθεί στις 20 Ιουνίου στο Ωδείο Αθηνών, η οποία συνδιοργανώνεται από το Oxford Institute for Ethics in AI, το Πανεπιστήμιο του Στάνφορντ και τον «Δημόκριτο». Με την αφορμή αυτή, η «Κ» συνομίλησε με τον Τζων Τασιούλα, διευθυντή του Ινστιτούτου της Οξφόρδης και καθηγητή Ηθικής και Νομικής Φιλοσοφίας, για τη φύση της νοημοσύνης, την αξία της ανθρώπινης ζωής στην εποχή των υπερ-ευφυών μηχανών και άλλα πολλά.
Ξεκίνησα ζητώντας από τον κ. Τασιούλα να συνοψίσει την πρόκληση που συνιστά για την ανθρωπότητα η τεχνητή νοημοσύνη (ΑΙ).
«Ενας από τους βασικούς τρόπους με τον οποίο κατανοούμε την ανθρώπινη φύση συνδέεται με την ικανότητά μας για ορθολογικές διαδικασίες, για τη δημιουργία πεποιθήσεων, για την έλλογη λήψη αποφάσεων», απαντά ο ελληνικής καταγωγής Αυστραλός φιλόσοφος. «Με την ΑΙ έχουμε δημιουργήσει κάτι που μπορεί να το μιμηθεί αυτό σε μεγάλο βαθμό. Αυτό λοιπόν είναι η μεγάλη πρόκληση: Για πολλούς, αυτή η ικανότητα βρίσκεται στον πυρήνα της ανθρώπινης αξιοπρέπειας, της ανθρώπινης αξίας. Και τώρα έχουμε δημιουργήσει συστήματα που μοιάζουν να μπορούν να κάνουν τα πράγματα που προϋποθέτουν αυτά τα πολύτιμα γνωρίσματα».
«Καλούμαστε να απαντήσουμε σε νέα ερωτήματα», συνεχίζει. «Υπάρχουν αποφάσεις τις οποίες πρέπει να αναθέσουμε στις μηχανές; Τι γίνεται όταν το κάνουμε αυτό; Γινόμαστε παθητικοί, χάνουμε τα δικά μας αντανακλαστικά; Τι θα γίνει με τους δικαστές που θα έχουν συστήματα ΑΙ που θα συνδράμουν στην εκδίκαση μιας υπόθεσης; Θα αποδέχονται τις συστάσεις της μηχανής; Δεν ξέρουμε ακόμη πώς θα εξελιχθεί όλο αυτό».
Ο κ. Τασιούλας θεωρεί ότι υπάρχει το πλαίσιο για να διαχειριστούμε αυτά τα κεφαλαιώδη ζητήματα: το πλαίσιο της αριστοτελικής θεωρίας, με την ευρεία κατανόηση της ηθικής που επιτρέπει την ενασχόληση με τα διλήμματα που γεννάει η ΑΙ σε όλο τους το βάθος. Η αριστοτελική ηθική, εξηγεί ο Ελληνοαυστραλός φιλόσοφος, μας έμαθε να ρωτάμε τι συνιστά μια καλή ζωή, όχι να περιοριζόμαστε στο τι απαγορεύεται ή τι δικαιώματα έχει ο καθένας.
«Τα δικαιώματα είναι μέρος του τι πρέπει να λάβουμε υπόψη μας (στη ρύθμιση της ΑΙ), αλλά δεν είναι ολόκληρη η ιστορία. Για παράδειγμα, όταν σκέφτομαι αν πρέπει να χρησιμοποιήσω ένα κοινωνικό ρομπότ για να φροντίζει την ηλικιωμένη μητέρα μου, δεν θα εξετάσω μόνο αν θα σεβαστεί τα δικαιώματά της. Eνας καλός φροντιστής δεν σέβεται απλά τα δικαιώματα του ανθρώπου που φροντίζει· είναι κάποιος που δείχνει υπομονή, καλοσύνη, που αλληλεπιδρά παιγνιωδώς με το άτομο το οποίο προσέχει, που έχει χιούμορ». Επιπλέον, προσθέτει, η αριστοτελική προσέγγιση μάς επιτρέπει να ξεφύγουμε από την ωφελιμιστική λογική βάσει της οποίας οι προτιμήσεις των καταναλωτών γίνονται αποδεκτές ως έχουν, αντί να είναι αντικείμενο ηθικής κριτικής στο πλαίσιο μιας ευρύτερης φιλοσοφίας της καλής ζωής. Τέλος, «καθίσταται πλέον σαφές ότι η ΑΙ έχει τεράστιο περιβαλλοντικό αντίκτυπο». Η σημασία αυτής της πτυχής, σύμφωνα με τον ίδιο, μπορεί να αξιολογηθεί σωστά μόνο με την αριστοτελική προσέγγιση, η οποία ξεφεύγει από τα ανθρώπινα συμφέροντα και τα ανθρώπινα δικαιώματα.
Κανόνες και φρόνηση
Ο Αριστοτέλης, όμως, δεν παρέχει μόνο ένα εννοιολογικό πλαίσιο για τη σωστή κατανόηση των προβληματισμών που προκύπτουν από την ΑΙ· αναδεικνύει επίσης ουσιώδεις πτυχές της ηθικής σκέψης που μοιάζουν να εκφεύγουν των δυνατοτήτων ακόμη και των πιο έξυπνων μηχανών. Χαρακτηριστική είναι η έννοια της φρόνησης – της πρακτικής σοφίας που δεν συνίσταται απλώς στην εφαρμογή κανόνων, αλλά προϋποθέτει μια ευρύτερη κατανόηση της ανθρώπινης ζωής και της σημασίας της.
«Πράγματι, ένας αλγόριθμος είναι ένας κανόνας – αν και ενδεχομένως ένας κανόνας τόσο περίπλοκος που κανένας άνθρωπος δεν θα μπορούσε να συλλάβει ή να εφαρμόσει», λέει ο κ. Τασιούλας. «Σύμφωνα με τον Αριστοτέλη, δεν υπάρχουν κανόνες, όσο περίπλοκοι κι αν είναι, που να μπορούν να προβλέψουν κάθε πιθανή μελλοντική κατάσταση. Aρα χρειάζεται κρίση. Αυτό είναι σημαντικό – αλλά μπορεί κάποιος να απαντήσει ότι η ΑΙ με τον περίπλοκο κανόνα που θα εφαρμόσει θα τα πάει πολύ καλύτερα από την ανθρώπινη κρίση».
Ακόμη πιο σημαντική είναι μια άλλη πτυχή της αριστοτελικής φρόνησης, εξηγεί ο καθηγητής της Οξφόρδης. «Δεν αφορά μόνο τα μέσα για να επιτευχθεί ένας σκοπός, αλλά και την επιλογή των σωστών σκοπών. Αυτό δεν είναι κάτι που μοιάζει να μην είναι εντός των δυνατοτήτων της ΑΙ – όσοι μιλούν για “νοημοσύνη” ή “υπερ-νοημοσύνη” έχουν κατά νου μια εργαλειακή σύλληψη της έννοιας».
Οσο προηγμένα και αν γίνουν τα συστήματα, αν δεν έχουν κάτι σαν μια ανθρώπινη ζωή, τότε, ακόμη και αν αποκτήσουν μια ηθική αίσθηση, θα είμαστε στο σκοτάδι σχετικά με αυτήν – και δεν θα έχουμε κανένα λόγο να πιστεύουμε ότι θα ευθυγραμμιστεί με τις δικές μας αξίες.
«Και υπάρχει και κάτι ακόμη», συνεχίζει. «Είναι μάλλον απίθανο για κάθε ερώτημα να υπάρχει μία, μοναδική βέλτιστη απάντηση. Η λειτουργία των αλγορίθμων αυτό προϋποθέτει: Οτι ακολουθώντας μια σειρά από αναγκαία βήματα, καταλήγεις στη σωστή απόφαση. Εντός του αριστοτελικού πλαισίου, υπάρχει η δυνατότητα αναγνώρισης ότι μπορεί να μην υπάρχει μία, αδιαφιλονίκητη, σωστή απόφαση. Ποια είναι η καλύτερη σταδιοδρομία για μένα; Για να το αποφασίσω, πρέπει να εξετάσω μια σειρά από αξίες. Είναι απίθανο η διαδικασία αυτή να με οδηγήσει σε μία και μοναδική απάντηση. Θα πρέπει να επιλέξω μεταξύ μιας γκάμας πιθανών εναλλακτικών. Το ίδιο θα συμβεί αν είμαι δικαστής και πρέπει να εξισορροπήσω τις απαιτήσεις της δικαιοσύνης και του ελέους. Δεν θα έπρεπε, στις περισσότερες τέτοιες περιπτώσεις, η επιλογή αυτή να παραμείνει ανθρώπινο προνόμιο, αντί να την κάνει για εμάς η ΑΙ;».
Μπορούμε να είμαστε σίγουροι ότι στο μέλλον τα συστήματα ΑΙ δεν θα αναπτύξουν μια μορφή νοημοσύνης ικανής να συλλάβει την ηθική διάσταση της ζωής με την έννοια του Αριστοτέλη – να πραγματεύεται τους ίδιους τους σκοπούς και όχι απλώς τους πιο αποτελεσματικούς τρόπους για την επίτευξή τους;
«Θα ήταν πολύ ανόητο να αποκλείσουμε κάτι τέτοιο a priori», επισημαίνει ο κ. Τασιούλας. «Ωστόσο, είναι σύνθετο να καταλάβουμε τι θα σήμαινε αυτό. Ο (φιλόσοφος) Χίλαρι Πάτναμ έχει γράψει κάτι πολύ όμορφο σχετικά: Οτι το πραγματικό ερώτημα είναι τι μέρος αυτού που αποκαλούμε νοημοσύνη είναι συνδεδεμένο με την ανθρώπινη ζωή. Για παράδειγμα, μέρος της νοημοσύνης είναι η κοινή λογική, την οποία η ΑΙ δεν διαθέτει – εξ ου και κάνει λάθη που κανένας άνθρωπος δεν θα έκανε, π.χ. μπερδεύει μια γάτα με ένα skateboard απλώς και μόνον επειδή έχουν αλλάξει κάποια πίξελ. Η κοινή λογική, όμως, είναι προϊόν της ανθρώπινης ζωής. Μια ενδιαφέρουσα σύγκριση είναι με τους θεούς της αρχαίας Ελλάδας. Οι θεοί της αρχαίας Ελλάδας δεν συμμορφώνονταν με κάποιον αναγνωρίσιμο κώδικα ηθικής, καθώς δεν είχαν ανθρώπινη φύση. Aρα η ανησυχία είναι ότι, όσο προηγμένα και αν γίνουν αυτά τα συστήματα, αν δεν εντάσσονται στην ανθρώπινη κοινωνία, δεν έχουν κάτι σαν μια ανθρώπινη ζωή, τότε, ακόμη και αν αποκτήσουν μια ηθική αίσθηση, θα είμαστε στο σκοτάδι σχετικά με αυτήν – και δεν θα έχουμε κανένα λόγο να πιστεύουμε ότι θα ευθυγραμμιστεί με τις δικές μας αξίες».
Εργαλεία, όχι σύντροφοι
Ο κ. Τασιούλας επικαλέστηκε σε πρόσφατη δημοσίευσή του τη ρήση του φιλοσόφου Ντάνιελ Ντένετ, ο οποίος έφυγε πρόσφατα από τη ζωή, σύμφωνα με την οποία πρέπει να βλέπουμε τα συστήματα ΑΙ ως «ευφυή εργαλεία, όχι ως συναδέλφους». Υπερθεματίζοντας, ο Οξφορδιανός φιλόσοφος σχολίασε πως ούτε πρέπει να τα βλέπουμε σαν φίλους, εραστές ή συμπολίτες. Πώς θα επιμείνουμε σε αυτήν τη στάση, ωστόσο, αν φτάσουν να εμφανίζουν όλα τα γνωρίσματα της έλλογης συνείδησης – έστω σε μια δική τους αλλόκοτη εκδοχή;
«Συμφωνώ ότι αυτό αναδεικνύει την ασυναρτησία πολλών από τα εγχειρήματα των μεγάλων τεχνολογικών εταιρειών. Από τη μία, λένε ότι ο στόχος τους είναι να αναπτύξουν τη Γενική Τεχνητή Νοημοσύνη (ΓΤΝ), αλλά παράλληλα λένε ότι όταν την αναπτύξουν, θα είναι ένα εργαλείο στην υπηρεσία των σκοπών του ανθρώπου. Θεωρώ ότι αυτές οι δύο επιδιώξεις είναι σε σύγκρουση μεταξύ τους. Αν είχαμε μηχανές με ΓΤΝ –που θα μπορούσαν να αναπαράγουν το πλήρες φάσμα της ανθρώπινης νοημοσύνης– τότε θα επρόκειτο για όντα αντίστοιχης αξίας με τους ανθρώπους, τα οποία δεν θα μπορούσαμε να τα αντιμετωπίσουμε ως εργαλεία. Αν το κάναμε, όπως έχει πει και ο Τζοζάια Ομπερ (σ.σ.: ο καθηγητής του Στάνφορντ με τον οποίο συνδιοργανώνουν το Lyceum Project), θα υποπίπταμε στο ίδιο σφάλμα με τον Αριστοτέλη, που θεωρούσε ότι κάποιες κατηγορίες ανθρώπων είναι σκλάβοι από τη φύση τους. Αρα προκύπτει το περαιτέρω ερώτημα: Αν δεν χρησιμοποιούμε τα συστήματα της ΓΤΝ ως εργαλεία, γιατί να τα δημιουργήσουμε καν;».
Η πολιτική οικονομία της ΑΙ
Η κουβέντα στρέφεται από τη φιλοσοφία στην πολιτική οικονομία. Μιλάμε για το έργο του Νταρόν Ατζέμογλου (που είναι distinguished research fellow στο ινστιτούτο που διευθύνει ο Τασιούλας). Ο διακεκριμένος οικονομολόγος του MIT, στο περυσινό βιβλίο του «Power and Progress» (μαζί με τον Σάιμον Τζόνσον), αναδεικνύει τους κινδύνους που συνεπάγεται ο τρόπος με τον οποίο αναπτύσσεται η ΑΙ προς όφελος του μεγάλου κεφαλαίου και εις βάρος των εργαζομένων και της κοινωνίας. Ρωτάω τον κ. Τασιούλα αν είναι αισιόδοξος ότι η ΑΙ θα χρησιμοποιηθεί προς όφελος των πολλών, όχι της οικονομικής ελίτ.
«Δεν είμαι αισιόδοξος, αλλά έχω ελπίδες», απαντά ο ομογενής από την Αυστραλία. «Ο μόνος τρόπος η ΑΙ να κατευθυνθεί προς αξιόλογους σκοπούς είναι αν υπάρχει περισσότερος δημοκρατικός έλεγχος επί της εξέλιξής της». Η ΑΙ, σημειώνει, θα μπορούσε να συμβάλει σε πιο συμμετοχικές μορφές δημοκρατίας, όπως συμβαίνει στην Ταϊβάν με την πλατφόρμα «Polis», μέσω της οποίας οι διαβουλεύσεις των πολιτών τροφοδοτούν τη νομοθετική διαδικασία.
Σχετικά με τη ρύθμιση της ίδιας της τεχνολογίας, ο Τασιούλας στηλιτεύει την τεχνοκρατική προσέγγιση των μεγάλων επιχειρήσεων του κλάδου, με σκοπό να αποκλείσουν από τη συζήτηση τους απλούς πολίτες. «Είναι το ίδιο που έκαναν οι τραπεζίτες – και αυτό οδήγησε στη μεγάλη χρηματοπιστωτική κρίση. Είναι ευθύνη (των μεγάλων εταιρειών) να καταστήσουν το ευρύ κοινό κοινωνό των εξειδικευμένων θεμάτων. Τα βασικά ερωτήματα συνιστούν αξιολογικές κρίσεις – και εκεί δεν υπάρχουν ειδικοί».
πηγή: kathimerini.gr
Πολύ ενδιαφέρουσες ιδέες πάντα σε γενικόλογο ακαδημαϊκό επίπεδο όπως οφείλει κάθε καθηγητής Πανεπιστημίου που δεν θέλει να διακιδυνέψει παγίδες επικίνδυνες για το κύρος του.
Εγώ όμως δεν είμαι ακαδημαϊκός και σχολιάζω πιο ελεύθερα
1 Για τον Αριστοτέλη αξιωματικά η κρίση οφείλει να υπηρετεί σε κάθε φρόνιμο βημα της τα τρια ζεύγη αξίας -απαξίας α) ωραίο-άσχημο β) δίκαιο-άδικο γ)αληθές-ψευδές , Για αυτόν τα τρια ζεύγη αρκούν ( δεν χρείαζεται το Καντιανό ζεύγος ηθικό-ανήθικο αφού γι αυτόν είναι δευτερογενές και προκύπτει από τα 3 πρωταρχικά ζεύγη όπως και το ζεύγος αγαθό-κακό στο οποίο η φρόνηση συνοψίζει τα προηγούμενα …)
2, Για το τελευταίο ζεύγος αξίας-απαξίας η κρίση είναι πιο εύκολη ακόμα και για ένα σύστημα ΤΝ, Αρκεί η γρήγουρη αναζήτηση κειμένων. π.χ. Ζήτησα στοιχεία για την επαγγελματική προϋπηρεσία των Ευρωβουλευτών και τις αμοιβές τους απο το Gemini AI. Η απάντηση άμεση όχι μόνο με νούμερα ( 7.704 € μηνιαίως συν έξοδα γραφείου, ταξειδίων και διαμονής ) αλλά και με πααραπομπές σε ιστότοπους της ΕΕ με στατιστικά στοιχεία.
Όμως για τα άλλα δυο ζεύγη ( ωραίο -άσχημο και δίκαιο -άδικο ) τα πράγματα είναι πολύ πιο δύσκολα για ένα “μπότ”. Ο λόγος είναι ότι σε κάθε εποχή η ιστορικότητα αυτών των ζευγών αξίας απαξίας ενσωματώνει (αποκρυσταλλώνει) στη λογική με διαφορετικό τρόπο τους όρους, τις έννοιες, τις ιδέες και τις θεωρίες πάνω σε αυτά τα αξιολογικά σχήματα. Είναι άραγε μια τεχνικά άψογη ταινία κιτς (cult) καλή τέχνη ; ( ωραία ή καρακιτσαριό;). Η Τ.Ν μπορεί όμως να εκθέσει πληροφορίες, Η απόφαση του χρήστη της Τ.Ν.
3, Το τελευταίο σχετίζεται όχι κυρίως με την απαιτούμενη πληροφορία αλλά με την λήψη απόφασης. Η Τ.Ν. απέδειξε τις δυνατότητές της στο σκάκι αλλά και στην αεροπλοϊα … Αλλά τους αυτόματους πιλότους μπορούμε να τους εμπιστευτούμε μόνο υπό συνεχή επιτήρηση εκπαιδευμένων πιλότων και συνήθως όχι στην διαδικασία της απογείωσης/προσγείωσης. Ίσως διότι κανείς δεν θα στοιχημάτιζε την ζωή του στο αποτέλεσμα ενός αγώνα σκακιού μεταξύ Κασπάρωφ και ενός υπερυπολογιστή.
Την εργασία του χειρουργού επίσης την αναθέτουμε σε ρομπότ υπό τον άμεσο έλεγχο τουεκπαιδευμένου χειρουργού. Την εργασία ενός εργολάβου μεγάλου δημόσιου έργου ; Την εργασία του Δασκάλου ( που επίσης καλείται να λάβει δεκάδες αποφάσεις σε κάθε διδακτική ώρα ; Μη μου πείτε αδύνατον, ,,, διότι ήδη την αναθέτουμε σε ανειδίκευτους παιδαγωγούς εδώ και χρόνια. ( μάλλον διότι κάποιοι εκτιμούν πως δεν κινδινεύει η ζωή των εφήβων ) Γιατί λοιπόν να μην εμπιστευτούμε και την φροντίδα της υπέργηρης μητέρας μας κύριε Καθηγητά σε ένα ρομπότ; Εδώ την εμπιστευόμαστε σε οίκους ευγηρίας που δεν ελέγχονται από κοινωνικούς και κρατικούς θεσμούς. Εδώ βρίσκεται το πραγματικό πρόβλημα Δημοκρατίας όπως και το πρόβλημα υποβάθμισης όλων των ανθρωπιστικών επιστημών .
Τα υπόλοιπα περί Δημοκρατίας είναι δημοφιλείς σάλτσες , Ποια Δημοκρατία όταν λίγες ημέρες πριν τις Ευρωεκλογές το μεν Εκοφίν ( όργανο μη εκλεγμένων ) συνεδριάζει κεκλεισμένων των θυρών γαι την οικονομική και στρατιωτική βοήθεια στην Ουκρανία… Αμέσως δε μετά η Κομισιόν ( επίσης όργανο μη εκλεγμένο ) ανακοινώνει πως και η Ουκρανία πληροί τις προϋποθέσεις ένταξης στην ΕΕ.
Εκτός αν εννοεί ο κύριος Καθηγητής την Δημοκρατία που έφερε έναν Φειδία Παναγιώτου να αναφωνήσει: “Εκλέγηκα”!
Αφού ο αρχηγός θέλει να έχουμε και φιλοσοφικά κείμενα στο ylikonet. Ένα σχετικό.
Η ΑΤΕΧΝΗ ΜΕΤΑΦΥΣΙΚΗ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ
του ΗΛΙΑ ΑΛΕΒΙΖΟΥ
Στις 16 Φεβρουαρίου του 1946 το πανεπιστήμιο της Πενσυλβάνιας παρουσίασε στο ευρύ κοινό και στον τύπο της εποχής τον ENIAC, έναν από τους πρώτους υπολογιστές και τον πρώτο τέτοιο με την καθιερωμένη πλέον σημασία του (υλοποιούσε εσωτερικά τη λεγόμενη αρχιτεκτονική φον Νώυμαν και ήταν πλήρως προγραμματιζόμενος). Ζύγιζε τριάντα τόνους και άνετα θα καταλάμβανε όλα τα δωμάτια ενός μεγάλου, σύγχρονου διαμερίσματος. Ήταν ένα άλλο χαρακτηριστικό του όμως που τράβηξε την προσοχή των δημοσιογράφων. Ο ENIAC είχε τη δυνατότητα να υπολογίσει την τροχιά ενός βλήματος σε λιγότερο χρόνο απ’ αυτόν που θα διαρκούσε η ίδια η τροχιά (το παράδειγμα με τις τροχιές βλημάτων δεν ήταν βέβαια τυχαίο, εφόσον ο ENIAC είχε σχεδιαστεί ακριβώς για τέτοιους σκοπούς στα πλαίσια της εμπλοκής των Η.Π.Α. στον Β΄ Παγκόσμιο Πόλεμο). Ήταν τέτοια η εντύπωση που προκάλεσαν οι υπολογιστικές δυνατότητες του ENIAC ώστε δεν ήταν σπάνιες οι αναφορές περί ενός «ηλεκτρονικού εγκεφάλου».
Παρά την υπαρκτή υπερβολή αυτών των χαρακτηρισμών, θα ήταν ωστόσο προπέτεια να διαβάσει κανείς τις τότε αντιδράσεις απλά ως ένα ακόμα δείγμα δημοσιογραφικής εντυπωσιοθηρίας. Την αμέσως επόμενη δεκαετία μετά το ντεμπούτο του ENIAC θα εισαγόταν στο επιστημονικό λεξιλόγιο ο όρος «τεχνητή νοημοσύνη». Όχι από τους δημοσιογράφους, αλλά από τους ίδιους τους επιστήμονες της νεοαναδυόμενης τότε επιστήμης της πληροφορικής. Ο σκοπός τους ήταν τόσο μεγαλεπήβολος όσο αφήνει να εννοηθεί ο όρος: η αναβίωση της παλιάς εκείνης φιλοδοξίας του Λάιμπνιτς περί κατασκευής μιας καθολικής άλγεβρας του Λόγου μέσω της αναγωγής του σε μηχανικά διατυπώσιμους κανόνες. Κλεισμένοι στα εργαστήριά τους, οι ειδικοί επιστήμονες πιθανότατα δεν είχαν ούτε τον χρόνο ούτε την διάθεση να ασχοληθούν με τον Λάιμπνιτς. Ακόμα κι εν αγνοία τους όμως, συνέχιζαν πάνω στον δρόμο που αυτός είχε διανοίξει πριν μερικούς αιώνες, όταν ο Ορθός Λόγος είχε αρχίσει να ξυπνάει ξανά μετά από τον παρατεταμένο του ύπνο κάτω από το βαρύ πάπλωμα της θεολογίας. Βασιζόμενοι στην αναλογία (που οι ίδιοι διέβλεπαν) μεταξύ των ηλεκτρονικών διακοπτών – τρανζίστορ των υπολογιστών και των εγκεφαλικών νευρώνων θα έθεταν στον εαυτό τους τον στόχο να κατασκευάσουν μηχανές που «πραγματικά θα σκέφτονταν». Το εγχείρημα αυτό τελικά θα κατέρρεε εντυπωσιακά τα επόμενα χρόνια όταν και έγινε αντιληπτό το μέγεθος των δυσκολιών που ανέκυψαν για την επίλυση ακόμα και των απλούστερων προβλημάτων που θα όφειλε να μπορεί να αντιμετωπίσει μια «σκεπτόμενη» μηχανή. Όπως ήταν φυσικό, μαζί με την επιστημονική αλαζονεία, στέρεψαν και τα χρηματοδοτικά κονδύλια. Το εγκεφαλογράφημα της τεχνητής νοημοσύνης εκφυλίστηκε σε μια επίπεδη γραμμή για αρκετά χρόνια πριν εμφανίσει πρόσκαιρα κάποια σημάδια ζωής τη δεκαετία του 1980. Για να πέσει πάλι σε κωματώδη αδράνεια για το υπόλοιπο του 20ού αιώνα. Και για να ανανήψει για μια ακόμα φορά τα τελευταία χρόνια, γνωρίζοντας ένα νέο κύμα επενδύσεων και υπερφίαλων (ξανά) υποσχέσεων.
Έχοντας την πικρία από τους πρώτους «χειμώνες της τεχνητής νοημοσύνης», οι εμπλεκόμενοι επιστήμονες εμφανίζονται πλέον λιγότερο επιρρεπείς προς τη μεγαλαυχία, τουλάχιστον όσον αφορά σε πιο οριακά, φιλοσοφικά ζητήματα. Οι φιλοδοξίες τους εστιάζονται σ’ ένα πιο πρακτικό επίπεδο, δίχως αυτό να σημαίνει ότι είναι απαλλαγμένες από το στοιχείο της υπερβολής και της (με μαρξιανή έννοια) ιδεολογίας· η μόνιμη επωδός περί επικείμενης εξαφάνισης της ανθρώπινης εργασίας αποτελεί ένα μόνο δείγμα. Οι περισσότερο φιλοσοφικές και υπαρξιακές αναζητήσεις του κλάδου έχουν βρει καταφύγιο πίσω από τον όρο «Γενική Τεχνητή Νοημοσύνη», με τον οποίο υποδηλώνεται η έρευνα περί της δυνατότητας κατασκευής «πραγματικά σκεπτόμενων» μηχανών, σε αντιπαραβολή με την πιο στενή έννοια της τεχνητής νοημοσύνης όπου το ζητούμενο είναι η κατασκευή «έξυπνων» αλγορίθμων για πιο πρακτικούς σκοπούς και ανεξαρτήτως του αν αυτοί παρουσιάζουν κάποια ομοιότητα ή αναλογία προς την ανθρώπινη σκέψη.
Όσοι έχουν αναπτύξει θετικιστικού τύπου εξαρτημένα αντανακλαστικά πολύ πιθανό να περίμεναν ότι, για να λαμβάνουν χώρα τέτοιες ορολογικές διχοτομήσεις, αυτό δεν θα μπορούσε παρά να συμβαίνει μόνο αφού πρώτα θα είχαν επιλυθεί ακόμα πιο βασικά ζητήματα ορισμών. Όπως αυτό του ορισμού της «τεχνητής νοημοσύνης» ή ακόμα και απλά της «νοημοσύνης». «Παραδόξως», τίποτα τέτοιο δεν συμβαίνει. Δεν υφίσταται κανένας επακριβής κι επιστημονικά αυστηρός ορισμός της «τεχνητής νοημοσύνης», ακόμα και στην πιο «στενή» εκδοχή της – η μέθοδος ελαχίστων τετραγώνων θεωρείται μια τετριμμένη στατιστική τεχνική και όχι ακριβώς δείγμα τεχνητής νοημοσύνης, την ίδια στιγμή που ένα πολύ μεγάλο μέρος της λεγόμενης μηχανικής μάθησης (υποκλάδου της τεχνητής νοημοσύνης) δεν είναι τίποτα άλλο παρά πιο επεξεργασμένες κι εκλεπτυσμένες εκδοχές αυτής της μεθόδου. Αν όμως η επιστήμη αδυνατεί να παραγάγει εγγενώς έναν τέτοιο ορισμό (φαινόμενο που εξάλλου παρατηρείται και για άλλες βασικές επιστημονικές έννοιες), αυτό δεν συνεπάγεται φυσικά ότι αποκόβεται κάθε οδός κατανόησης των βασικών προκείμενων που υποβαστάζουν τον πυρήνα της τεχνητής νοημοσύνης. Αρκεί να αντικαταστήσει κανείς τις θετικιστικές παρωπίδες με το ιστορικο-κοινωνικό τηλεσκόπιο.
Μιλώντας κατ’ αρχάς με πιο αφηρημένα φιλοσοφικούς όρους, μια βασική παραδοχή της τεχνητής νοημοσύνης, άνευ της οποίας θα ήταν αδύνατο να στηριχτεί το εγχείρημα μηχανοποίησης του νου, είναι ότι η σκέψη «σε τελική ανάλυση» ανάγεται σε υπολογιστικές διαδικασίες χειρισμού συμβόλων (το αυτό ισχύει και για τα δημοφιλή σήμερα νευρωνικά δίκτυα). Οι εν λόγω διαδικασίες τώρα λαμβάνουν χώρα εντός ενός νου ο οποίος παραμένει σε μια σχετική μόνωση τόσο ως προς το περιβάλλον του όσο και ως προς άλλους νόες. Η αλληλεπίδραση με τον εξωτερικό κόσμο δεν αποφεύγεται φυσικά, αλλά συμβαίνει μόνο σε δεύτερο χρόνο, σχεδόν ως αναγκαίο κακό. Η εσωτερική αναδίπλωση διατηρεί πάντα μια απόλυτη προτεραιότητα. Για την ακρίβεια, ο νους είναι σε τέτοιο βαθμό αυθυπόστατος ώστε να παρουσιάζει και αυτό που καλείται «τυπική ανεξαρτησία ως προς το μέσο», ήτοι του είναι αδιάφορο αν το υλικό του υπόστρωμα αποτελείται από βιολογικούς νευρώνες, από ηλεκτρονικά τρανζίστορ ή εν πάση περιπτώσει από την οποιαδήποτε υλικοτεχνική υποδομή μπορεί να φέρει εις πέρας τους απαραίτητους υπολογισμούς. Αυτό που έχει σημασία είναι οι τυπικοί κανόνες που ένα νοήμον πλάσμα ακολουθεί όταν σκέφτεται. Άπαξ και αυτοί ανακαλυφθούν, τότε η κατασκευή σκεπτόμενων μηχανών εκπίπτει σ’ ένα λίγο – πολύ τεχνικό ζήτημα και η επιλογή του μέσου υλοποίησης αυτών των κανόνων γίνεται τελικά με συμβατικά κριτήρια ευκολίας και αποδοτικότητας.
Σε σχέση με τη θετικιστική αφωνία, η παραπάνω πρωτόλεια απόπειρα ορισμού της (τεχνητής ή μη) νοημοσύνης αποτελεί οπωσδήποτε ένα πρώτο βήμα. Δυστυχώς, σε πλείστες όσες σχετικές φιλοσοφικές συζητήσεις (μιλώντας για τον αγγλοσαξωνικό χώρο, ο οποίος όμως είναι και συντριπτικά κυρίαρχος σε αυτούς τους τομείς), αυτό το πρώτο βήμα είναι ταυτόχρονα και το τελευταίο, μια στάση που ενδεχομένως οφείλεται στο βάρος της διαισθητικής προφάνειας του εγχειρήματος αναγωγής της νοημοσύνης σε μια γραμμή παραγωγής και μεταποίησης συμβόλων. Η διαισθητική προφάνεια όμως, ειδικά σε σχέση με έννοιες που φέρουν ένα ιστορικό βάρος, δεν είναι συχνά τίποτα άλλο παρά η μία όψη ενός νομίσματος του οποίου η άλλη όψη είναι η ιδεολογική κατασκευή. Με άλλα λόγια, ορισμοί που φιλοδοξούν να αυτοπροσδιορίζονται ως προφανείς, διαχρονικοί και υπεριστορικοί, σε πιο προσεκτική εξέταση αποδεικνύονται τελικά βολικά ιδεολογήματα.
Το κατ’ αρχήν ανυπόστατο της υποτιθέμενης ανιστορικότητας της έννοιας της νοημοσύνης μπορεί να καταδειχθεί ακόμα και με μια απλή ιχνογράφηση της λέξης μέσα στη διάρκεια του χρόνου. Ως λέξη, λοιπόν, η «νοημοσύνη» (intelligence) αποτελεί μια μάλλον πρόσφατη προσθήκη στο φιλοσοφικό λεξιλόγιο. Η συγγενής λέξης «intellectus» εμφανίζεται κατά τον όψιμο Μεσαίωνα, ως μετάφραση του ελληνικού «νου», όμως ενταγμένη στο πλαίσιο της σχολαστικής φιλοσοφίας, με όλη την πνευματιστική και θεολογική σκευή που αυτή η ένταξη συνεπάγεται. Ακόμα και η σχετικά συγγενής έννοια της «συνείδησης» απουσιάζει πλήρως από την αρχαιοελληνική γραμματεία και δεν τέθηκε σε κυκλοφορία παρά μόνο διαμέσου του στωικισμού. Το ενδιαφέρον εν προκειμένω βρίσκεται στο ότι η χρήση της έννοιας εκ μέρους των στωικών είχε κατά βάση ηθικές συμπαραδηλώσεις και μόνο δευτερευόντως γνωσιολογικές. Η «συνείδηση» αναφερόταν σε αυτόν τον σκληρό ηθικό πυρήνα εντός κάθε ατόμου που παραμένει αδιατάρακτος από έξωθεν τριγμούς. Η εισαγωγή της λέξης «συνείδηση» ήταν επομένως μια χειρονομία αναδίπλωσης του ηθικού στοιχείου προς το εσωτερικό των ατόμων και απόσυρσής του από τη δημόσια αρένα της πολιτικής διαπάλης, σε αντίθεση φυσικά με τα ειωθότα της αρχαιοελληνικής πόλης – κράτους, αλλά σε συγχρονισμό με τις ευρύτερες κοινωνικο-πολιτικές εξελίξεις – στα πλαίσια μιας αυτοκρατορίας όπου το δικαίωμα πολιτικής συμμετοχής είχε περισταλεί δραστικά, μια εσωτερική αναδίπλωση και επανεπένδυση του ηθικού στο αυστηρά ατομικό φάνταζε σχεδόν αναπόδραστη.
Η εννοιολογική μετάπτωση της σκέψης από άσκηση του Λόγου σε υπολογιστική νοημοσύνη χρειάστηκε ένα βάθος αιώνων μετά τον όψιμο Μεσαίωνα για να βρει την αρχετυπική πλήρωσή της στη Βρετανία του 18ου αιώνα. Για την πρώιμη νεωτερικότητα, λέξεις όπως «νους», «intellectus» ή «Λόγος» εξακολουθούσαν να διατηρούν ένα στοιχείο καθολικότητας, η οποία συχνά εξασφαλιζόταν μέσω της αναφοράς σ’ ένα θεϊκό ον, είτε με την πιο παραδοσιακή μορφή του χριστιανικού θεού που διατήρησε ο Καρτέσιος είτε με την πιο αιρετική και απρόσωπη μορφή του Σπινόζα (ο Λάιμπνιτς, ο τρίτος μεγάλος εκπρόσωπος του ορθολογισμού, είχε επίσης φροντίσει να διατηρήσει τέτοια στοιχεία καθολικότητας για τον Λόγο, κάτι που τον φέρνει σε σύγκρουση με μεταγενέστερες αντιλήψεις, παρά το γεγονός ότι και αυτός ονειρευόταν μια άλγεβρα του Λόγου). Ακόμα και ο γερμανικός ιδεαλισμός, παρά το ότι, εντεύθεν του Χέγκελ, εντάσσει τον Λόγο μέσα στον δυναμικό ρου της ιστορίας, δεν θα έφτανε στο σημείο να του αφαιρέσει το στοιχείο της καθολικότητας· εξ ου και ο Λόγος στον γερμανικό ιδεαλισμό παρέμεινε πάντα συνδεδεμένος μ’ ένα Δέον (ή, εν πάση περιπτώσει, μ’ ένα στοιχείο απολύτρωσης). Καταλυτική επίδραση προς την κατεύθυνση αποκαθήλωσης του Λόγου θα είχε τελικά η Βρετανία, τόσο σε φιλοσοφικό επίπεδο όσο και σε επίπεδο κοινωνικών σχέσεων που επέτρεψαν στις αντίστοιχες φιλοσοφικές θεωρήσεις να βρουν έδαφος για να αναπτυχθούν. Τα πρώτα βήματα προς μια πιο μηχανιστική αντίληψη της σκέψης είχαν ήδη βέβαια γίνει με τον Χομπς κατά τον 17ο αιώνα. Όταν η Ευρώπη (με τη Βρετανία στην πρωτοπορία και τη Γερμανία ασθμαίνουσα ακόμα) μπαίνει με ταχύ βηματισμό στη λογική της οικονομίας της αγοράς, οι παλαιότερες αντιλήψεις περί του Λόγου και της όποιας καθολικής δεσμευτικότητάς του δεν έχουν πλέον σημείο να σταθούν. Το ζητούμενο για τα υποκείμενα δεν είναι η ανακάλυψη των ιεραρχιών του Λόγου και η συμμόρφωσή τους προς τις επιταγές του, αλλά ο κατά το δυνατό ακριβέστερος υπολογισμός κερδών και ζημιών, η λυσιτελής στάθμιση όλων των παραγόντων προς επίτευξη του εκάστοτε σκοπού και σε αντιπαράθεση προς τα υπόλοιπα υποκείμενα για τα οποία καμμία βεβαιότητα δεν υφίσταται ότι συμμερίζονται τις ίδιες ηθικές αρχές. Κατ’ αυτόν τον τρόπο ανοίγει ο δρόμος ώστε ο Λόγος να γίνει Υπολογισμός. Η μετατροπή του κοινωνικού πεδίου σε κινούμενη άμμο είχε ωστόσο και μία ακόμα συνέπεια: την αδυναμία συγκρότησης μιας αίσθησης ταυτότητας χρησιμοποιώντας ως σημεία σύναψης όψεις του εξωτερικού (φυσικού ή κοινωνικού) κόσμου. Αν ο εξωτερικός κόσμος βιώνεται ως πρωτογενώς ανταγωνιστικός προς το άτομο, δεν δύναται φυσικά να προσφέρει και την πρώτη ύλη για την κατασκευή της ταυτότητας του ατόμου (παρά μόνο ίσως κατά έναν μαζοχιστικό τρόπο). Ο Χιουμ και ο Λοκ μπορούσαν πλέον να εγείρουν υποψίες για το κατά πόσο η αίσθηση του εαυτού συνιστά μια ψευδαίσθηση, βήμα που δεν διανοήθηκε να κάνει ποτέ ακόμα και ο πρωτεργάτης της αμφιβολίας, ο Καρτέσιος· έθεσε όλον τον εξωτερικό κόσμο εντός παρενθέσεων για να τον ανασυστήσει μετέπειτα, βασιζόμενος όμως πάντα στη βεβαιότητα του cogito ergo sum. Ο εαυτός, λοιπόν, αν και σε όποιον βαθμό υπάρχει, συγκροτείται επί τη βάσει αυστηρά εσωτερικών καταστάσεων και ανεξαρτήτως του (κοινωνικού ή φυσικού) μέσου στο οποίο εκφράζεται, αντίληψη η οποία έτσι συναντάει και συμπληρώνει την παλιότερη στωική και κατόπιν χριστιανική θεώρηση της συνείδησης ως αυστηρά ατομικής λειτουργίας[1]. Η ηθική αναδίπλωση συμπληρώνεται έτσι και από μία αντίστοιχη γνωσιολογική.
Όταν η νοημοσύνη αρχίζει να λαμβάνει το σημερινό της περίγραμμα κατά τα τέλη του 19ου αιώνα (όπου σημαντικό ρόλο έπαιξαν τόσο διάφορες κοινωνιοβιολογικές θεωρίες περί προσαρμοστικότητας των οργανισμών απέναντι σε ένα περιβάλλον που τους θέτει συνεχώς δοκιμασίες όσο και τα περιβόητα τεστ IQ που εισήγαγαν την ιδέα περί μετρησιμότητας της ευφυίας), δεν εισήχθη στις επιστημονικές, ψυχολογικές και εν γένει φιλοσοφικές αναζητήσεις ως μία άμωμη και άσπιλη έννοια ούτε διαμορφώθηκε ως αποτέλεσμα ενός αυστηρά επιστημονικού ενδιαφέροντος. Την αναδέχθηκαν στο εσωτερικό τους τα διανοητικά και ιδεολογικά αγγεία που είχαν ήδη πλαστεί πάνω στον τροχό της ιστορικής κεραμικής για να της δώσουν τη σύγχρονη μορφή της. Όπως θα έπρεπε να είναι προφανές, ο επιστημονικός κλάδος της τεχνητής νοημοσύνης που αναπτύχθηκε μεταπολεμικά είχε επί της ουσίας ελάχιστα να προσθέσει στις βασικές ιδεογραμμές της έννοιας της νοημοσύνης. Προέβη όμως στο (ιδεο)λογικά επόμενο βήμα, προσθέτοντας το επίθετο «τεχνητή», εισάγοντας δηλαδή την ιδέα περί κατασκευασιμότητας της νοημοσύνης.
Παρότι μια τέτοια κατάληξη της έννοιας της νοημοσύνης φαίνεται να διέπεται από μια ιστορική και γενεαλογική συνέχεια, αυτό δεν σημαίνει ότι είναι και απαλλαγμένη από λογικές και φιλοσοφικές αντιφάσεις. Πίσω από τις διάφορες μεταμορφώσεις και προσωπεία που έχει κατά καιρούς φορέσει η νοημοσύνη, το ελάχιστο που θα έπρεπε να της αναγνωριστεί, εφόσον γίνεται αναφορά σε όντα (φυσικά ή τεχνητά) που «πραγματικά σκέφτονται», θα ήταν το ότι αυτά τα όντα οφείλουν να διαθέτουν αυτοσυνείδηση. Ωστόσο, η αυτοσυνείδηση αναγκαστικά προκύπτει από ένα τραύμα, από ένα εσωτερικό σχίσμα του εαυτού και μία οιονεί αντικειμενοποίησή του. Η αυτοσυνείδηση αναδύεται τη στιγμή εκείνη που ο εαυτός αναδιπλασιάζεται και η μία εικόνα του τίθεται έναντι της άλλης. Μιλώντας με φαινομενολογικούς όρους, το υπερβατολογικό Εγώ οφείλει να αποσπαστεί από το εμπειρικό Εγώ ώστε να μπορέσει να το συλλάβει αναστοχαστικά. Μέσα από αυτή τη ρωγμή το υποκείμενο αποκτάει τη δυνατότητα να φανταστεί τον εαυτό του σαν να ήταν κάποιος άλλος, να μεταθέσει την οπτική του γωνία απόβλεψης του κόσμου φορώντας τα μάτια κάποιου άλλου. Τελική συνέπεια των παραπάνω είναι ότι το υποκείμενο μπορεί να συλλάβει τον εαυτό του ως μη ον, ως ενδεχομενικότητα, οδηγώντας τη σκέψη στο όριό της, δηλαδή στη συνείδηση του θανάτου. Στο τέλος της διαδρομής του, το εσωτερικό σχίσμα έρχεται να συναντήσει και το εξωτερικό, ήτοι τη συνειδητοποίηση ότι «εκεί έξω» υφίσταται ένας κόσμος πέρα από τη βούληση του υποκειμένου ο οποίος και θέτει σε αυτό τα όριά του (αν και όχι με κάποιον απόλυτο τρόπο· τα όρια προκύπτουν πάντα ως αποτέλεσμα μιας διαπραγμάτευσης, ενός διαλόγου ανάμεσα στο υποκείμενο και τον κόσμο).
Αν ωστόσο γίνει δεκτή η παραδοχή περί της δυνατότητας κατασκευής ενός νοήμονος όντος, αυτό το ον εκ των πραγμάτων θα ήταν κατασκευασμένο από τον άνθρωπο (ή από ένα άλλο νοήμον ον σε κάθε περίπτωση). Ταυτόχρονα, εκ του ορισμού του, θα έπρεπε να διαθέτει και αυτοσυνείδηση. Με βάση κάθε έννοια τρέχουσας ή παρελθούσας λογικής αλλά και τα όποια εμπειρικά δεδομένα είναι διαθέσιμα, ένα τέτοιο ον θα ήταν εγγενώς αντιφατικό. Θα επρόκειτο για ένα ον που δεν θα γνώριζε κανένα όριο, έχοντας τη δυνατότητα να αρθεί σ’ ένα αρχιμήδειο σημείο μιας τόσο ενδελεχούς και πλήρους γνώσης ώστε να μπορεί να συλλάβει τόσο τον εαυτό του όσο και τον κόσμο στην ολότητά τους – η πλήρης γνώση του εαυτού θα ήταν αδύνατη χωρίς μια πλήρη γνώση του κόσμου – κι έτσι να κατασκευάσει ανάτυπα του εαυτού του. Τα μόνα του όρια θα ήταν αυτά του εαυτού του, προσομοιάζοντας έτσι σε κάτι το αθάνατο, αν όχι και σχεδόν θεϊκό. Ακόμα και ο Βιτγκενστάιν, στην πιο πρώιμη, θετικιστική του περίοδο, μάλλον θα αναριγούσε μπροστά στην αλαζονεία αυτής της σύλληψης. Η φράση του ότι «το υποκείμενο είναι όριο του κόσμου» φρόντιζε να σταματήσει σε αυτό το σημείο χωρίς να προχωρήσει περαιτέρω στο «το υποκείμενο είναι όριο του εαυτού του».
Γίνεται έτσι καλύτερα κατανοητή η ισχυρή έλξη που ασκούν στη σύγχρονη φιλοσοφία που ενδιατρίβει σε ζητήματα (τεχνητής) νοημοσύνης διάφορα παράδοξα νοητικά πειράματα: από το τεστ του Τιούρινγκ και το κινέζικο δωμάτιο του Σερλ μέχρι τον εγκέφαλο-μέσα-στο-βάζο του Πάτναμ[2]. Το κοινό νήμα που συνέχει όλα αυτά τα σενάρια είναι ότι καταργούν κάθε έννοια του ορίου μέσω μιας χειρονομίας αποθέωσης της κατασκευαστικής δεινότητας του homo faber, είτε πρόκειται για την κατασκευή γλωσσικής ικανότητας (Τιούρινγκ, Σερλ) είτε και για την κατασκευή ολόκληρων προσομοιωμένων κόσμων (Πάτναμ). Η κατάληξη φυσικά είναι να αναπαράγουν σε διάφορες εκδοχές τις ίδιες οντολογικές – φαινομενολογικές αντιφάσεις, παραμένοντας ταυτόχρονα γοητευτικά και αληθοφανή, στο βαθμό που, έστω κι ανεπίγνωστα, κουβαλάνε μέσα τους μια ιστορία αιώνων. Από αυτή την άποψη, ο Καρτέσιος ήταν τουλάχιστον πιο συνεπής όταν, στο δικό του αντίστοιχο νοητικό πείραμα περί της ψευδαισθησιακότητας του κόσμου, κατέφευγε σε έναν δαιμονικό θεό ο οποίος κινούσε τα νήματα των αισθήσεων από το παρασκήνιο. Διότι αυτός θεολογούσε ρητά και εκπεφρασμένα. Μπαίνει κανείς στον πειρασμό να υποθέσει ότι για τον σύγχρονο στοχασμό δεν είναι η πλησμονή μεταφυσικής που οδηγεί σε συγχύσεις και ατέρμονους εννοιολογικούς βρόχους αλλά η έλλειψη αυτής.
Τα εν λόγω σενάρια, παρά τις όποιες λογικές αδυναμίες τους, διαθέτουν μια εσωτερική συνοχή σε ένα άλλο επίπεδο: σε αυτό της κοινωνικής πρακτικής και στις δομικές τους αντιστοιχίες προς τις υλικές συνθήκες που τα γέννησαν. Την ίδια στιγμή που εξυμνείται (έστω και ως υπόθεση εργασίας) η ανθρώπινη τεχνική επιδεξιότητα, το ανθρώπινο υποκείμενο παρουσιάζεται ως άπειρα κατασκευάσιμο, δηλαδή ως ένα υποχείριο και άθυρμα εντός ενός κόσμου που στέκει αποξενωμένος απέναντί του. Το άτομο μετατρέπεται σε υπο-κείμενο, με την έννοια ότι υπό-κειται σε συνεχείς, οιονεί πειραματικές επεμβάσεις των οποίων μπορεί να μην έχει καν επίγνωση. Πόσο πιο ακριβής θα μπορούσε άραγε να είναι μια περιγραφή των σύγχρονων δυτικών κοινωνιών;
Όταν ο Καρτέσιος, ως κληρονόμος των σχολαστικών, έκανε χρήση του όρου «αντικειμενικός», αναφερόταν στις αναπαραστάσεις του πνεύματος που μόνο αυτές μπορούν να έχουν την απαιτούμενη πάγια σταθερότητα και «αντικειμενικότητα». Σ’ ένα βαθμό επρόκειτο και για μια δήλωση πίστης προς τις δυνάμεις του ανθρώπινου νου, έστω κι αν αυτές ήταν δανεικές, με τον θεό να αναλαμβάνει το ρόλο του μεσεγγυητή. Για τη σημερινή φιλοσοφία, ό,τι το «αντικειμενικό» βρίσκεται «εκεί έξω», στα αντικείμενα του εξωτερικού κόσμου. Η ανθρώπινη σκέψη, από την άλλη, είναι «υποκειμενική», δηλαδή το προϊόν ενός δύσμοιρου και ανερμάτιστου υποκειμένου που άγεται και φέρεται καταπώς επιτάσσει η τάδε ή δείνα μηχανή με τη γρανιτένια «αντικειμενικότητά» της. Μέχρι η μηχανή να καταπιεί τελείως τη σκέψη κι έτσι να κλείσει ο κύκλος: η σκέψη, από τελείως υποκειμενική, να εκπέσει στην αντικειμενικότητα του αδρανούς πράγματος, να πραγμοποιηθεί η ίδια και αποναρκωμένη να αυτοκαταργηθεί· δίχως λυγμό και δίχως γδούπο.
ΗΛΙΑΣ ΑΛΕΒΙΖΟΣ
[1] Όπως έχει επισημάνει ο Σάλινς, η θεώρηση του εαυτού υπό ένα τόσο ακραία ατομικιστικό πρίσμα είναι ιδιαζόντως δυτική και ανατρέπεται εντυπωσιακά σε άλλους πολιτισμούς όπου ο εαυτός φτάνει ενίοτε να θεωρείται απλώς ως το σημείο διασταύρωσης των διαφόρων κοινωνικών σχέσεων και σε καμμία περίπτωση μια ατομική ιδιότητα (ή, πολύ λιγότερο, ιδιοκτησία).
[2] Με βάση το τεστ του Τιούρινγκ, μπορούμε να αποφανθούμε ότι μια μηχανή σκέφτεται πραγματικά μόνο αν, σ’ ένα γραπτό διάλογο (και όχι προφορικό, κάτι που από μόνο του έχει κρίσιμη σημασία), ένας ανθρώπινος ανακριτής δεν μπορεί να διακρίνει αν συνομιλεί με τη μηχανή ή με έναν άλλον άνθρωπο. Στο σενάριο του κινέζικου δωματίου (προτάθηκε από τον φιλόσοφο Τζων Σερλ) καλούμαστε να φανταστούμε έναν άνθρωπο που δεν γνωρίζει κινέζικα αλλά έχει αποστηθίσει όλους τους κανόνες διάταξης των κινέζικών ιδεογραμμάτων απλώς και μόνο με βάση την οπτική τους μορφή (χωρίς να ξέρει τι σημαίνουν) ώστε να δίνει την εντύπωση ότι πραγματικά μπορεί να συνομιλήσει με κάποιον στα κινέζικα. Η υπόθεση του εγκεφάλου-μέσα-στο-βάζο (διατυπώθηκε από τον Χίλαρυ Πάτναμ) είναι ότι ένας εγκέφαλος έχει τοποθετηθεί σε ένα βάζο όπου του παρέχονται όλα τα απαραίτητα θρεπτικά συστατικά αλλά και αισθητήρια ερεθίσματα μέσω ηλεκτροδίων ώστε αυτός να νομίζει ότι ζει σ’ έναν πραγματικό κόσμο και όχι σε μια προσομοίωση.
Πηγή: Περιοδικό ΝΕΟ ΠΛΑΝΟΔΙΟΝ
https://neoplanodion.gr/2023/03/24/metaphysike-technete-noemosyne/
Καλημέρα Μήτσο, καλημέρα Άρη.
Σας ευχαριστώ για τις παρεμβάσεις και τις τοποθετήσεις σας…
by Will Douglas Heaven for MIT technology Review
Αδίστακτη υπερνοημοσύνη και συγχώνευση με μηχανές: Μέσα στο μυαλό του επικεφαλής επιστήμονα του OpenAI
Μια αποκλειστική συνομιλία με τον Ilya Sutskever για τους φόβους του για το μέλλον της τεχνητής νοημοσύνης και γιατί τον έκαναν να αλλάξει το επίκεντρο της δουλειάς της ζωής του. 26 Οκτωβρίου 2023
Ο Ilya Sutskever, σκυμμένος το κεφάλι, είναι βαθιά σε σκέψεις. Τα χέρια του απλώνονται διάπλατα και τα δάχτυλά του απλώνονται στο τραπέζι σαν ένας πιανίστας που ετοιμάζεται να παίξει τις πρώτες του νότες. Καθόμαστε σιωπηλοί.
Ήρθα για να συναντήσω τον Sutskever, τον συνιδρυτή και επικεφαλής επιστήμονα του OpenAI, στο ασήμαντο κτήριο γραφείων της εταιρείας του σε έναν ασυνήθιστο δρόμο στην Mission District του Σαν Φρανσίσκο για να ακούσω τι θα ακολουθήσει για την τεχνολογία που ανατρέπει τον κόσμο στην οποία είχε μεγάλο χέρι στην υλοποίηση . Θέλω επίσης να μάθω τι είναι το επόμενο γι ‘αυτόν – ειδικότερα, γιατί η κατασκευή της επόμενης γενιάς των ναυαρχίδων παραγωγής μοντέλων της εταιρείας του δεν είναι πλέον το επίκεντρο της δουλειάς του.
Αντί να κατασκευάσει το επόμενο GPT ή το image maker DALL-E, ο Sutskever μου λέει ότι η νέα του προτεραιότητα είναι να ανακαλύψει πώς να σταματήσει μια τεχνητή υπερνοημοσύνη (μια υποθετική μελλοντική τεχνολογία που βλέπει να έρχεται με την προνοητικότητα ενός αληθινού πιστού) από το να γίνει απατεώνας.
Ο Σούτσκεβερ μου λέει και πολλά άλλα πράγματα. Πιστεύει ότι το ChatGPT μπορεί απλώς να έχει τις αισθήσεις του (αν στραβοκοιτάζεις). Πιστεύει ότι ο κόσμος πρέπει να ξυπνήσει με την αληθινή δύναμη της τεχνολογίας που η εταιρεία του και άλλοι αγωνίζονται να δημιουργήσουν. Και πιστεύει ότι κάποιοι άνθρωποι θα επιλέξουν μια μέρα να συγχωνευτούν με μηχανές.
Πολλά από αυτά που λέει ο Sutskever είναι άγρια. Αλλά όχι τόσο άγριο όσο θα ακουγόταν μόλις πριν από ένα ή δύο χρόνια. Όπως μου λέει ο ίδιος, το ChatGPT έχει ήδη ξαναγράψει τις προσδοκίες πολλών ανθρώπων για το τι έρχεται, μετατρέποντας το «δεν θα συμβεί ποτέ» σε «θα συμβεί πιο γρήγορα από όσο νομίζεις».
«Είναι σημαντικό να μιλήσουμε για το πού κατευθύνονται όλα», λέει, πριν προβλέψει την ανάπτυξη της τεχνητής γενικής νοημοσύνης (με την οποία εννοεί μηχανές τόσο έξυπνες όσο οι άνθρωποι) σαν να ήταν ένα σίγουρο στοίχημα όσο ένα άλλο iPhone: «Κάποια στιγμή θα έχουμε πραγματικά AGI. Ίσως το OpenAI το κατασκευάσει. Ίσως κάποια άλλη εταιρεία το κατασκευάσει».
Από την κυκλοφορία της ξαφνικής έκπληξης του, ChatGPT, τον περασμένο Νοέμβριο, ο θόρυβος γύρω από το OpenAI ήταν εκπληκτικός, ακόμη και σε μια βιομηχανία γνωστή για τη διαφημιστική εκστρατεία. Κανείς δεν μπορεί να χορτάσει από αυτήν την άτακτη startup των 80 δισεκατομμυρίων δολαρίων. Οι παγκόσμιοι ηγέτες αναζητούν (και αποκτούν) ιδιωτικό κοινό. Τα βαρετά ονόματα προϊόντων του εμφανίζονται σε περιστασιακή συζήτηση.
Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, πέρασε ένα μεγάλο μέρος του καλοκαιριού σε μια εβδομαδιαία περιοδεία προσέγγισης, παρέχοντας χαρά σε πολιτικούς και μιλώντας σε γεμάτα αμφιθέατρα σε όλο τον κόσμο. Αλλά ο Sutskever είναι πολύ λιγότερο δημόσιο πρόσωπο και δεν δίνει πολλές συνεντεύξεις.
Είναι σκόπιμος και μεθοδικός όταν μιλάει. Υπάρχουν μεγάλες παύσεις όταν σκέφτεται τι θέλει να πει και πώς να το πει, αναποδογυρίζοντας τις ερωτήσεις σαν γρίφους που πρέπει να λύσει. Δεν φαίνεται να ενδιαφέρεται να μιλήσει για τον εαυτό του. «Κάνω μια πολύ απλή ζωή», λέει. “Πηγαίνω στη δουλειά; μετά πάω σπίτι. Δεν κάνω πολλά άλλα. Υπάρχουν πολλές κοινωνικές δραστηριότητες στις οποίες μπορεί κανείς να συμμετάσχει, πολλές εκδηλώσεις στις οποίες θα μπορούσε να πάει κανείς. Πράγμα που δεν το κάνω.”
Αλλά όταν μιλάμε για την τεχνητή νοημοσύνη και τους εποχικούς κινδύνους και τις ανταμοιβές που βλέπει στη γραμμή, ανοίγονται οι προοπτικές: «Θα είναι μνημειώδες, θα καταστρέψει τη γη. Θα υπάρξει ένα πριν και ένα μετά».
Όλο και καλύτερα και καλύτερα
Σε έναν κόσμο χωρίς OpenAI, το Sutskever θα εξακολουθούσε να έχει μια είσοδο στα χρονικά της ιστορίας της AI. Ισραηλινοκαναδός, γεννήθηκε στη Σοβιετική Ρωσία αλλά μεγάλωσε στην Ιερουσαλήμ από την ηλικία των πέντε ετών (μιλά ακόμα ρωσικά και εβραϊκά καθώς και αγγλικά). Στη συνέχεια μετακόμισε στον Καναδά για να σπουδάσει στο Πανεπιστήμιο του Τορόντο με τον Geoffrey Hinton, τον πρωτοπόρο της τεχνητής νοημοσύνης που δημοσιοποιήθηκε με τους φόβους του για την τεχνολογία που βοήθησε να εφεύρει νωρίτερα φέτος. (Ο Σάτσκεβερ δεν ήθελε να σχολιάσει τις δηλώσεις του Χίντον, αλλά η νέα εστίασή του στην απατεώνων υπερκατανοήσεων υποδηλώνει ότι βρίσκονται στην ίδια σελίδα.)
Ο Hinton αργότερα θα μοιραστεί το βραβείο Turing με τους Yann LeCun και Yoshua Bengio για τη δουλειά τους στα νευρωνικά δίκτυα. Αλλά όταν ο Sutskever ήρθε μαζί του στις αρχές της δεκαετίας του 2000, οι περισσότεροι ερευνητές AI πίστευαν ότι τα νευρωνικά δίκτυα ήταν αδιέξοδο. Ο Χίντον ήταν εξαίρεση. Εκπαίδευε ήδη μικροσκοπικά μοντέλα που μπορούσαν να παράγουν σύντομες σειρές κειμένου έναν χαρακτήρα κάθε φορά, λέει ο Sutskever: «Ήταν η αρχή της γενετικής τεχνητής νοημοσύνης ακριβώς εκεί. Ήταν πραγματικά ωραίο – απλά δεν ήταν πολύ καλό.»
Ο Sutskever γοητεύτηκε με τους εγκεφάλους: πώς έμαθαν και πώς αυτή η διαδικασία θα μπορούσε να αναδημιουργηθεί, ή τουλάχιστον να μιμηθεί, σε μηχανές. Όπως ο Hinton, είδε τις δυνατότητες των νευρωνικών δικτύων και την τεχνική δοκιμής και λάθους που χρησιμοποιούσε ο Hinton για να τα εκπαιδεύσει, που ονομάζεται βαθιά μάθηση. «Γίνονταν όλο και καλύτερο και καλύτερο», λέει ο Sutskever.
Το 2012 ο Sutskever, ο Hinton και ένας άλλος από τους μεταπτυχιακούς φοιτητές του Hinton, ο Alex Krizhevsky, δημιούργησαν ένα νευρωνικό δίκτυο που ονομάζεται AlexNet το οποίο εκπαίδευσαν να αναγνωρίζει αντικείμενα στις φωτογραφίες πολύ καλύτερα από οποιοδήποτε άλλο λογισμικό της εποχής. Ήταν η στιγμή του Big Bang της βαθιάς μάθησης.
Μετά από πολλά χρόνια λανθασμένων εκκινήσεων, είχαν δείξει ότι τα νευρωνικά δίκτυα ήταν τελικά εκπληκτικά αποτελεσματικά στην αναγνώριση προτύπων. Απλώς χρειαζόσουν περισσότερα δεδομένα από ό,τι είχαν δει οι περισσότεροι ερευνητές στο παρελθόν (σε αυτή την περίπτωση, ένα εκατομμύριο εικόνες από το σύνολο δεδομένων ImageNet που είχε δημιουργήσει η ερευνήτρια του Πανεπιστημίου Πρίνστον, Fei-Fei Li
από το 2006) και μια εντυπωσιακή ποσότητα ισχύος υπολογιστή.
Η αλλαγή σταδίου στον υπολογισμό προήλθε από ένα νέο είδος τσιπ που ονομάζεται μονάδα επεξεργασίας γραφικών (GPU), κατασκευασμένο από την Nvidia. Οι GPU σχεδιάστηκαν για να είναι αστραπιαία στο να ρίχνουν γρήγορα κινούμενα γραφικά βιντεοπαιχνιδιών στις οθόνες. Αλλά οι υπολογισμοί στους οποίους είναι καλοί οι GPU – πολλαπλασιάζοντας τεράστια πλέγματα αριθμών – έτυχε να μοιάζουν πολύ με τους υπολογισμούς που απαιτούνται για την εκπαίδευση των νευρωνικών δικτύων.
Η Nvidia είναι πλέον μια εταιρεία τρισεκατομμυρίων δολαρίων. Εκείνη την εποχή ήταν απελπισμένος να βρει εφαρμογές για το εξειδικευμένο νέο υλικό της. «Όταν εφευρίσκεις μια νέα τεχνολογία, πρέπει να είσαι δεκτικός σε τρελές ιδέες», λέει ο CEO της Nvidia, Jensen Huang. «Η κατάσταση του μυαλού μου ήταν πάντα να ψάχνω για κάτι ιδιόμορφο και η ιδέα ότι τα νευρωνικά δίκτυα θα μεταμορφώσουν την επιστήμη των υπολογιστών—αυτή ήταν μια εξωφρενικά ιδιόμορφη ιδέα».
Ο Huang λέει ότι η Nvidia έστειλε στην ομάδα του Τορόντο μερικές GPU να δοκιμάσουν όταν δούλευαν στο AlexNet. Αλλά ήθελαν την πιο πρόσφατη έκδοση, ένα τσιπ που ονομάζεται GTX 580 που ξεπουλούσε γρήγορα στα καταστήματα. Σύμφωνα με τον Huang, ο Sutskever πέρασε τα σύνορα από το Τορόντο στη Νέα Υόρκη για να αγοράσει μερικά. «Ο κόσμος ήταν παραταγμένος στη γωνία», λέει ο Huang. «Δεν ξέρω πώς το έκανε—είμαι σχεδόν βέβαιος ότι σας επιτρεπόταν να αγοράσετε μόνο ένα. είχαμε μια πολύ αυστηρή πολιτική μίας GPU ανά παίκτη—αλλά προφανώς γέμισε ένα πορτμπαγκάζ με αυτές. Αυτό το πορτμπαγκάζ γεμάτο με GTX 580 άλλαξε τον κόσμο».
Είναι μια υπέροχη ιστορία – μπορεί απλώς να μην είναι αληθινή. Ο Sutskever επιμένει ότι αγόρασε αυτές τις πρώτες GPU online. Αλλά τέτοιοι μύθοι είναι συνηθισμένοι σε αυτήν την πολυσύχναστη επιχείρηση. Ο ίδιος ο Sutskever είναι πιο ταπεινός: «Σκέφτηκα ότι, αν μπορούσα να κάνω έστω και μια ουγγιά πραγματική πρόοδο, θα το θεωρούσα επιτυχία», λέει. «Ο αντίκτυπος στον πραγματικό κόσμο ήταν τόσο μακρινός επειδή οι υπολογιστές ήταν τόσο αδύναμοι τότε».
Μετά την επιτυχία του AlexNet, η Google χτύπησε. Εξαγόρασε την spin-off εταιρεία της Hinton DNNresearch και προσέλαβε την Sutskever. Στο Google Sutskever έδειξε ότι οι δυνάμεις αναγνώρισης προτύπων της βαθιάς μάθησης θα μπορούσαν να εφαρμοστούν σε αλληλουχίες δεδομένων, όπως λέξεις και προτάσεις, καθώς και εικόνες. «Η Ilya ενδιαφερόταν πάντα για τη γλώσσα», λέει ο πρώην συνάδελφος του Sutskever, Jeff Dean, ο οποίος είναι τώρα ο επικεφαλής επιστήμονας της Google: «Είχαμε εξαιρετικές συζητήσεις όλα αυτά τα χρόνια. Ο Ilya έχει μια ισχυρή διαισθητική αίσθηση για το πού μπορεί να πάνε τα πράγματα».
Αλλά ο Sutskever δεν παρέμεινε στην Google για πολύ. Το 2014, προσλήφθηκε για να γίνει συνιδρυτής του OpenAI. Με την υποστήριξη 1 δισεκατομμυρίου δολαρίων (από τους Altman, Elon Musk, Peter Thiel, Microsoft, Y Combinator και άλλους) συν μια τεράστια δόση από τη Silicon Valley, η νέα εταιρεία έβαλε το βλέμμα της από την αρχή στην ανάπτυξη του AGI, μια προοπτική που λίγοι πήραν σοβαρά υπόψη. την εποχή εκείνη.
Με τον Sutskever επί του σκάφους, τα μυαλά πίσω από τα χρήματα, η φασαρία ήταν κατανοητή. Μέχρι τότε, βρισκόταν σε ρολό, βγαίνοντας όλο και περισσότερο από τα νευρωνικά δίκτυα. Η φήμη του προηγήθηκε, καθιστώντας τον ένα σημαντικό αλίευμα, λέει ο Dalton Caldwell, διευθύνων σύμβουλος επενδύσεων στην Y Combinator.
«Θυμάμαι τον Sam [Altman] να αναφέρεται στον Ilya ως έναν από τους πιο σεβαστούς ερευνητές στον κόσμο», λέει ο Caldwell. «Σκέφτηκε ότι ο Ilya θα μπορούσε να προσελκύσει πολλά κορυφαία ταλέντα AI. Ανέφερε μάλιστα ότι ο Yoshua Bengio, ένας από τους κορυφαίους εμπειρογνώμονες τεχνητής νοημοσύνης στον κόσμο, πίστευε ότι θα ήταν απίθανο να βρεθεί καλύτερος υποψήφιος από τον Ilya για να γίνει ο επικεφαλής επιστήμονας του OpenAI».
Και όμως στην αρχή το OpenAI έπεσε. «Υπήρξε μια χρονική περίοδος που ξεκινούσαμε το OpenAI όταν δεν ήμουν ακριβώς σίγουρος πώς θα συνεχιζόταν η πρόοδος», λέει ο Sutskever. «Αλλά είχα μια πολύ ρητή πεποίθηση, η οποία είναι: κανείς δεν ποντάρει ενάντια στη βαθιά μάθηση. Κάπως έτσι, κάθε φορά που συναντάς ένα εμπόδιο, μέσα σε έξι μήνες ή ένα χρόνο οι ερευνητές βρίσκουν έναν τρόπο να το ξεπεράσουν».
Η πίστη του απέδωσε. Το πρώτο από τα μοντέλα μεγάλων γλωσσών GPT του OpenAI (το όνομα σημαίνει «γεννητικός προεκπαιδευμένος μετασχηματιστής») εμφανίστηκε το 2016. Μετά ήρθαν τα GPT-2 και GPT-3. Στη συνέχεια, το DALL-E, το εντυπωσιακό μοντέλο κειμένου σε εικόνα. Κανείς δεν έχτιζε τίποτα τόσο καλό. Με κάθε κυκλοφορία, το OpenAI ανέβαζε τον πήχη για αυτό που θεωρούνταν δυνατό.
Διαχείριση προσδοκιών
Τον περασμένο Νοέμβριο, το OpenAI κυκλοφόρησε ένα δωρεάν chatbot που επανασυσκευάζει μέρος της υπάρχουσας τεχνολογίας του. Επαναφέρει την ατζέντα ολόκληρου του κλάδου.
Εκείνη την εποχή, το OpenAI δεν είχε ιδέα τι έβγαζε. Οι προσδοκίες μέσα στην εταιρεία δεν θα μπορούσαν να ήταν χαμηλότερες, λέει ο Sutskever: «Θα παραδεχτώ, προς μικρή μου αμηχανία – δεν ξέρω αν θα έπρεπε, αλλά τι διάολο, είναι αλήθεια – όταν φτιάξαμε το ChatGPT, το έκανα. δεν ξέρω αν ήταν καλό. Όταν του κάνατε μια πραγματική ερώτηση, σας έδωσε μια λάθος απάντηση. Σκέφτηκα ότι δεν θα ήταν τόσο εντυπωσιακό που οι άνθρωποι θα έλεγαν: «Γιατί το κάνεις αυτό; Αυτό είναι τόσο βαρετό!'”
Η κλήρωση ήταν η ευκολία, λέει ο Sutskever. Το μεγάλο μοντέλο γλώσσας κάτω από την κουκούλα του ChatGPT υπήρχε εδώ και μήνες. Αλλά η περιτύλιξή του σε μια προσβάσιμη διεπαφή και η δωρεάν παροχή του έκανε δισεκατομμύρια ανθρώπους να συνειδητοποιήσουν για πρώτη φορά τι κατασκεύαζαν το OpenAI και άλλοι.
«Αυτή η πρώτη εμπειρία είναι που τράβηξε τους ανθρώπους
le», λέει ο Sutskever. «Την πρώτη φορά που το χρησιμοποιείτε, νομίζω ότι είναι σχεδόν μια πνευματική εμπειρία. Πες, «Θεέ μου, αυτός ο υπολογιστής φαίνεται να καταλαβαίνει».
Το OpenAI συγκέντρωσε 100 εκατομμύρια χρήστες σε λιγότερο από δύο μήνες, πολλοί από τους οποίους έμειναν έκθαμβοι από αυτό το εκπληκτικό νέο παιχνίδι. Ο Aaron Levie, Διευθύνων Σύμβουλος της εταιρείας αποθήκευσης Box, συνόψισε την ατμόσφαιρα την εβδομάδα μετά την κυκλοφορία του, όταν έγραψε στο Twitter: «Το ChatGPT είναι μια από αυτές τις σπάνιες στιγμές στην τεχνολογία όπου βλέπεις μια αναλαμπή του πώς όλα θα είναι διαφορετικά στο μέλλον».
Αυτό το θαύμα καταρρέει μόλις το ChatGPT πει κάτι ανόητο. Αλλά μέχρι τότε δεν έχει σημασία. Αυτή η ματιά στο τι ήταν δυνατό είναι αρκετή, λέει ο Sutskever. Το ChatGPT άλλαξε τους ορίζοντες των ανθρώπων.
«Το AGI έπαψε να είναι μια βρώμικη λέξη στον τομέα της μηχανικής μάθησης», λέει. «Ήταν μια μεγάλη αλλαγή. Η στάση που έχουν κρατήσει οι άνθρωποι ιστορικά ήταν: η τεχνητή νοημοσύνη δεν λειτουργεί, κάθε βήμα είναι πολύ δύσκολο, πρέπει να παλέψεις για κάθε ουγγιά προόδου. Και όταν οι άνθρωποι έρχονταν με μεγάλες διακηρύξεις για το AGI, οι ερευνητές έλεγαν: «Τι μιλάς; Αυτό δεν λειτουργεί, αυτό δεν λειτουργεί. Υπάρχουν τόσα πολλά προβλήματα.’ Αλλά με το ChatGPT άρχισε να νιώθει διαφορετικά.”
Και αυτή η αλλαγή άρχισε να συμβαίνει μόλις πριν από ένα χρόνο; “Συνέβη λόγω του ChatGPT”, λέει. “Το ChatGPT επέτρεψε στους ερευνητές που μαθαίνουν μηχανικά να ονειρεύονται.”
Ευαγγελιστές από την αρχή, οι επιστήμονες του OpenAI τροφοδοτούν αυτά τα όνειρα με αναρτήσεις ιστολογίου και περιηγήσεις ομιλίας. Και λειτουργεί: «Έχουμε ανθρώπους που τώρα μιλούν για το πόσο μακριά θα φτάσει η τεχνητή νοημοσύνη – άτομα που μιλούν για AGI ή υπερευφυΐα». Και δεν είναι μόνο οι ερευνητές. «Οι κυβερνήσεις το συζητούν», λέει ο Sutskever. “Είναι τρελό.”
Απίστευτα πράγματα.
Ο Sutskever επιμένει ότι όλη αυτή η συζήτηση για μια τεχνολογία που δεν υπάρχει ακόμη (και μπορεί να μην υπάρχει ποτέ) είναι κάτι καλό, γιατί κάνει περισσότερους ανθρώπους να συνειδητοποιήσουν ένα μέλλον που ήδη θεωρεί δεδομένο.
«Μπορείτε να κάνετε τόσα πολλά καταπληκτικά πράγματα με το AGI, απίστευτα πράγματα: αυτοματοποιήστε την υγειονομική περίθαλψη, να την κάνετε χίλιες φορές φθηνότερη και χίλιες φορές καλύτερη, να θεραπεύσετε τόσες πολλές ασθένειες, να λύσετε πραγματικά την υπερθέρμανση του πλανήτη», λέει. «Αλλά υπάρχουν πολλοί που ανησυχούν: «Θεέ μου, θα καταφέρουν οι εταιρείες τεχνητής νοημοσύνης να διαχειριστούν αυτήν την τεράστια τεχνολογία;»
Παρουσιασμένο με αυτόν τον τρόπο, το AGI ακούγεται περισσότερο τζίνι που εκπληρώνει ευχές παρά προοπτική του πραγματικού κόσμου. Λίγοι θα έλεγαν όχι στη διάσωση ζωών και στην επίλυση της κλιματικής αλλαγής. Αλλά το πρόβλημα με μια τεχνολογία που δεν υπάρχει είναι ότι μπορείς να πεις ό,τι θέλεις γι’ αυτήν.
Για τι πράγμα μιλάει ο Sutskever όταν μιλάει για AGI; «Το AGI δεν προορίζεται να είναι επιστημονικός όρος», λέει. «Πρόκειται να είναι ένα χρήσιμο όριο, ένα σημείο αναφοράς».
«Είναι η ιδέα…» αρχίζει και μετά σταματά. «Είναι το σημείο στο οποίο η τεχνητή νοημοσύνη είναι τόσο έξυπνη που αν ένα άτομο μπορεί να κάνει κάποια εργασία, τότε η τεχνητή νοημοσύνη μπορεί να το κάνει και αυτό. Σε εκείνο το σημείο μπορείτε να πείτε ότι έχετε AGI.»
Οι άνθρωποι μπορεί να μιλούν γι ‘αυτό, αλλά η AGI παραμένει μια από τις πιο αμφιλεγόμενες ιδέες του χώρου. Λίγοι θεωρούν την ανάπτυξή του ως δεδομένη. Πολλοί ερευνητές πιστεύουν ότι απαιτούνται σημαντικές εννοιολογικές ανακαλύψεις προτού δούμε κάτι παρόμοιο με αυτό που έχει στο μυαλό του ο Sutskever – και ορισμένοι πιστεύουν ότι δεν θα το κάνουμε ποτέ.
Και όμως είναι ένα όραμα που τον οδήγησε από την αρχή. «Πάντα με ενέπνευσε και με παρακινούσε η ιδέα», λέει ο Sutskever. «Δεν ονομαζόταν AGI τότε, αλλά ξέρετε ότι το να υπάρχει ένα νευρωνικό δίκτυο να κάνει τα πάντα. Δεν πίστευα πάντα ότι μπορούσαν. Αλλά ήταν το βουνό που έπρεπε να ανέβει».
Κάνει έναν παραλληλισμό μεταξύ του τρόπου με τον οποίο λειτουργούν τα νευρωνικά δίκτυα και οι εγκέφαλοι. Και οι δύο λαμβάνουν δεδομένα, συγκεντρώνουν σήματα από αυτά τα δεδομένα και στη συνέχεια –με βάση κάποια απλή διαδικασία (μαθηματικά στα νευρωνικά δίκτυα, χημικές ουσίες και βιοηλεκτρισμό στον εγκέφαλο)– τα διαδίδουν ή όχι. Είναι μια τεράστια απλοποίηση, αλλά η αρχή παραμένει.
«Αν το πιστεύετε – αν επιτρέψετε στον εαυτό σας να το πιστέψει αυτό – τότε υπάρχουν πολλές ενδιαφέρουσες συνέπειες», λέει ο Sutskever. «Η κύρια συνέπεια είναι ότι εάν έχετε ένα πολύ μεγάλο τεχνητό νευρωνικό δίκτυο, θα πρέπει να κάνει πολλά πράγματα. Συγκεκριμένα, εάν ο ανθρώπινος εγκέφαλος μπορεί να κάνει κάτι, τότε ένα μεγάλο τεχνητό νευρωνικό δίκτυο θα μπορούσε να κάνει κάτι παρόμοιο».
«Τα πάντα ακολουθούν αν λάβετε αυτή τη συνειδητοποίηση αρκετά σοβαρά», λέει. «Και ένα μεγάλο μέρος της δουλειάς μου μπορεί να εξηγηθεί από αυτό».
Ενώ μιλάμε για εγκεφάλους, θέλω να ρωτήσω για μια από τις αναρτήσεις του Sutskever στο X, τον ιστότοπο που ήταν παλαιότερα γνωστός ως Twitter.
Η τροφοδοσία του Sutskever είναι σαν ένας κύλινδρος αφορισμών: «Αν εκτιμάς τη νοημοσύνη πάνω από όλες τις άλλες ανθρώπινες ιδιότητες, θα περάσεις άσχημα». «Η ενσυναίσθηση στη ζωή και τις επιχειρήσεις είναι υποτιμημένη». «Το τέλειο έχει καταστρέψει πολύ καλά καλά».
Τον Φεβρουάριο του 2022 δημοσίευσε, «ίσως τα σημερινά μεγάλα νευρωνικά δίκτυα να είναι ελαφρώς συνειδητά» (στο οποίο ο Murray Shanahan, κύριος επιστήμονας στο Google DeepMind και καθηγητής στο Imperial College του Λονδίνου, καθώς και ο επιστημονικός σύμβουλος στην ταινία Ex Machina, απάντησε: «… με την ίδια έννοια που μπορεί ένα μεγάλο χωράφι με σιτάρι να είναι ελαφρώς ζυμαρικά»).
Ο Σούτσκεβερ γελάει όταν το αναφέρω. Τρολάριζε; δεν ήταν. «Είσαι εξοικειωμένος με η ιδέα ενός εγκεφάλου Boltzmann;» ρωτάει.
Αναφέρεται σε ένα πείραμα σκέψης στην κβαντική μηχανική που πήρε το όνομά του από τον φυσικό του 19ου αιώνα Ludwig Boltzmann, στο οποίο οι τυχαίες θερμοδυναμικές διακυμάνσεις στο σύμπαν φαντάζονται ότι προκαλούν την εμφάνιση και την έξοδο του εγκεφάλου.
«Αισθάνομαι ότι αυτή τη στιγμή αυτά τα γλωσσικά μοντέλα είναι κάπως σαν εγκέφαλος Boltzmann», λέει ο Sutskever. «Ξεκινάς να του μιλάς, μιλάς για λίγο. μετά τελειώνεις την κουβέντα, και ο εγκέφαλος κάπως…» Κάνει μια κίνηση που εξαφανίζεται με τα χέρια του. Πουφ — αντίο, εγκέφαλο.
Λέτε ότι ενώ το νευρωνικό δίκτυο είναι ενεργό -ενώ πυροδοτεί, ας πούμε έτσι – υπάρχει κάτι εκεί; Ρωτάω.
«Νομίζω ότι μπορεί να είναι», λέει. «Δεν ξέρω με σιγουριά, αλλά είναι μια πιθανότητα που είναι πολύ δύσκολο να αντιταχθεί κανείς. Αλλά ποιος ξέρει τι συμβαίνει, σωστά;»
AI αλλά όχι όπως το ξέρουμε.
Ενώ άλλοι παλεύουν με την ιδέα των μηχανών που μπορούν να ταιριάζουν με την ανθρώπινη εξυπνάδα, η Sutskever προετοιμάζεται για μηχανές που μπορούν να μας ξεπεράσουν. Ονομάζει αυτή την τεχνητή υπερνοημοσύνη: «Θα δουν τα πράγματα πιο βαθιά. Θα δουν πράγματα που δεν βλέπουμε».
Και πάλι, δυσκολεύομαι να καταλάβω τι πραγματικά σημαίνει αυτό. Η ανθρώπινη νοημοσύνη είναι το σημείο αναφοράς μας για το τι είναι η νοημοσύνη. Τι εννοεί ο Sutskever με τον όρο νοημοσύνη εξυπνότερη από την ανθρώπινη;
«Έχουμε δει ένα παράδειγμα μιας πολύ στενής υπερευφυΐας στο AlphaGo», λέει. Το 2016, η τεχνητή νοημοσύνη του DeepMind για επιτραπέζια παιχνίδια κέρδισε τον Lee Sedol, έναν από τους καλύτερους παίκτες Go στον κόσμο, με 4–1 σε έναν αγώνα πέντε παιχνιδιών. (Ο Sutskever συμμετείχε επίσης σε αυτό το έργο.) “Κατάλαβε πώς να παίξεις το Go με τρόπους διαφορετικούς από εκείνους που είχε αναπτύξει η ανθρωπότητα συλλογικά εδώ και χιλιάδες χρόνια”, λέει ο Sutskever. «Πήρε νέες ιδέες».
Ο Sutskever επισημαίνει το περιβόητο Move 37 του AlphaGo. Στο δεύτερο παιχνίδι του εναντίον του Sedol, το AI έκανε μια κίνηση που ενόχλησε τους σχολιαστές. Νόμιζαν ότι το AlphaGo είχε μπλέξει. Στην πραγματικότητα, είχε κάνει μια νικηφόρα κίνηση που κανείς δεν είχε ξαναδεί στην ιστορία του παιχνιδιού. «Φανταστείτε αυτό το επίπεδο διορατικότητας, αλλά σε όλα», λέει ο Sutskever.
Αυτή η σειρά σκέψης είναι που οδήγησε τον Sutskever να κάνει τη μεγαλύτερη αλλαγή της καριέρας του. Μαζί με τον Jan Leike, έναν συνάδελφο επιστήμονα στο OpenAI, έχει δημιουργήσει μια ομάδα που θα επικεντρωθεί σε αυτό που αποκαλούν υπερευθυγράμμιση. Η ευθυγράμμιση είναι ορολογία που σημαίνει ότι τα μοντέλα τεχνητής νοημοσύνης κάνουν ό,τι θέλετε και τίποτα περισσότερο. Το Superalignment είναι ο όρος του OpenAI για την ευθυγράμμιση που εφαρμόζεται στην υπερευφυΐα.
Ο στόχος είναι να καταλήξουμε σε ένα σύνολο ασφαλών διαδικασιών για την κατασκευή και τον έλεγχο αυτής της μελλοντικής τεχνολογίας. Η OpenAI λέει ότι θα διαθέσει το ένα πέμπτο των τεράστιων υπολογιστικών πόρων της στο πρόβλημα και θα το λύσει σε τέσσερα χρόνια.
«Οι υπάρχουσες μέθοδοι ευθυγράμμισης δεν θα λειτουργήσουν για μοντέλα πιο έξυπνα από τους ανθρώπους, επειδή βασικά υποθέτουν ότι οι άνθρωποι μπορούν να αξιολογήσουν αξιόπιστα τι κάνουν τα συστήματα AI», λέει ο Leike. «Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά, θα αναλάβουν πιο δύσκολα καθήκοντα». Και αυτό – η ιδέα λέει – θα καταστήσει πιο δύσκολο για τους ανθρώπους να τα αξιολογήσουν. «Σχηματίζοντας την ομάδα υπερευθυγράμμισης με τον Ilya, έχουμε βάλει στόχο να λύσουμε αυτές τις μελλοντικές προκλήσεις ευθυγράμμισης», λέει.
«Είναι πολύ σημαντικό να εστιάσουμε όχι μόνο στις πιθανές ευκαιρίες των μεγάλων γλωσσικών μοντέλων, αλλά και στους κινδύνους και τα μειονεκτήματα», λέει ο Dean, επικεφαλής επιστήμονας της Google.
Η εταιρεία ανακοίνωσε το έργο τον Ιούλιο με τυπική φανφάρα. Αλλά για κάποιους ήταν ακόμα πιο φανταστικό. Η ανάρτηση του OpenAI στο Twitter προσέλκυσε την περιφρόνηση από εξέχοντες επικριτές της Big Tech, συμπεριλαμβανομένης της Abeba Birhane, η οποία εργάζεται για τη λογοδοσία της τεχνητής νοημοσύνης στη Mozilla («τόσες μεγάλες ακούγονται αλλά ασαφείς λέξεις σε μια ανάρτηση ιστολογίου»). Timnit Gebru, συνιδρυτής του Ινστιτούτου Ερευνών Κατανεμημένης Τεχνητής Νοημοσύνης (“Imagine ChatGPT ακόμα πιο ‘super aligned’ με OpenAI techbros. *shudder*”); και Margaret Mitchell, επικεφαλής επιστήμονας ηθικής στην εταιρεία AI Hugging Face («Η ευθυγράμμισή μου είναι μεγαλύτερη από τη δική σου»).
Είναι αλήθεια ότι πρόκειται για γνώριμες φωνές διαφωνίας. Αλλά είναι μια ισχυρή υπενθύμιση ότι εκεί που το OpenAI βλέπει τον εαυτό του να οδηγεί από μπροστά, άλλοι το βλέπουν να γέρνει από τα περιθώρια.
Όσον αφορά το Sutskever, η υπερευθυγράμμιση είναι το αναπόφευκτο επόμενο βήμα. «Είναι ένα άλυτο πρόβλημα», λέει. Είναι επίσης ένα πρόβλημα που πιστεύει ότι δεν εργάζονται αρκετοί βασικοί ερευνητές μηχανικής μάθησης, όπως ο ίδιος. «Το κάνω για το δικό μου συμφέρον», λέει. «Είναι προφανώς σημαντικό ότι οποιαδήποτε υπερευφυΐα φτιάχνει κάποιος να μην είναι απατεώνα. Προφανώς.”
Οι εργασίες για την υπερευθυγράμμιση μόλις έχουν ξεκινήσει. Θα απαιτήσει ευρείες αλλαγές στα ερευνητικά ιδρύματα, λέει ο Sutskever. Αλλά έχει στο μυαλό του ένα υπόδειγμα για τις δικλείδες ασφαλείας που θέλει να σχεδιάσει: μια μηχανή που κοιτάζει τους ανθρώπους όπως βλέπουν οι γονείς τα παιδιά τους. «Κατά τη γνώμη μου, αυτός είναι ο κανόνας του χρυσού», λέει. «Είναι μια γενικά αληθινή δήλωση ότι οι άνθρωποι ενδιαφέρονται πραγματικά για τα παιδιά». (Έχει παιδιά; «Όχι, αλλά θέλω», λέει.)
Ο χρόνος μου με το Sutskever έχει σχεδόν τελειώσει και νομίζω ότι τελειώσαμε. Αλλά είναι σε ρολό και έχει μια ακόμη σκέψη να μοιραστεί – μια που δεν βλέπω να έρχεται.
«Μόλις αντιμετωπίσετε την πρόκληση της απατεώνων AI, τότε τι; Υπάρχει χώρος για τα ανθρώπινα όντα σε έναν κόσμο με πιο έξυπνα AI;» αυτος λεει.
«Μια πιθανότητα –κάτι που μπορεί να είναι τρελό με τα σημερινά πρότυπα, αλλά δεν θα είναι τόσο τρελό με τα μελλοντικά πρότυπα– είναι ότι πολλοί άνθρωποι θα επιλέξουν να γίνουν μέλη της τεχνητής νοημοσύνης». Ο Sutskever λέει ότι αυτό θα μπορούσε να είναι το πώς οι άνθρωποι προσπαθούν να συμβαδίσουν. «Στην αρχή, μόνο οι πιο τολμηροί, περιπετειώδεις άνθρωποι θα προσπαθήσουν να το κάνουν. Ίσως ακολουθήσουν κι άλλοι. Ή όχι.”
ΟΠΑ, τι? Σηκώνεται να φύγει. Θα το έκανε; Ρωτάω. Θα ήταν από τους πρώτους; “Ο πρώτος? Δεν ξέρω», λέει. «Αλλά είναι κάτι που σκέφτομαι. Η αληθινή απάντηση είναι: ίσως».
Και με αυτό το γαλαξιακό μικρόφωνο, στέκεται και βγαίνει από το δωμάτιο. «Πολύ χαίρομαι που σε βλέπω ξανά», λέει καθώς πηγαίνει.