Συζητώντας με το ChatGPT για την Ενέργεια

Αγαπητοί Φίλοι γεια σας και καλή σχολική χρονιά.
Αγαπητέ Αποστόλη,
Θέτεις το πιο κρίσιμο και ουσιαστικό ερώτημα, και σε ευχαριστώ.
Για να καταλάβουμε το μέγεθος του ρίσκου, αρκεί να σκεφτούμε την ιατρική. Αν νιώθουμε έναν πόνο και ζητήσουμε από το ChatGPT ιατρική διάγνωση, το μοντέλο θα μας σερβίρει αμέσως τον «στατιστικό μέσο όρο» του διαδικτύου ή, ακόμα χειρότερα, θα συμφωνήσει με τη δική μας λανθασμένη υποψία για να μας είναι αρεστό. Κανείς μας, όμως, δεν θα έπαιρνε φάρμακα βασισμένος σε αυτό, χωρίς την κρίση ενός πραγματικού γιατρού (expert).

Κάτι ανάλογο θεωρώ ότι ισχύει και με τις βαθιές έννοιες της Φυσικής. Για απλά, καθημερινά πράγματα, η απλά για την αναζήτηση μιας πληροφορίας η Τ.Ν. είναι μια γρήγορη και χρήσιμη εξυπηρέτηση. Όταν όμως μπαίνουμε σε εννοιολογικά βάθη, ο μη expert κινδυνεύει να εγκλωβιστεί σε μια «ψηφιακή ψευδαίσθηση» εγκυρότητας.

Η φράση με την οποία κλείνω την ανάρτηση δεν θέλει να απογοητεύσει, αλλά να προειδοποιήσει. Και αυτό αφορά κυρίως τους μαθητές μας, οι οποίοι θα περάσουν ολόκληρη τη ζωή τους και την επαγγελματική τους πορεία με αυτό το εργαλείο. Αν δεν τους μάθουμε από τώρα να το αμφισβητούν, να το ανακρίνουν κριτικά και να μην δέχονται παθητικά τον «μέσο όρο», θα αναπαράγουμε απλώς τα ίδια παλιά μας εννοιολογικά λάθη σε ψηφιακό φόντο.

Αυτό ακριβώς προσπαθώ να αποτυπώσω και να θεμελιώσω στο άρθρο που δουλεύω αυτόν τον καιρό, μέρος του οποίου μοιράστηκα μαζί σας.
Σε ευχαριστώ και πάλι για την πολύ καίρια παρέμβαση!

Γιώργο γεια σου,
Η αναφορά σου στην «Εκπαιδευτική της Ρίτας» είναι απολαυστική και απολύτως επιτυχημένη! Μας βάζει ακριβώς στον πυρήνα της «ψηφιακής μαιευτικής».
Στο πολύ εύστοχο ερώτημά σου για το αν η μηχανή «σε διάβασε» ή αν προσαρμόστηκε επειδή την είχα «δασκαλέψει» εγώ, η απάντηση κρύβεται στην ίδια τη φύση της Γενετικής Τεχνητής Νοημοσύνης. Όχι, η μηχανή δεν θυμόταν εμένα, ούτε προσάρμοσε την απάντηση ad hoc στο δικό σου προφίλ.

Η διαφορετική της απάντησή οφείλεται στη στοχαστική (μη ντετερμινιστική) φύση των Μεγάλων Γλωσσικών Μοντέλων (LLMs). Τα μοντέλα αυτά δεν ανασύρουν έτοιμα κείμενα, αλλά «ρίχνουν μια αλγοριθμική ζαριά» υπολογίζοντας πιθανότητες λέξεων σε πραγματικό χρόνο. Αντιγράφω ένα χαρακτηριστικό απόσπασμα από το άρθρο που ετοιμάζω αυτή τη στιγμή, το οποίο είχε μπει για να απαντά σε αυτό που ακριβώς παρατήρησες:
«Σημείωση για τη Στοχαστική Φύση του Μοντέλου: Στο σημείο αυτό είναι απαράβατο να επισημανθεί μια εγγενής ιδιότητα των Μεγάλων Γλωσσικών Μοντέλων (LLMs): ο μη ντετερμινιστικός (στοχαστικός) χαρακτήρας τους. Επειδή τα μοντέλα αυτά δεν ανασύρουν έτοιμα κείμενα αλλά υπολογίζουν πιθανότητες λέξεων σε πραγματικό χρόνο, σε ένα νέο, αυτόνομο άνοιγμα της συνομιλίας η αρχική απάντηση (baseline) ενδέχεται να μην είναι πανομοιότυπη. Ένας αναγνώστης μπορεί να λάβει μια απόκριση που βρίσκεται ήδη πιο κοντά στην επιθυμητή ακαδημαϊκή γνώση ή, αντίθετα, μια ακόμη πιο απλουστευμένη εκδοχή. Η γνώση αυτής της μεταβλητότητας είναι κρίσιμη για τον εκπαιδευτικό: αποδεικνύει ότι η αρχική «συμπεριφορά» του AI είναι εν μέρει τυχαία και ρευστή, γεγονός που καθιστά το σταθερό μεθοδολογικό πρωτόκολλο που ακολουθεί ακόμη πιο αναγκαίο για τον εξαναγκασμό του μοντέλου σε επιστημονική σύγκλιση.»
Με απλά λόγια: Επειδή η αφετηρία της «Ρίτας» είναι ρευστή, αν την αφήσεις ελεύθερη στην πρώτη ερώτηση, θα σου δώσει μια τυχαία απάντηση, μπορείς να ξαναδοκιμάσεις. Υπάρχει μεγάλη πιθανότητα να πάρεις άλλη απάντηση
Σε ευχαριστώ

Ανδρέα γεια σου
Πολλές φορές από τότε που βγήκα στη σύνταξη έχει περάσει από το μυαλό μου η σκέψη “τι ενδιαφέρουσες κουβέντες θα είχαμε με τον Ανδρέα, αν…”. Με νοσταλγία θυμάμαι και εγώ εκείνες τις μέρες, μας θυμάμαι σε ένα αυτοκίνητο προς το αεροδρόμιο να ακούμε “Νέο Κύμα”. Προσπαθώ να τελειώσω κάτι. Θα το δω, με χαρά μου, αργότερα

Το σωστό, το προηγούμενο έφυγε πριν την ώρα του:

Γεια Άρη. Έστω και έτσι επικοινωνούμε. Σε ευχαριστώ για τα καλά σου λόγια και την ουσιαστική παρέμβαση σου.
Αυτό που επισημαίνεις αγγίζει ακριβώς την καρδιά του άρθρου που ετοιμάζω. Η εμπειρία μου, από τις αλληλεπιδράσεις πού είχα, δείχνει ότι η Τεχνητή Νοημοσύνη στερείται εννοιολογικής βάσης και «συμμορφώνεται» εύκολα με τον σχολικό μέσο όρο. Αν ο χρήστης δεν έχει τη βαθιά επιστημονική συγκρότηση για να θέσει τους απαράβατους περιορισμούς που επιβάλλει η Φυσική και να εφαρμόσει τον Σωκρατικό έλεγχο, το μοντέλο δεν πρόκειται να «ξεκλειδώσει» την έγκυρη πανεπιστημιακή γνώση που έχει θαμμένη στα δεδομένα του.

Όπως πολύ σωστά το έθεσες, η βοήθεια της Τεχνητής Νοημοσύνης μπορεί να αποβεί από εξαιρετική έως καταστροφική, ανάλογα με το ποιος κρατάει το τιμόνι. Γι’ αυτό και η καλλιέργεια της κριτικής δεξιότητας στους εκπαιδευτικούς και τους μαθητές μας, να τους εμφυσήσουμε αμφιβολία για την Τεχνητή Νοημοσύνη και να κατανοήσουν σε τι να την εμπιστεύονται και σε τι όχι, είναι επιτακτική ανάγκη, ώστε να μην γίνουμε παθητικοί καταναλωτές μιας ψηφιακής ψευδαίσθησης.