Μηχανική εκμάθηση, μηχανική "λογοκλοπή"

Στο Νήμα Επιστήμες #9: ChatGPT, η Exxon Mobil προέβλεψε πολλά αλλά έκανε ελάχιστα, βήματα ενάντια στη γήρανση, ταξίδι στο κέντρο της Γης. Ανατρεπτική και μη επιστήμη

Στο τεύχος αυτό συζητάμε για τις χαρές και τα προβλήματα τα εκ του ChatGPT εκπορευόμενα· ακριβώς πόσα ήξερε για την κλιματική αλλαγή η ExxonMobil από το '70· για την επιστήμη μας που δεν είναι αρκετά ανατρεπτική· για την διαδικασία γήρανσης που θέλουμε να αντιστρέψουμε· για την περιστροφή του κέντρου της Γης, και άλλα.

Τα νέα του δεκαπενθημέρου για τους εθισμένους στο ChatGPT.

Παρότι ο επικεφαλής του ΑΙ της Meta (Facebook) ισχυρίζεται πως το περιβόητο πλέον ChatGPT, το chatbot της OpenAI δεν είναι και καμιά σπουδαία τεχνολογία, το chatbot “πέρασε” μερικά πανεπιστημιακά μαθήματα (αν και οι ικανότητές του στην αριθμητική είναι μάλλον περιορισμένες) και έχει σημάνει συναγερμό στη Google που φοβάται πως θα μείνει πίσω. Δεν είναι τυχαίο πως η Microsoft ανακοίνωσε μακροπρόθεσμη επένδυση πολλών δισεκατομμυρίων δολαρίων στο OpenAI. Η αρχή λειτουργίας αυτών των μοντέλων είναι παρόμοια με την αυτόματη συμπλήρωση που έχει κάθε κινητό, αλλά σε εντελώς άλλη κλίμακα, όπως εξηγεί ο Μ. Wooldridge από το Alan Turing Institute στο Λονδίνο:

Αν γράψω ένα μήνυμα στη γυναίκα μου που ξεκινάει με “Πρόκειται να…“, το σύστημα στο κινητό θα προτείνει την συμπλήρωση “…πάω για μπύρες“ ή “… αργήσω“, γιατί έχει κοιτάξει στα προηγούμενα μηνύματα που έστειλα κι έχει μάθε ότι αυτές είναι οι πιθανότερες καταλήξεις μιας φράσης που ξεκινάει έτσι. Το ChatGPT κάνει ακριβώς το ίδιο, αλλά σε τεράστια κλίμακα. Θα χρειαζόταν 1000 ζωές για να διαβάσει κανείς την ποσότητα των κειμένων στα οποία εκπαιδεύτηκε το πρόγραμμα, και σ’αυτά τα κείμενα υπάρχει πάρα πολλή γνώση γύρω απ’τον κόσμο.

Το chatbot της OpenAi, και ιδίως αυτά που θα το ακολουθήσουν στο μέλλον, προβληματίζει μεταξύ άλλων και τα πανεπιστήμια παγκοσμίως, κυρίως στις ανθρωπιστικές επιστήμες, σύμφωνα με ερωτηματολόγιο του Nature: γίνεται ολοένα και δυσκολότερο να ξεχωρίσει κανείς την παραγωγή του bot από τις πραγματικές εργασίες που υποβάλλουν οι φοιτητές κατά τη διάρκεια των σπουδών τους. Τα εργαλεία που ανιχνεύουν λογοκλοπή δουλεύουν ακόμα, γιατί στην ουσία το ChatGPT κάποιον αντιγράφει πάντα, αλλά, πιθανότατα όχι για πολύ. Ίσως η καλύτερη αντιμετώπιση είναι αυτή που αναφέρθηκε στην έρευνα παραπάνω:

Παλεύουμε με το πρόβλημα του πώς θα ενσωματώσουμε τα θετικά της Τεχνητής Νοημοσύνης στο οπλοστάσιο των ακαδημαϊκών εργαλείων, με τον ίδιο τρόπο που ενσωματώθηκαν κομπιουτεράκια και υπολογιστές στις δεκαετίες του ’70 και του ‘90. Είναι η μόνη επιλογή που έχουμε.

Στο μεταξύ, τουλάχιστον 4 επιστημονικά άρθρα συμπεριλαμβάνουν το ChatGPT στη συγγραφική τους ομάδα! Η αντίδραση του Nature, με τα άλλα περιοδικά να ακολουθούν, είναι να θεσπίσει ήδη κανόνες, σύμφωνα με τους οποίους επιβάλλεται, μεταξύ άλλων, η ρητή αναφορά του τρόπου της χρήσης του bot και της μεθόδου που ακολουθήθηκε.

Μια υπέροχη εφαρμογή στα ίδια πρότυπα με το ChatGPT, υπό τη μορφή προειδοποίησης, είναι αυτός ο διάλογος μεταξύ του Werner Herzog και του Slavoj Žižek, ο οποίος (α) είναι, δυνητικά, άπειρος χρονικά (β) είναι εξ’ολοκλήρου τεχνητός (γ) μιμείται όχι μόνο τα επιχειρήματα αλλά και το ηχόχρωμα της φωνής και τους αγγλικούς ιδιωματισμούς των δύο πρωταγωνιστών. Ο εμπνευστής της, Giacomo Miceli, λέει στο Scientific American

Κατασκεύασα αυτή τη συζήτηση σαν μια μορφή προειδοποίησης. Οι συνεχείς βελτιώσεις σε αυτό που ονομάζεται μηχανική μάθηση έχουν κάνει τα deepfakes—απίστευτα ρεαλιστικές αλλά ψεύτικες εικόνες, βίντεο ή ομιλία—πολύ εύκολα να τα δημιουργήσεις και σε πολύ καλή ποιότητα. Ταυτόχρονα, τα παραγωγικά γλωσσικά μοντέλα μπορούν γρήγορα και ανέξοδα να παράγουν μεγάλες ποσότητες κειμένου. Μαζί, αυτές οι τεχνολογίες μπορούν να κάνουν περισσότερα από το να οργανώσουν μια άπειρη συνομιλία, όπως αυτή. Έχουν την δυνατότητα να μας πνίξουν σε έναν ωκεανό παραπληροφόρησης.

Οι προβλέψεις της  EXXON-Mobil

Όταν η ιδιωτική πρωτοβουλία χρηματοδοτεί την έρευνα μπορεί να κάνει θαύματα! Για παράδειγμα, η Exxon είχε ποσοτικά μοντέλα που προέβλεπαν τις καταστροφικές συνέπειες της χρήσης υδρογονανθράκων, από τα τέλη ήδη της δεκαετίας του 70. Μόνο που τις κράταγε κρυφές, και στη δημόσια συζήτηση υποστήριζε ακριβώς τα αντίθετα. Όλα αυτά είναι λίγο πολύ γνωστά, αλλά πολύ πρόσφατα δημοσιεύθηκε μια μελέτη στο Science, που δείχνει και επίσημα, πόσο ακριβείς ήταν οι προβλέψεις της Exxon:

Τα αποτελέσματά μας δείχνουν ότι κατ’ ιδίαν και σε ακαδημαϊκούς κύκλους από τα τέλη της δεκαετίας του ‘70 μέχρι τις αρχές της δεκαετίας του ‘80, η ExxonMobil προέβλεψε με ακρίβεια και επιδεξιότητα την κλιματική αλλαγή. Χρησιμοποιώντας καθιερωμένες στατιστικές τεχνικές, βρίσκουμε ότι 63-83% των κλιματικών προβολών από επιστήμονες της ExxonMobil ήταν ακριβείς στην πρόβλεψη της παγκόσμιας υπερθέρμανσης που ακολούθησε. Η μέση τιμή παγκόσμιας θέρμανσης που προέκυπτε από τις αναλύσεις τους είναι 0.20° ± 0.04°C ανά δεκαετία, τιμή που είναι - λαμβάνοντας υπόψιν την σχετική αβεβαιότητα - η ίδια με τις προβλέψεις ανεξάρτητων ακαδημαϊκών και κυβερνητικών προβολών που δημοσιεύθηκαν μεταξύ του 1970 και του 2007.

Η ιστορικά παρατηρηθείσα μεταβολή της θερμοκρασίας (κόκκινο) και η συγκέντρωση διοξειδίου του άνθρακα στην ατμόσφαιρα (μπλε) με την πάροδο του χρόνου, σε σύγκριση με τις προβλέψεις για την υπερθέρμανση του πλανήτη που αναφέρουν οι επιστήμονες της ExxonMobil. (Α) "Ιδιωτικές" προβλέψεις της Exxon το 1982. (Β) Σύνοψη των προβλέψεων σε επτά εσωτερικά υπομνήματα της εταιρείας και πέντε δημοσιεύσεις με κριτές μεταξύ 1977 και 2003 (γκρίζες γραμμές). (C) Ένα γράφημα του 1977 που παρουσιάστηκε σε εσωτερικές αναφορές, για την "επίδραση του CO2 στην υπερθέρμανση του πλανήτη σε κλίμακα μεσοπαγετώδους περιόδου". Τα (Α) και (Β) απεικονίζουν μέσες ιστορικές παρατηρήσεις θερμοκρασίας, ενώ το ιστορικό αρχείο θερμοκρασίας στο (C) είναι μια ομαλοποιημένη προσομοίωση του μοντέλου του συστήματος της Γης των τελευταίων 150.000 ετών.

Η δημοσίευση ξεσήκωσε κύμα συζητήσεων, και ανοίγει το δρόμο για νομικές κυρώσεις.

• Scientific American | Chelsea Harvey, Lesley Clark, Benjamin Storrow: Exxon’s Own Models Predicted Global Warming—It Ignored Them

• BBC | Georgina Rannard: Oil giant predicted climate change since 1970

• NYT | Hiroko Tabuchi: Exxon Scientists Predicted Global Warming, Even as Company Cast Doubts, Study Finds (αρχείο)

Επιστήμη και ανατρεπτικότητα

Η διάκριση ανάμεσα σε επαναστατικές ανακαλύψεις από τη μία, και το είδος της έρευνας που αργά και συστηματικά αναπτύσσει ένα επιστημονικό παράδειγμα, χωρίς να το ανατρέπει, από την άλλη, είναι από εκείνες που ταλαιπωρούν πολύ τόσο την κοινότητα όσο και τις υπηρεσίες χρηματοδότησης της επιστήμης. Όλοι ζητάνε επαναστάσεις και ανατροπές (στην επιστήμη, αλλά παραδόξως όχι στην κοινωνία), υιοθετώντας και τις εκάστοτε λέξεις κλειδιά της αγοράς (βλέπε “disruptive”). Οπότε αν μπορούμε να ποσοτικοποιήσουμε την επαναστατικότητα, τόσο το καλύτερο. Μια πρόσφατη έρευνα επιχειρεί ακριβώς αυτό: να μετρήσει την “ανατρεπτικότητα” των επιστημονικών άρθρων, και μάλιστα συγκριτικά, σε βάθος χρόνου, από την αρχή του 20ου αιώνα. Ως μέτρο χρησιμοποιείται ένας συνδυασμός από συγκρίσεις αναφορών προς και από κάθε δημοσίευση. Το συμπέρασμα είναι πως παρότι οι σύγχρονοι επιστήμονες γνωρίζουν πολύ περισσότερα, παράγουν σημαντικά λιγότερο ανατρεπτικές δημοσιεύσεις, απ’ ότι πριν μισό αιώνα. Οι συζητήσεις για το κατά πόσο συμβαίνει αυτό, και γιατί συμβαίνει, αν συμβαίνει, καλά κρατούν. Η άποψή μας είναι ότι οι επιστημονικές ανατροπές είναι απόληξη εξελικτικής επιστήμης, και η διάκριση μεταξύ των δύο είναι εξαιρετικά αμφίβολο αν μπορεί να γίνει αξιόπιστα. Οπωσδήποτε η νέα αυτή μέθοδος είναι ένα ενδιαφέρον παιχνίδι, δεν αποτυπώνει όμως καν τη διάκριση σωστά για άρθρα που είναι ξεκάθαρες περιπτώσεις ανατρεπτικών ανακαλύψεων, όπως τα mRNA εμβόλια, τα βαρυτικά κύματα και η επιταχυνόμενη διαστολή του σύμπαντος.

Το CERN στη μέση του πολέμου

Το CERN φαίνεται να έχει να λύσει ένα γόρδιο δεσμό με την υπόθεση των Ρώσων επιστημόνων που συμμετέχουν στα πειράματά του. Οι Ουκρανοί, αλλά και επιστήμονες άλλων εθνικοτήτων, δε θέλουν να συμπεριλάβουν τα ονόματα των Ρωσικών ιδρυμάτων στη λίστα με τους συγγραφείς των δημοσιεύσεων, σε ένδειξη διαμαρτυρίας για την Ρωσική εισβολή. Έκτοτε, και επειδή δεν κατέστη δυνατό να βρεθεί μια λογική λύση, τα πειράματα του LHC δημοσιεύονται με μόνη την ενιαία υπογραφή της πειραματικής ομάδας, χωρίς συγκεκριμένα ονόματα. Αυτό αργά ή γρήγορα θα επηρεάσει καταστροφικά τις καριέρες των νέων επιστημόνων που συμμετέχουν, μιας και έξω από την πειραματική ομάδα, δεν είναι πάντα γνωστό ποιος πέτυχε τι.

Ο σιδερένιος πυρήνας της Γης και η περιστροφή του

Το κεντρικό τμήμα του πλανήτη μας αποτελείται από έναν στερεό πυρήνα από σίδηρο και νικέλιο ακτίνας περίπου 1200 χλμ, και με τη θερμοκρασία παρόμοια με εκείνη της επιφάνειας του Ήλιου (5400 βαθμοί Κελσίου)! Φυσικά δεν έχουμε κανέναν τρόπο να μελετήσουμε τον πυρήνα απευθείας. Οι μόνες πληροφορίες που έχουμε για αυτόν προέρχονται από σεισμικά κύματα που τον διασχίζουν και καταγράφονται στην επιφάνεια, είτε από σεισμούς είτε από πυρηνικές δοκιμές.

Credit: Johan Swanepoel/SPL

Τα σεισμικά αυτά κύματα φαίνονται να τροποποιούνται στο χρόνο, και η επικρατούσα (αλλά όχι η μόνη) εξήγηση για αυτό είναι ότι ο πυρήνας της Γης περιστρέφεται. Σύμφωνα με πρόσφατη μελέτη, μάλιστα, όχι μόνο περιστρέφεται, αλλά αλλάζει και ρυθμό περιστροφής, με μια περίοδο γύρω στα 70 χρόνια. Ζούμε απ’ ότι φαίνεται, στην περίοδο που αντιστρέφεται αυτή η περιστροφή. Ιδού το άρθρο με όλη τη στατιστική επεξεργασία, στο Nature Geophysics. Οι ειδικοί προειδοποιούν ότι οι συνέπειες αυτής της αντιστροφής είναι απολύτως ασήμαντες στην επιφάνειά της Γης. Αλλά θέλουν, παρόλα αυτά, να μάθουν αν όντως το κέντρο του πλανήτη μας συμπεριφέρεται με τόσο περίπλοκο τρόπο, και γιατί.

Το ηφαίστειο στη Σαντορίνη

Τουναντίον, μια πιθανή έκρηξη του ηφαιστείου της Σαντορίνης πιθανότατα θα έχει σοβαρές συνέπειες. Με βάση τις σεισμικές μελέτες, νέα δημοσίευση βρήκε ότι μόλις 2 χιλιόμετρα κάτω από το βυθό, δηλαδή ανησυχητικά κοντά, βρίσκεται μια φλέβα με μάγμα. Ο ίδιος ο βυθός βρίσκεται 500 μέτρα κάτω από την επιφάνεια, και εν δυνάμει έκρηξη θα προκαλούσε βέβαια ένα τεράστιο τσουνάμι στο Αιγαίο, μεταξύ άλλων. Ο κίνδυνος δεν είναι άμεσος, λένε, αλλά το ηφαίστειο είναι μια διαρκής σοβαρή απειλή.

Αγέραστα ποντίκια, ίσως και άνθρωποι;

Δύο ερευνητικές ομάδες ανακοίνωσαν αυτόν τον μήνα εντυπωσιακά πειραματικά αποτελέσματα σε σχέση με την αναστροφή της διαδικασίας γήρανσης - σε ποντίκια. Οι δύο ομάδες χρησιμοποιούν τα ευρήματα του, βραβευμένου με Νόμπελ φυσιολογίας το 2012 για τις έρευνες αυτές, Ιάπωνα ερευνητή Σίνγια Γιαμανάκα, ο οποίος είχε κατορθώσει να μετατρέψει κύτταρα ιστών σε βλαστοκύτταρα με ένα κοκτέιλ πρωτεϊνών. Η μία ομάδα, της ιδιωτικής εταιρείας Rejuvenate Bio, κατόρθωσε να αυξήσει έστω και λίγο το προσδόκιμο ζωής γερασμένων ποντικιών με ένα κοκτέιλ “παραγόντων Γιαμανάκα”. Η δεύτερη. του πανεπιστημίου του Χάρβαρντ, δημιούργησε τεχνητή γήρανση σε ποντίκια την οποία ανέστρεψε μερικώς με ένα ανάλογο κοκτέιλ. Το δεύτερο πείραμα αποτελεί και ένα τεστ της “πληροφοριακής θεωρίας της γήρανσης”, του γενετιστή Ντέιβιντ Σινκλέρ, η οποία (πολύ χονδρικά) ισχυρίζεται πως ο κεντρικός παράγοντας της γήρανσης είναι η επιγενετική βλάβη, η αλλοίωση δηλαδή στο κυτταρικό DNA με τον χρόνο που εμποδίζει την λειτουργία του επιγονιδιώματος το οποίο ελέγχει το ποια γονίδια θα εκφράζονται. Η αντιμετώπιση των ερευνών αυτών είναι θετική, αλλά όπως έχει δηλώσει ένας από τους επιστήμονες του πεδίου πρόκειται για εξαιρετικά νέα αν είσαι ποντίκι. Η μεταφορά δηλαδή αυτών των αποτελεσμάτων στον άνθρωπο με κάποιον συστηματικό τρόπο απέχει ακόμα πολλά χρόνια.

Αυτό πάντως που προκύπτει πως σίγουρα βοηθά στην επιβράδυνση του γήρατος - μέσω του κυτταρικού μάλιστα αναπρογραμματισμού” - είναι μια γνωστή “θεραπεία”: η σωματική άσκηση

• Science | Catherine Offord: Two research teams reverse signs of aging in mice

• inews | Stuart Ritchie: Why you shouldn’t get too excited at claims scientists have reversed ageing… yet