Συνείδηση και AGI: Απειλή ή Εξέλιξη για το Μέλλον της Ανθρωπότητας; Ανάγνωση άρθρου

Μια Συζήτηση με τον David Deutsch

Σε μια πρόσφατη συνέντευξη, ο David Deutsch, γνωστός φυσικός και πρωτοπόρος στην κβαντική υπολογιστική, μοιράστηκε τις ιδέες του σχετικά με τη συνείδηση, την τεχνητή νοημοσύνη (AI) έναντι της γενικής τεχνητής νοημοσύνης (AGI), και το μέλλον της ανθρώπινης γνώσης. Οι απόψεις του ρίχνουν φως στη βαθιά σύνδεση μεταξύ κβαντικής θεωρίας, συνείδησης και της ικανότητας επίλυσης προβλημάτων.

Τι είναι η Γενική Τεχνητή Νοημοσύνη (AGI);

Ο David Deutsch ορίζει την AGI (Γενική Τεχνητή Νοημοσύνη) ως μια τεχνητή νοημοσύνη που μπορεί να προγραμματιστεί για να εκτελέσει οποιοδήποτε είδος γνώσης μπορεί να εκτελέσει οποιαδήποτε άλλη οντότητα που διαθέτει γνώση. Αυτό σημαίνει ότι μια AGI θα μπορούσε να κάνει οτιδήποτε μπορεί να κάνει ένας ανθρώπινος μαθηματικός, με την επιφύλαξη περιορισμών μνήμης, και μπορεί επίσης να νιώθει συναισθήματα και να κάνει οτιδήποτε άλλο μπορεί να κάνει ο ανθρώπινος εγκέφαλος. Σύμφωνα με την κβαντική θεωρία, η ύπαρξη ενός τέτοιου προγράμματος είναι θεώρημα, αν και η συγγραφή του είναι εξαιρετικά δύσκολη.

AGI έναντι AI: Οι Βασικές Διαφορές

Ο Deutsch τονίζει ότι η AI και η AGI είναι, από πολλές απόψεις, αντίθετες λειτουργικότητες.

• Η AI παράγει μια δεδομένη λειτουργικότητα με μεγάλη ακρίβεια, σπανίως κάνει λάθη. Στόχος της είναι να μειώσει τις πιθανές εκβάσεις της λειτουργίας της. Για παράδειγμα, μια βελτιωμένη AI για σκάκι θα κάνει τις χαμένες αποφάσεις λιγότερο πιθανές, και μια AI που παράγει αισχρολογίες θα τροποποιηθεί για να μην το κάνει ποτέ.
• Αντίθετα, μια AGI δεν θα μπορούσε να είναι γενική αν δεν μπορούσε να "πάει στραβά" μερικές φορές. Η AGI διευρύνει τις πιθανές εκβάσεις. Περιλαμβάνει την υποκειμενικότητα. Δεν πρέπει να υπάρχει τρόπος να πούμε ότι δεν θα έχει ποτέ μια συγκεκριμένη σκέψη. Αν υπάρχει μια σκέψη που δεν μπορεί ποτέ να έχει λόγω της κατασκευής ή του προγραμματισμού της, τότε δεν είναι γενική εξ ορισμού.

Η Συνείδηση ως Χαρακτηριστικό του Λογισμικού

Ο Deutsch υποστηρίζει ότι η συνείδηση είναι χαρακτηριστικό του λογισμικού, συγκεκριμένα ορισμένων προγραμμάτων υπολογιστών, όπως αυτά που έχουμε στον εγκέφαλό μας. Δεν είναι χαρακτηριστικό του εγκεφάλου ως τέτοιου. Αυτό σημαίνει ότι αν η κβαντική θεωρία είναι αληθινή, ένα τέτοιο πρόγραμμα πρέπει να υπάρχει και θα τρέχει σε οποιοδήποτε υλικό. Οι ανθρώπινοι νους μπορούν επίσης να τρέχουν σε οποιοδήποτε υλικό, αν και δεν ξέρουμε ακόμη πώς να τους "κατεβάσουμε" (download). Όταν κατανοήσουμε καλύτερα την αρχιτεκτονική του εγκεφάλου, θα μπορούμε να μετατρέψουμε την κατάσταση του εγκεφάλου σε μια λειτουργική κατάσταση ενός καθολικού υπολογιστή.

Σχετικά με την οικοδόμηση συνειδητής AI, ο Deutsch αναφέρει ότι είναι πιθανό να δημιουργηθούν συνειδητές μηχανές χωρίς πλήρη κατανόηση της συνείδησης, όπως οι αδελφοί Μονγκολφιέ πέτυχαν την πτήση με το αερόστατο χωρίς να κατανοούν πλήρως την αεροδυναμική. Ωστόσο, για να βελτιωθεί κάτι, απαιτείται μεγαλύτερη κατανόηση. Η κατανόηση και η χειραγώγηση του κόσμου είναι στενά συνδεδεμένες.

Η Φύση της Γνώσης

Ο Deutsch υιοθετεί την ορολογία του Karl Popper, ο οποίος ορίζει τη γνώση ως μια μορφή πληροφορίας με ειδικές ιδιότητες, όπως η ικανότητα να προκαλεί φυσικά αποτελέσματα. Στην ορολογία αυτή:

• Τα γονίδια ενός οργανισμού περιέχουν γνώση (π.χ. η αλληλουχία του DNA που επιτρέπει σε ένα ζώο να πετάξει). Αυτή είναι μη επεξηγηματική γνώση.
• Η γνώση στα μυαλά των αδελφών Ράιτ ήταν επεξηγηματική γνώση, η οποία επίσης επέφερε παρόμοιο αποτέλεσμα (την πτήση).

Ο Deutsch τονίζει ότι η γνώση είναι μια ειδική μορφή πληροφορίας, με την τρέχουσα αγαπημένη του ορισμό να είναι "πληροφορία με αιτιατή δύναμη" (causal power).

Οι Άνθρωποι ως Καθολικοί Εξηγητές

Ο David Deutsch υποστηρίζει ότι οι άνθρωποι είναι καθολικοί εξηγητές, κάτι που αναφέρεται τόσο στην ικανότητα να δημιουργούν όσο και στην ικανότητα να κατανοούν εξηγήσεις. Αυτό δεν σημαίνει ότι κάθε ανθρώπινος εγκέφαλος θα επιλύσει κάθε πρόβλημα, αλλά ότι δεν εμποδιζόμαστε από τη σύσταση του εγκεφάλου μας να δημιουργήσουμε ένα κομμάτι γνώσης που θα μπορούσε καταρχήν να υπάρξει. Η άρνηση αυτής της απεριόριστης ικανότητας για εξήγηση ισοδυναμεί με την πίστη σε υπερφυσικά όντα, καθώς υποδηλώνει ένα ακατανόητο όριο στην κατανόησή μας.

Οι διαφορές στις ικανότητες (π.χ., κάποιοι δυσκολεύονται στα μαθηματικά ενώ άλλοι ανακαλύπτουν τη σχετικότητα) οφείλονται κυρίως στην έλλειψη επιθυμίας ή στον εξαναγκασμό, ειδικά στην εκπαίδευση. Η δημιουργικότητα πλήττεται υπό τέτοιες συνθήκες. Οι άνθρωποι που διαπρέπουν σε ένα πεδίο συνήθως το κάνουν από γνήσιο ενδιαφέρον και χωρίς καταναγκασμό.

Όσον αφορά την πιθανότητα οι AI να αναπτύξουν ιδέες που οι άνθρωποι δεν μπορούν να κατανοήσουν, ο Deutsch επισημαίνει ότι οι άνθρωποι είναι "Turing complete", δηλαδή μπορούν να ακολουθήσουν τις οδηγίες μιας καθολικής μηχανής Turing. Το ότι δεν κατανοούμε κάτι, όπως μια αρχαία επιγραφή, δεν σημαίνει περιορισμό στο ανθρώπινο υλικό. Επιπλέον, το αν ένα λογισμικό μπορεί να λύσει ένα πρόβλημα δεν μπορεί να ελεγχθεί, καθώς μπορεί απλά να μην θέλει.

Αισιοδοξία για το Μέλλον της Ανθρωπότητας με την AGI

Ο Deutsch είναι αισιόδοξος για το μέλλον της ανθρωπότητας με την AGI. Θεωρεί ότι οι AGIs, όντας προγράμματα λογισμικού που τρέχουν σε οποιοδήποτε υλικό, δεν αποτελούν θεμελιώδες πρόβλημα. Προβλέπει τη συγχώνευση ανθρώπων και AGIs, καθώς και οι δύο θα αποτελούνται από ένα βασικό πρόγραμμα με τη γενική, επεξηγηματική ιδιότητα, και θα μπορούν να χρησιμοποιούν οποιοδήποτε κατάλληλο υλικό. Ήδη, οι άνθρωποι χρησιμοποιούν την επιπλέον ισχύ των υπολογιστών για να ενισχύσουν την ταχύτητα του "υλικού" τους, εκτελώντας δισεκατομμύρια πράξεις ανά δευτερόλεπτο που διαφορετικά θα χρειάζονταν εκατομμύρια χρόνια.

Ιστορικά, ενώ υπήρχαν περισσότερα από δύο είδη νοήμονων ειδών (ίσως έως και έξι), πέντε από αυτά εξαφανίστηκαν όχι επειδή δολοφονήθηκαν, αλλά επειδή απέτυχαν να λύσουν τα προβλήματα που αντιμετώπιζαν. Αντίθετα, οι άνθρωποι αυξήθηκαν σε αριθμό και επεκτάθηκαν, επειδή έλυναν προβλήματα, σε αντίθεση με άλλα είδη που, αν και είχαν την ικανότητα, επέλεξαν να μην το κάνουν λόγω της κουλτούρας τους.

Η Μεγαλύτερη Πρόκληση

Για τον David Deutsch, η πιο σημαντική φιλοσοφική ή επιστημονική πρόκληση, στον τομέα της κατανόησης του κόσμου, είναι το να κατανοήσουμε τι διακρίνει ένα δημιουργικό πρόγραμμα υπολογιστή από ένα μη δημιουργικό, ή ένα συνειδητό από ένα μη συνειδητό, ή ένα που έχει qualia από ένα που δεν έχει. Πιστεύει ότι αυτές οι διακρίσεις είναι οι ίδιες, και ότι πολύ λίγοι άνθρωποι εργάζονται σε αυτό το θέμα επειδή θεωρούν την AGI ως μια απλή προηγμένη μορφή AI, κάτι που ο ίδιος διαφωνεί.