Λογισμικοκέφαλοι, οι συνέπειες της ΤΝ, το Παρίσι
Ο Tyler Cowen έγραφε πριν λίγο καιρό ότι οι συνέπειες της έλευσης της «ισχυρής ΤΝ» ("strong AI") θα είναι τόσο μεγάλες που θα χρειαστεί να οικοδομήσουμε τον κόσμο μας ξανά, όπως μετά την πτώση της Ρωμαϊκής Αυτοκρατορίας, μετά την Αμερικάνικη Επανάσταση και μετά τον 2ο Παγκόσμιο Πόλεμο:
It is now the case that strong AI is here/coming, and we will have to rebuild our own world. Many of us are terrified at this prospect, others are just extremely pessimistic. It seems so impossible. How are all the new pieces supposed to fit together? Who amongst us can explain that process in a reassuring way?
Ο ίδιος είναι αισιόδοξος: το έχουμε κάνει ξανά ως ανθρωπότητα, πάμε πάλι λοιπόν. Αλλά οι αλλαγές προβλέπονται κατακλυσμιαίες.
Εντωμεταξύ ο Nilay Patel εφηύρε τον όρο "software brain" για τους ανθρώπους που βλέπουν τον κόσμο ολόκληρο σαν δεδομένα, έτοιμο να καταβροχθιστεί. Οργανώσαμε τον κόσμο βάζοντας τα δεδομένα σε μια βάση και πλέον θα τα ταΐσουμε στην ΤΝ για να έρθουν οι αλλαγές που περιμένει ο Cowen.
So what is software brain? The simplest definition I’ve come up with is that it’s when you see the whole world as a series of databases that can be controlled with structured language and software code.
Η αναλογία δουλεύει μέχρι κάποιο σημείο: το Airbnb και το Booking είναι βάσεις δεδομένων για καταλύματα, το Uber για ταξί, το Wolt για εστιατόρια, κ.ο.κ. Τα άρθρα στην Wikipedia, τα προϊόντα στο Skroutz, όλα γραμμές σε βάσεις δεδομένων, έτοιμες να εκπαιδεύσουν την ΤΝ.
Όμως φυσικά αν περνάς έστω και λίγο μέρος του χρόνου σου εκτός της τεχνολογίας, αν δεν είσαι «λογισμικοκέφαλος», καταλαβαίνεις ότι ο κόσμος είναι κάπως πιο περίπλοκος:
Anyone who’s actually ever run a database knows this. At some point, the database stops matching reality. And at that point, we usually end up tweaking the database, not the world. The AI industry has fully lost sight of this. AI thrives on data. It’s just software. And so the ask is for more and more of us to conform our lives to the database, not the other way around.
κι αυτό είναι στην βάση του γιατί ο κόσμος αρχίζει να μισεί την ΤΝ. Οι πιο δυνατές φωνές της (σε βλέπω Dario) λένε ότι κι οι άνθρωποι τελικά είναι μια γραμμή σε μια βάση δεδομένων, μια αυτοματοποίηση μακριά απ' το να μην τους χρειαζόμαστε.
But not everything is a business, not everything is a loop, and the entire human experience cannot be captured in a database. That’s the limit of software brain. That’s why people hate AI. It flattens them. Regular people don’t see the opportunity to write code as an opportunity at all.
Η μονοκαλλιέργεια του να δουλεύεις στην τεχνολογία, το σφυρί που βλέπει παντού καρφιά.
Ήμουν πολύ έτοιμος λοιπόν γι' αυτό το tweet:
all technology brothers should have a birthright trip to paris to see how good certain things can get and all the axes of civilization they don’t think about. they should also get one to singapore to witness the hollow Disneyland feigned joy of technocratic perfection
Σημείωση: ο Roon δουλεύει στην OpenAI.