Σκέψεις για το AGI
Οι Sayash Kapoor και Arvind Narayanan του Princeton έγραψαν ένα καλό κείμενο για το AGI στο blog τους.
In this essay, we argue that AGI is not a milestone. It does not represent a discontinuity in the properties or impacts of AI systems. If a company declares that it has built AGI, based on whatever definition, it is not an actionable event. It will have no implications for businesses, developers, policymakers, or safety.
Τα επιχειρήματα είναι ότι:
- Για να υπάρξει αντίκτυπος στην οικονομία από το AGI θα χρειαστεί να υιοθετηθεί ευρέως από εταιρείες και κυβερνήσεις. Αυτό χρειάζεται διάστημα που μετριέται σε χρόνια ή και δεκαετίες.
- Για να έχει καταστροφικές συνέπειες στην ανθρωπότητα ένα AGI σύστημα σημαίνει ότι πέρα από ικανότητες θα πρέπει να έχει και τη δύναμη να επηρεάσει τον κόσμο γύρο του. Αυτό είναι κάτι στην πράξη απίθανο να συμβεί.
Εμένα με ενδιαφέρει περισσότερο το (1), το οποίο εξηγεί και γιατί δεν έχει νόημα να παρομοιάζουμε το AGI με την πυρηνική βόμβα, την οποία τα έθνη ανταγωνίζονταν ποιο θα εφεύρει πρώτη.
The important question in the context of great power competition is not which country builds AGI first, but rather which country better enables diffusion. As Jeffrey Ding has shown, the effectiveness of companies and governments in actually utilizing AI inventions and innovations, whether domestic or international, to improve productivity is far more important for determining the economic impacts of general-purpose technologies.
Ολόκληρο το κείμενο αξίζει μια ανάγνωση.