Comprendere il lungo articolo di Vitalik: perché le persone intelligenti dovrebbero attenersi a "regole semplici"?

Quelle teorie “galaxy brain” che sembrano poter spiegare tutto sono spesso le scuse universali più pericolose. Al contrario, quelle regole “ad alta resistenza” che appaiono rigide e dogmatiche sono in realtà l’ultima linea di difesa contro l’autoinganno.

Autore: Zhixiong Pan

L’articolo pubblicato da Vitalik alcune settimane fa, Galaxy Brain Resistance, è in realtà piuttosto oscuro e difficile da comprendere, e non ho visto buone interpretazioni in giro, quindi ci provo io.

Dopotutto, anche Karpathy, il creatore del termine Vibe Coding, ha letto questo articolo e preso appunti, quindi sicuramente c’è qualcosa di speciale.

Prima di tutto, cosa significano i termini Galaxy Brain e Resistance nel titolo? Una volta capito il titolo, puoi già intuire di cosa parla l’articolo.

1️⃣ La traduzione letterale di Galaxy Brain è “cervello galattico”, ma in realtà deriva da un meme di Internet, simile a un’immagine che unisce (🌌🧠), che sicuramente avrai visto.

All’inizio aveva ovviamente un’accezione positiva, usata per lodare le idee geniali di qualcuno, cioè per dire che è intelligente. Ma col tempo, a causa dell’uso eccessivo, è diventata una sorta di ironia, con il significato di “stai pensando troppo, la logica è troppo contorta”.

Qui, quando Vitalik menziona 🌌🧠, si riferisce specificamente a quel tipo di “ginnastica mentale ad alto quoziente intellettivo, che trasforma qualcosa di insensato in una grande verità”. Per esempio:

- Chiaramente si licenzia in massa per risparmiare, ma si dice che è “per fornire talenti di alta qualità alla società”.

- Chiaramente si emettono shitcoin per truffare, ma si proclama che si sta “potenziando l’economia globale attraverso la governance decentralizzata”.

Tutto questo può essere considerato pensiero “galaxy brain”.

2️⃣ E cosa significa Resistance (resistenza)? Questo concetto può confondere, ma in termini semplici si può paragonare alla “capacità di resistere all’essere manipolati” o “capacità di non farsi abbindolare”.

Quindi Galaxy Brain Resistance dovrebbe essere Resistance to [becoming] Galaxy Brain, cioè: “la capacità di resistere (a diventare) galaxy brain (ovvero di dire sciocchezze)”.

O, più precisamente, descrive quanto sia facile che uno stile di pensiero/argomentazione venga abusato per “dimostrare qualsiasi conclusione tu voglia”.

Questa “resistenza” può quindi riferirsi a una “teoria”, per esempio:

- Teorie a bassa resistenza: basta poco per trasformarle in logiche “galaxy brain” estremamente assurde.

- Teorie ad alta resistenza: per quanto tu ci provi, restano invariate, è difficile trasformarle in logiche assurde.

Per esempio, Vitalik dice che nella sua società ideale la legge dovrebbe tracciare una linea rossa: solo quando si può spiegare chiaramente come un comportamento danneggia o mette a rischio una vittima specifica, può essere vietato. Questo standard ha una grande resistenza al galaxy brain, perché non accetta motivazioni vaghe o soggettive come “non mi piace” o “è immorale”.

3️⃣ Vitalik nell’articolo fa anche molti esempi, persino con teorie che sentiamo spesso, come il “longtermismo” e “inevitabilismo”.

Il “longtermismo” è molto vulnerabile al pensiero 🌌🧠, perché ha una resistenza bassissima, è praticamente un “assegno in bianco”. Il “futuro” è troppo lontano e troppo vago.

- Versione ad alta resistenza: “Quest’albero crescerà di 5 metri in 10 anni”. È verificabile, difficile da manipolare.

- Versione a bassa resistenza del “longtermismo”: “Anche se ora devo fare qualcosa di estremamente immorale (come eliminare alcune persone o scatenare una guerra), è per permettere all’umanità di vivere in un’utopia tra 500 anni. Secondo i miei calcoli, la felicità futura sarà infinita, quindi i sacrifici attuali sono trascurabili.”

Vedi, basta allungare abbastanza il tempo e puoi giustificare qualsiasi male presente. Come dice Vitalik: “Se la tua argomentazione può giustificare qualsiasi cosa, allora non giustifica nulla”.

Tuttavia, Vitalik ammette che “il lungo termine è importante”, ma critica “l’uso eccessivo di benefici futuri vaghi e non verificabili per coprire danni attuali evidenti”.

Un altro caso problematico è l’“inevitabilismo” (Inevitabilism).

Questa è anche la strategia difensiva preferita nella Silicon Valley e nel mondo tech.

Il discorso è questo: “L’AI che sostituisce il lavoro umano è una necessità storica, anche se non lo faccio io, lo farà qualcun altro. Quindi ora sviluppo l’AI in modo aggressivo non per guadagnare, ma per seguire il corso della storia.”

Dove sta la bassa resistenza? Elimina perfettamente il senso di responsabilità personale. Se è “inevitabile”, allora non devo assumermi la responsabilità dei danni che causo.

Questa è una tipica galaxy brain: mascherare il desiderio personale di guadagno/potere come “sto compiendo una missione storica”.

4️⃣ Allora, di fronte a queste “trappole per persone intelligenti”, cosa dovremmo fare?

La soluzione proposta da Vitalik è sorprendentemente semplice, quasi “ingenua”. Secondo lui, più una persona è intelligente, più ha bisogno di regole ad alta resistenza per auto-limitarsi, per evitare che la propria ginnastica mentale sfugga di mano.

Primo, attenersi al “deontologismo” (Deontological Ethics), cioè alle regole morali di base da scuola materna.

Non serve fare calcoli complessi “per il futuro dell’umanità”, basta tornare ai principi più rigidi:

- Non rubare

- Non uccidere innocenti

- Non truffare

- Rispetta la libertà altrui

Queste regole hanno altissima resistenza. Sono bianche o nere, non negoziabili. Quando provi a giustificare l’appropriazione di fondi degli utenti con il “longtermismo”, la regola rigida del “non rubare” ti smentisce subito: rubare è rubare, non tirare in ballo la grande rivoluzione finanziaria.

Secondo, avere la giusta “posizione”, anche fisica.

Come si dice, “dove ti siedi determina come pensi”. Se passi le tue giornate nella echo chamber della Bay Area di San Francisco, circondato da sostenitori dell’accelerazionismo AI, sarà difficile restare lucido. Vitalik dà persino un consiglio fisico ad alta resistenza: non vivere nella Bay Area di San Francisco.

5️⃣ Conclusione

In realtà, l’articolo di Vitalik è un avvertimento agli élite estremamente intelligenti: non pensare che, solo perché sei intelligente, puoi aggirare i principi morali di base.

Quelle teorie “galaxy brain” che sembrano poter spiegare tutto sono spesso le scuse universali più pericolose. Al contrario, quelle regole “ad alta resistenza” che appaiono rigide e dogmatiche sono in realtà l’ultima linea di difesa contro l’autoinganno.