Entendiendo el extenso artículo de Vitalik: ¿Por qué las personas inteligentes deben apegarse a las “reglas tontas”?
Aquellas teorías de “mente galáctica” que parecen poder explicar todo suelen ser las excusas universales más peligrosas. En cambio, esas reglas que suenan rígidas y dogmáticas, pero que son de “alta resistencia”, son en realidad la última barrera para evitar que nos engañemos a nosotros mismos.
Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.
Escrito por: Zhixiong Pan
El artículo que publicó Vitalik hace unas semanas, Galaxy Brain Resistance, es bastante denso y difícil de entender, y no he visto buenas interpretaciones, así que voy a intentarlo yo.
Después de todo, vi que Karpathy, el creador del término Vibe Coding, también leyó este artículo y tomó notas, así que seguro que tiene algo especial.
Primero, hablemos del título: qué significan Galaxy Brain y Resistance. Si entendés el título, ya podés captar de qué va el artículo.
1️⃣ Galaxy Brain se traduce literalmente como "cerebro galáctico", pero en realidad viene de un meme de internet, como una imagen que combina (🌌🧠), seguro la viste alguna vez.
Al principio era un halago, para decir que la idea de alguien era brillante, o sea, inteligente. Pero después, con el uso excesivo, se volvió irónico, más bien queriendo decir "te fuiste al pasto, tu lógica es demasiado rebuscada".
Y cuando Vitalik menciona 🌌🧠, se refiere específicamente a ese tipo de "acrobacias mentales de alto coeficiente intelectual para justificar cosas que no tienen sentido, haciéndolas parecer súper profundas". Por ejemplo:
- Claramente están despidiendo gente para ahorrar plata, pero lo venden como "estamos aportando talento de calidad a la sociedad".
- Claramente están lanzando shitcoins para estafar, pero dicen que "están empoderando la economía global con gobernanza descentralizada".
Todo eso entra en la categoría de pensamiento "cerebro galáctico".
2️⃣ ¿Y Resistance (resistencia) qué significa? Este concepto puede marear, pero usando una expresión popular, sería como "capacidad de no dejarse llevar por la corriente" o "capacidad de no dejarse chamuyar".
Así que Galaxy Brain Resistance sería Resistance to [becoming] Galaxy Brain, o sea: "capacidad de resistir (convertirse en) cerebro galáctico (chamuyo)".
O más precisamente, describe cuán fácil es que un estilo de pensamiento o argumentación se use en exceso para "demostrar cualquier conclusión que quieras".
Entonces, esta "resistencia" puede aplicarse a una "teoría" en particular, por ejemplo,
- Teoría de baja resistencia: con un poco de presión, se convierte en una lógica "cerebro galáctico" totalmente delirante.
- Teoría de alta resistencia: no importa cuánto la analices, se mantiene firme y es difícil que derive en una lógica absurda.
Por ejemplo, Vitalik dice que, en su sociedad ideal, la ley debería tener una línea roja: solo se puede prohibir una conducta si se puede explicar claramente cómo causa daño o riesgo a una víctima concreta. Ese estándar tiene mucha resistencia al "cerebro galáctico", porque no acepta razones vagas o estiradas como "no me gusta" o "es inmoral".
3️⃣ Vitalik da muchos ejemplos en el artículo, incluso usando teorías que escuchamos seguido, como el "longtermismo" y el "inevitabilismo".
El "longtermismo" es muy vulnerable al pensamiento 🌌🧠 porque tiene muy poca resistencia, es casi como un "cheque en blanco". Porque el "futuro" es demasiado lejano y difuso.
- Ejemplo de alta resistencia: "Este árbol va a crecer 5 metros en 10 años". Eso se puede verificar, no es fácil de chamuyar.
- Ejemplo de longtermismo de baja resistencia: "Aunque ahora voy a hacer algo súper inmoral (como eliminar a un grupo de personas o iniciar una guerra), es para que dentro de 500 años la humanidad viva en una utopía. Según mis cálculos, la felicidad futura es infinita, así que los sacrificios de ahora no importan".
¿Ves? Si estirás el tiempo lo suficiente, podés justificar cualquier atrocidad actual. Como dice Vitalik: "Si tu argumento puede justificar cualquier cosa, entonces no justifica nada".
Igual, Vitalik reconoce que "el largo plazo es importante", lo que critica es "usar beneficios futuros demasiado vagos e imposibles de comprobar para tapar daños actuales claros".
Otro terreno fértil para esto es el "inevitabilismo" (Inevitabilism).
Es el arma favorita en Silicon Valley y el mundo tech.
El discurso es así: "Que la IA reemplace trabajos humanos es inevitable, aunque yo no lo haga, otro lo va a hacer. Así que si desarrollo IA de manera agresiva, no es por plata, es por seguir la corriente de la historia".
¿Dónde está la baja resistencia? Borra completamente la responsabilidad personal. Si es "inevitable", entonces no tengo que hacerme cargo del daño que causo.
Esto también es típico "cerebro galáctico": disfrazar el deseo personal de "quiero ganar plata / quiero poder" como si estuvieras "cumpliendo una misión histórica".
4️⃣ Entonces, ¿qué hacemos frente a estas "trampas para inteligentes"?
La solución que da Vitalik es sorprendentemente simple, hasta un poco "tonta". Él cree que, cuanto más inteligente seas, más necesitás reglas de alta resistencia para no perderte en tus propias acrobacias mentales.
Primero, mantenerte fiel a la "deontología" (Deontological Ethics), o sea, las reglas morales básicas de jardín de infantes.
No te pongas a hacer cálculos complejos "por el futuro de la humanidad", volvé a los principios más rígidos:
- No robes
- No mates inocentes
- No estafes
- Respetá la libertad de los demás
Estas reglas tienen altísima resistencia. Son blanco o negro, no hay negociación. Cuando intentás justificar el uso de fondos de usuarios con el "longtermismo", la regla rígida de "no robes" te deja en evidencia: robar es robar, no importa si decís que es por la gran revolución financiera.
Segundo, tener la "posición" correcta, incluso física.
Como dice el dicho, "el culo decide la cabeza". Si vivís todo el día en la burbuja de la Bahía de San Francisco, rodeado de gente que impulsa el aceleracionismo de la IA, es difícil mantener la claridad. Vitalik incluso da un consejo físico de alta resistencia: no vivas en la Bahía de San Francisco.
5️⃣ Resumen
En realidad, el artículo de Vitalik es una advertencia para los genios: no creas que, por ser inteligente, podés saltarte las reglas morales básicas.
Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.
Descargo de responsabilidad: El contenido de este artículo refleja únicamente la opinión del autor y no representa en modo alguno a la plataforma. Este artículo no se pretende servir de referencia para tomar decisiones de inversión.
También te puede gustar
El jefe de fondos de cobertura de Goldman Sachs: Las "opciones de cero días" están suprimiendo la volatilidad de las acciones estadounidenses, la tecnología y la energía siguen siendo las mejores opciones.
El S&P 500 ha registrado movimientos intradía inferiores al 1% durante 27 jornadas consecutivas, marcando el período de menor volatilidad desde la pandemia. Goldman Sachs advierte que esta “calma” es consecuencia de estrategias en opciones con vencimiento diario que están forzando la estabilidad en el mercado, y que ante cualquier catalizador, la volatilidad comprimida podría liberarse de manera abrupta. Al mismo tiempo, aumentan las expectativas de una suba de tasas en septiembre, el ánimo del mercado cae a su nivel más bajo del año y persisten riesgos sobre la sostenibilidad fiscal. ¿Cuánto tiempo más seguirá calentándose esta “olla de agua” antes de hervir?
¿Está por llegar una nueva ola de ventas? El rival más fuerte del mercado alcista de IA finalmente aparece: El "ancla de precio de los activos globales" supera el nivel clave del 5%.
Después de que el rendimiento del bono estadounidense a 10 años volvió a superar la barrera clave del 5%, es más probable que se inicie un período de consolidación en niveles altos y una aceleración en la divergencia del desempeño de los activos. Especialmente antes de que el impacto energético y el gran déficit fiscal de Estados Unidos se alivien notablemente, todavía no se dan plenamente las condiciones para que los rendimientos caigan rápidamente como ocurrió a finales de 2023.
Anthropic publica nuevamente: ¿Cómo será la economía en la era de la IA?
El equipo de economía de Anthropic publicó un modelo de escenarios económicos relacionados con la IA, centrado en tres guiones: un crecimiento moderado y gradual, una transformación significativa que duplica el PBI, y un escenario extremo donde el crecimiento anual es del 15% pero una gran cantidad de trabajadores del conocimiento pierden su empleo. El modelo considera el trabajo como "paquetes de tareas", analizando los efectos de mejora y sustitución de la IA para diferentes tipos de tareas. Anthropic enfatiza que la imagen económica de 2030 no está definida, y que lo clave es garantizar que los beneficios de la IA se compartan ampliamente.
“La nueva agencia de prensa de la Reserva Federal”: Walsh no tiene margen para no subir las tasas, la confianza en Trump está siendo puesta a prueba.
Nick Timiraos considera que, tras un IPC de agosto mayor al esperado, la probabilidad de que la Reserva Federal suba las tasas esta semana se ha disparado, y la postura dura de Waller frente a la inflación lo ha dejado prácticamente "sin margen de maniobra". Si se suben las tasas siete semanas antes de las elecciones, la decisión de Waller pondrá a prueba directamente cuánto tiempo puede durar la "confianza" que Trump le tiene. Antes, Waller mantenía el equilibrio entre la Casa Blanca y la Reserva Federal con una estrategia de "hablar menos y evitar la confrontación", pero después de esta reunión, el silencio ya no será un escudo.
Precios de las criptos
Más
