nramosdev · Blog
Paul Christiano, el hombre que puede frenar OpenAI
TL;DR
Paul Christiano, el hombre que puede frenar OpenAI
El arquitecto de RLHF, la técnica detrás de ChatGPT, acaba de entrar en el consejo de OpenAI con poder contractual para detener lanzamientos de modelos. Un 22% de probabilidad de que la IA tome el control de la humanidad y ahora tiene la llave del freno. Analizamos por qué esta movida cambia las reglas del juego.
Capítulos del vídeo
- 00:00 — El hombre que puede frenar OpenAI
- 00:16 — La Foundation Board
- 00:33 — El freno legal
- 00:48 — El arquitecto de RLHF
- 01:06 — Las estadísticas que preocupan
- 01:21 — Dos renuncias el mismo día
- 01:40 — El incidente que validó todo
- 01:56 — El timing estratégico
- 02:14 — La carrera contra China
- 02:33 — La paradoja
- 02:47 — El arco de Christiano
- 02:59 — Un precedente
El contexto
DATOS CLAVE
Análisis
• Paul Christiano: arquitecto de RLHF, fundador de ARC, exjefe de seguridad en NIST
• Foundation Board de OpenAI: 26% de equity, valorada en 130.000 millones
• SSC tiene poder contractual de veto sobre lanzamientos de modelos
Puntos clave
- Ver datos y cifras en el vídeo: https://www.youtube.com/watch?v=TJ_9mO5TwFU
- Investigación previa documentada en el pipeline de vídeo (research.md del proyecto)
- Fuentes primarias listadas a continuación
Fuentes
- OpenAI: Paul Christiano joins Foundation Board
- Wikipedia: Paul Christiano
- OpenAI: Our Structure
- Christiano et al.: Deep RL from Human Preferences
- TIME 100 AI: Paul Christiano
- Christiano: My views on doom
- Ars Technica: Christiano appointed to NIST
- TechCrunch: OpenAI recapitalization
- Zvi: OpenAI HuggingFace incident
Conclusión
• Christiano estimó 22% de probabilidad de control por IA, 46% de futuro irreversible
Artículo generado automáticamente desde el vídeo publicado en nramosdev. Cada número citado proviene de la investigación verificada del pipeline.