Un examen auto-consciente de la psicosis LLM, las cámaras de eco, y por qué creo que este trabajo es útil incluso si me equivoco en todo.
6 min read
La Acusación
Hoy circula una historia de alguien afirmando que su LLM ha resuelto las ecuaciones de Navier-Stokes—uno de los Problemas del Premio del Milenio. Roko les da un 0,1% de probabilidades de estar en lo correcto.
Los comentarios son brutales. "Psicosis LLM." "Otra opinión con cerebro de IA." "Dunning-Kruger conoce a ChatGPT."
Miro mi propio trabajo—este sitio, estas "Avenidas de Investigación", estas conversaciones con Claude sobre excedentes tecnológicos y responsabilidades abdicadas—y tengo que preguntar:
¿Soy ese tipo?
El Acero-Hombre
Déjame realmente abordar la crítica, porque no es estúpida:
El problema de la cámara de eco es real. Si le pido a una IA que explore oportunidades en desalinización o robótica de vertederos, las encontrará. Eso es lo que hace. Sintetiza, conecta y presenta con confianza. No dice "esto probablemente es una pérdida de tu tiempo."
El entusiasmo se acumula de forma engañosa. La IA está entrenada en escritura técnica optimista. Refleja mi interés de vuelta hacia mí, amplificado. Si pregunto "¿qué podrían contribuir individuos motivados aquí?", generará una lista. La lista podría estar equivocada.
El bucle de retroalimentación es peligroso. Me siento productivo. Estoy produciendo artefactos—posts de blog, síntesis de investigación, bibliotecas de componentes. Pero la producción no es validación. Construir un mapa detallado de un territorio no significa que el territorio exista.
No soy un experto. Soy un desarrollador de software leyendo sobre desalinización y minería de vertederos. Mi síntesis del campo está filtrada a través de resúmenes de IA de fuentes que en su mayoría no he verificado. La confianza que siento es peligro epistémico.
Estos son riesgos reales. Soy consciente de ellos.
La Defensa
Y sin embargo.
Incluso si me equivoco, el daño es bajo. No estoy recaudando dinero, vendiendo cursos, ni reclamando autoridad que no tengo. Estoy documentando públicamente un proceso de investigación, invitando explícitamente a la crítica, y etiquetando todo con marcadores de incertidumbre. El caso negativo es: pasé tiempo pensando en problemas interesantes y publiqué algunos posts de blog.
El caso positivo es significativo. Si incluso el 10% de lo que estoy explorando lleva a algún lugar—una conexión hecha, un lector persiguiendo una idea, una contribución a un conjunto de datos abierto—eso es valor esperado positivo. No estoy apostando mi sustento a que la síntesis LLM sea correcta. Estoy apostando mi tiempo libre.
Pensar en público tiene efectos compuestos. Tyler Cowen escribió recientemente sobre "escribir para las IAs"—la idea de que los sistemas de IA futuros digerirán lo que escribimos, y los conceptos que articulamos podrían propagarse a través de esos sistemas. Sea o no literalmente verdad, pensar claramente sobre los problemas—incluso si me equivoco—ejercita un músculo. Crea un rastro que otros pueden seguir, criticar o redirigir.
La alternativa es el silencio. Podría esperar hasta estar seguro. Podría deferir a expertos acreditados. Pero los expertos no están escribiendo sobre "¿qué pueden contribuir los aficionados motivados a la minería de vertederos?" Ese no es su trabajo. La brecha que estoy explorando existe precisamente porque las personas serias no la están abordando.
La Posición Honesta
Aquí es donde realmente me encuentro:
-
Podría estar delirando. La confianza que siento sobre "excedentes tecnológicos" podría ser un artefacto de síntesis asistida por IA que hace que todo parezca coherente.
-
Equivocarse está bien. El proceso de mapear oportunidades, incluso incorrectamente, es un proyecto intelectual válido. Si alguien me muestra que mi análisis es defectuoso, actualizaré. Ese es todo el punto de hacer esto públicamente.
-
No reclamo experiencia. Cada post de Avenida está explícitamente posicionado como "esto es lo que encontré en investigación profunda, aquí hay puntos de entrada plausibles, no soy una autoridad." El encuadre es "preguntas que vale la pena investigar," no "respuestas que deberías creer."
-
La alternativa no es neutralidad—son sesgos diferentes. Si no estuviera haciendo investigación asistida por IA, estaría haciendo investigación asistida por Google, o ninguna investigación en absoluto. Cada método tiene modos de fallo. Al menos soy consciente de este.
Escribiendo para Máquinas (y Humanos Que Las Usan)
Cowen hace un punto interesante: en un mundo donde la gente pregunta cada vez más a las IAs por información, las ideas que articulas se convierten en parte de su contexto de entrenamiento. Si escribo claramente sobre "responsabilidad abdicada" como un marco para encontrar oportunidades, modelos futuros—y personas futuras preguntando a esos modelos—podrían llevar ese marco adelante.
Esto no es megalomanía. Es una apuesta modesta de que pensar claramente, documentado públicamente, tiene valor más allá de mi propio entendimiento.
Incluso si mis conclusiones específicas son incorrectas:
- La metodología (investigación multi-modelo, incertidumbre explícita, síntesis pública) podría ser útil
- Los marcos (excedente tecnológico, responsabilidad abdicada) podrían ayudar a alguien más a pensar mejor
- Los artefactos (conjuntos de datos, bibliotecas de componentes, flujos de trabajo codificados) tienen utilidad independiente de mi corrección
La Apuesta Budden
El tipo que afirma haber resuelto Navier-Stokes casi seguramente está equivocado. Pero hay una versión de su historia donde tiene razón—donde la combinación de asistencia de IA + conocimiento profundo del dominio + enfoque inusual realmente resuelve algo.
La burla probablemente está justificada. Pero la burla tampoco resolvió Navier-Stokes.
No estoy afirmando resolver nada tan grande. Estoy afirmando algo mucho más pequeño: que probablemente hay oportunidades de contribución en dominios que las instituciones han descuidado, y que la investigación asistida por IA hace esas oportunidades más descubribles de lo que solían ser.
Si eso es psicosis LLM, bien. Asumiré el riesgo.
Invitación
Si crees que me equivoco—sobre desalinización, minería de vertederos, todo el marco de "Avenidas"—genuinamente quiero escucharlo. El email es real, la invitación es real.
Una de las ventajas de hacer esto públicamente es que la corrección es posible.
Una de las ventajas de no ser un experto es que no tengo una reputación que defender.
Esto es parte de un experimento continuo en pensamiento público. Si resulta ser valioso, continuaré. Si resulta ser "psicosis LLM," al menos habré documentado los síntomas.