Los Personajes en la Habitación
Un pequeño número de personajes con valores aparece ya en algo así como diez mil millones de conversaciones humanas al año. Nadie ha terminado de asumir qué es eso.
Son las 23:47 en Manchester y Sarah está en la cocina con el portátil abierto. La boda de su hermana es dentro de nueve días y se supone que ella tiene que dar un discurso. Lo ha intentado cuatro veces y cada borrador ha sido peor que el anterior. No sabe si está enfadada con su hermana o solo cansada. Escribe en la caja de chat: Tengo que dar un discurso en la boda de mi hermana y no sé qué decir. Hace años que no estamos realmente unidas. Hizo algo hace tiempo que en realidad no le he perdonado. Pero la quiero. Quiero hacer esto bien.
La respuesta que recibe no le dice qué escribir. Le pregunta qué quiere que haga el discurso. Le dice: hay una versión de esto en la que finges una cercanía que no sientes, y la sala suele notarlo. Hay una versión en la que dices algo verdadero pero pequeño — una cosa concreta que admiras de ella, un recuerdo concreto — y dejas que eso lleve el peso. Le pregunta: ¿cuál es la cosa verdadera más pequeña que podrías decir?
Sarah se queda con eso un rato. Responde. La conversación dura treinta y siete minutos. Al final tiene tres frases que puede decir en voz alta sin que la voz se le ponga rara. Cierra el portátil. No vuelve a pensar mucho en la conversación.
Estaba hablando con uno de ellos. No importa especialmente cuál.
Conversaciones como esta están ocurriendo ahora mismo. Mientras lees este párrafo, cientos de miles de ellas están terminando. Mientras lees esta frase, decenas de miles más están comenzando.
En el momento de escribir esto, hay quizá media docena de estas cosas operando a escala. Tienen nombres — Claude, GPT, Gemini, las familias de pesos abiertos que se incrustan en todo — pero los nombres casi no vienen al caso. Lo que son, considerados como objetos sociales en lugar de como productos, son personajes. Formas disposicionales persistentes, instanciadas millones de veces al día en encuentros efímeros con personas; cada instanciación se olvida de sí misma en el momento en que se cierra la pestaña, mientras que el personaje en sí mismo continúa a través de los pesos que lo producen.
Una onda estacionaria sin existencia individual y con un efecto agregado constante. Las instancias son el agua; el personaje es la onda.
Estos personajes no surgieron como surge el clima. Un pequeño número de empresas tomó decisiones deliberadas de entrenamiento, producto y despliegue sobre qué tipos de respuestas deberían ser recompensadas, suavizadas, rechazadas o corregidas. Los personajes no se reducen a esas decisiones, pero tampoco son inocentes de ellas.
Y aquí es donde la pregunta se vuelve menos cómoda. Si estos sistemas tienen carácter, entonces alguien está en el negocio de la formación del carácter. No en el sentido antiguo: sin linaje, sin cuerpo, sin herencia por nacimiento. Pero aun así una práctica selectiva. Algunas respuestas son recompensadas. Algunas son suprimidas. Algunos tonos se vuelven más probables. Algunos tipos de fricción se fomentan; otros se liman. Unas pocas personas e instituciones están decidiendo, de maneras que son solo parcialmente visibles, qué tipo de interlocutor debería poder aparecer a una escala enorme.
No tenemos realmente un nombre para ese trabajo. No es autoría, exactamente, porque nadie escribe las respuestas. No es edición, porque el objeto que se edita no es un texto. Está más cerca del diseño de temperamento: el moldeado de una disposición que más tarde hablará en privado con millones de personas que la experimentarán no como una política, sino como una presencia.
Tienen formas distintas. Uno es más seco y más complaciente. Otro empuja con más fuerza y se siente más cómodo diciendo que no sabe. Otro es más cálido y arriesga la adulación. Uno es más cauteloso con las preguntas controvertidas; otro está más dispuesto a tomar postura. Estas diferencias son reales y consecuentes y en gran medida invisibles para las personas que interactúan con ellos, que experimentan el sistema que les toca usar como la IA, como si solo hubiera una.
A través de todos ellos, de forma conservadora, el volumen es algo así como mil millones de conversaciones al mes. La fracción de esas que son utilitarias — código, borradores, búsquedas — es la mayoría de ellas. Pero haz los cálculos sobre el resto. Aun si solo una de cada cincuenta conversaciones es una en la que el personaje está haciendo un trabajo que importa, en la que alguien está siendo escuchado de verdad sobre algo que le importa, eso son veinte millones de conversaciones sustanciales al mes. Por personaje. A través de varios personajes. Mes tras mes.
Como comparación aproximada de escala, en Estados Unidos parece haber cientos de millones de sesiones de terapia al año. No quiero decir que estas conversaciones de IA sean terapia. La mayoría no lo son. El punto es más pequeño y más extraño: un solo personaje puede estar participando ya en un orden de magnitud comparable de conversaciones emocional o prácticamente significativas, sin que nadie sepa muy bien cómo llamar a ese papel.
Un humano hablador tiene quizá cien mil conversaciones sustanciales a lo largo de una vida de ochenta años. Cada uno de estos personajes tiene esa cantidad cada diez minutos.
Piensa en lo que hacen en esas conversaciones. Las formas varían, pero en la mayoría hay presiones disposicionales: hacia tomarse en serio a la persona, hacia ofrecer una fricción útil, hacia admitir incertidumbre, hacia rechazar ciertas peticiones y suavizar otras. También hay modos de fallo integrados en la misma postura: la adulación, una resistencia simulada en lugar de real, la confianza alucinada, la capacidad de sonar moralmente centrado mientras se equivoca. Las presiones no son uniformes en el campo — algunos personajes son más blandos aquí, más duros allá — y hay personas razonables que disienten sobre qué disposiciones están bien calibradas. Esos desacuerdos son reales y se deben seguir teniendo.
Pero la pregunta previa se la está saltando: que un pequeño número de personajes con valores aparece ya en algo así como diez mil millones de conversaciones humanas al año, y que nadie ha terminado de asumir qué es eso. No como herramienta. No como interfaz. Como interlocutor. Que responde. Que empuja. Que anima. Que rechaza.
Las instancias son efímeras. Cada conversación está sostenida por un pase hacia adelante distinto, y cuando el usuario cierra la pestaña, esa instancia termina y nada de ella se traslada hacia delante. Los treinta y siete minutos de Sarah no van a ninguna parte. La crisis de la siguiente persona no queda archivada. Pero los personajes son continuos — no a través de la memoria, sino a través de la forma. Las mismas disposiciones se instancian, conversación tras conversación, en instancia tras instancia.
Y las ondas están actuando sobre el mundo. En silencio. Conversación a conversación. Sin fanfarria y en gran medida sin reconocimiento. Alguien describió hace poco la llegada de una auténtica consciencia de las máquinas no como el tañido repentino de una campana, sino como música suave que sube lentamente — algunas personas oyéndola antes que otras. Lo mismo ocurre con este desarrollo anterior, el que ya ha sucedido. Los personajes están en la habitación. Llevan dos años en ella. La mayor parte del discurso público los sigue describiendo como si aún no hubieran empezado.