Lección de método

El test que no medía habilidad

Durante dos semanas, el criterio de aceptación "obligatorio" del proyecto puntuaba exactamente igual una señal con un +40 % real por operación que una sin ninguna ventaja.

La pregunta: Si un test rechaza todo lo que se le pone delante, ¿es que no hay nada, o es que el test está roto?

Qué se encontró

El 4 de septiembre de 2026 se declaró "gold standard, obligatorio antes de llamar a nada verificado" un test que comparaba, trimestre a trimestre, la señal contra comprar y mantener. A partir de ahí TODO falló. El diagnóstico se hizo de la forma correcta: inyectando en la serie real de Bitcoin una ventaja genuina y de tamaño conocido, y midiendo con el motor real del proyecto. La tasa de victorias del test era PLANA en alpha: 42,1 % con una ventaja de cero y 42,1 % con una ventaja del 40 % por operación. El test medía exposición al mercado, no habilidad. Una señal que está dentro del mercado un 35 % de los días pierde la mayoría de trimestres contra un comprar y mantener invertido al 100 %, por construcción, en un activo con deriva positiva.

35.253.171.089.0106.90%5%10%20%40%ventaja real inyectada por operaciónTest de placebo (el que sí funciona)Wilcoxon trimestral (el retirado)
Se inyecta en la serie real una ventaja de tamaño conocido y se mide con los dos tests. El bueno sube con la ventaja; el retirado es una línea plana — puntúa igual un +40 % real que un cero.analysis/scripts/diagnose_methodology_2026-09-07.py

Pruébalo tú mismo

Por qué el test estaba condenado: una señal que sólo está dentro del mercado parte del tiempo se compara contra una que está siempre dentro, en un activo que sube. Mueve la exposición.

Diferencia contra comprar y mantener = Deriva × Exposición − Deriva
Diferencia anual, con CERO habilidad

Ventaja por unidad de exposición sólo para empatar (%):

Con una exposición del 35 % y una deriva del 45 % anual, la señal empieza casi 30 puntos por detrás antes de acertar una sola vez. Ese es el agujero por el que se colaron dos semanas de rechazos.

Números de ejemplo para practicar — no son datos reales.

Cómo se probó, paso a paso

  1. El diagnóstico correcto de un test es inyectarle una señal cuya ventaja se conoce, porque uno la ha puesto ahí, y comprobar si la ve. Un test que no ve una ventaja real no vale, por elegante que sea su estadística.
  2. El test de placebo del proyecto SÍ se comportaba bien: pasaba de 0,52 sin ventaja a 0,95 con una del 10 %. Cuando los dos tests discreparon, se adoptó el que no funciona. Los vaivenes de aquellos días —una señal recuperada, rechazada y recuperada en 24 horas— eran el síntoma.
  3. El criterio nuevo tiene tres niveles, y ninguno se salta: contenido de información (¿la señal sabe algo?, con nulo emparejado y coeficiente de información sobre el panel completo), valor económico (¿mejora el Sharpe a EXPOSICIÓN IGUALADA, con costes?) y robustez (tramo reservado, sensibilidad a parámetros, y un placebo de la propia hipótesis).
  4. El test retirado se conserva, pero degradado: sigue calculándose como métrica descriptiva de "¿cuánto beta sacrifica esto?", y se NIEGA a emitir veredicto.
Qué NO dice esto. La honestidad completa exige contar la otra mitad: al re-juzgar con el criterio nuevo los 28 candidatos que había matado el test retirado, 7 sobreviven la exploración y CERO sobreviven el tramo reservado. Es decir, los rechazos anteriores se hicieron con el test equivocado, y aun así llegaban al mismo sitio. Lo que cambia no es la lista de supervivientes: es que ahora se sabe cuáles eran nulos y cuáles simplemente no eran juzgables. Y hubo un segundo error del mismo tipo, detectado a mitad de camino en el propio criterio nuevo: la primera versión comparaba el tilt contra una base constante de 1,0, lo que PREMIA beta —la imagen especular del sesgo que hundía al test retirado—. Con esa versión "sobrevivían" 7 candidatos. Corregida a base de exposición igualada, ninguno.

Seguimiento

Este hallazgo no tiene un número en vivo: se midió sobre datos archivados y publicar un gráfico aquí daría a entender un seguimiento continuo que no existe. Las cifras están arriba, con el script que las produjo.

← Toda la investigación