La percepción de los modelos de lenguaje de gran tamaño (LLMs) como 'cajas negras' es común; los usuarios ingresan solicitudes y reciben respuestas, a menudo confiando en ajustes de fine-tuning o LoRA para mejoras. Sin embargo, hemos tomado un enfoque diferente. En un artículo anterior, demostré cómo las firmas Schnorr/MuSig2 pueden descomponerse en invariantes afines estrictos, tratándolas como un marco matemático en lugar de un enigma. En este nuevo trabajo, hemos avanzado esta metodología integrándola en una red neuronal.
Nuestra estrategia consistió en utilizar una distribución local de MLX: gpt-oss-20b-TurboQuant-MLX-8bit, sin volver a entrenarla. En su lugar, profundizamos en los .safetensors a nivel de códigos cuantificados, creamos un caché de calibración determinista y extrajimos activaciones BF16 reales de capas específicas. Reducimos la tarea a una optimización entera local de pesos cuantificados, implementamos un parche seguro directamente en el modelo e incorporamos un chequeo de humo para verificar que nuestros cálculos matemáticos se alineen con el tiempo de ejecución real de MLX.
El resultado es un pipeline donde la capa cuantificada es observable, su comportamiento medible y puede ajustarse localmente. Lo más importante es que podemos confirmar que el entorno de ejecución no nos engaña. Por ejemplo, con router.weight, logramos casi una transferencia completa de mejoras al conjunto de retención, mientras que para q_proj, el sistema demostró claramente que un parche sin un estándar externo no tiene sentido. Este hallazgo podría resultar aún más significativo.