NVIDIA представила Nemotron-Cascade 2, передовую модель Mixture-of-Experts (MoE) на 30B с 3B активных параметров. Эта модель разработана для максимизации 'плотности интеллекта', обеспечивая превосходные способности рассуждения при использовании меньшего количества параметров, чем у ведущих моделей. Примечательно, что Nemotron-Cascade 2 стала второй моделью открытого веса, достигнувшей результатов уровня золотой медали на престижных соревнованиях, таких как Международная олимпиада по математике 2025 года.
Модель превосходит в определенных областях, особенно в математическом рассуждении и программировании, опережая таких конкурентов, как Qwen3.5-35B-A3B. В математическом рассуждении она достигла оценок 92.4 и 94.6 на ключевых тестах, обойдя своих соперников. Ее производительность в программировании также выделяется, лидируя в бенчмарках, таких как LiveCodeBench.
Архитектура модели включает передовые методы, такие как каскадное обучение с подкреплением, что повышает ее эффективность обучения. С двумя операционными режимами она может участвовать в глубоком рассуждении или предоставлять быстрые ответы, что делает ее универсальной для различных задач. В целом, Nemotron-Cascade 2 демонстрирует, что высокоуровневое рассуждение может быть достигнуто на уменьшенной шкале с помощью целевых стратегий обучения.