Тернарные нейронные сети на C#

Тенденция к квантизации в нейронных сетях может вскоре измениться с появлением моделей, использующих тернарную логику. В этой статье рассматриваются различные форматы обучения, от FP32 до FP4, и анализируется потенциал этих новых моделей. Мы также создадим версию модели Microsoft Bitnet 1.58 на C#, которая будет компактной, достигая размера до 17,1 КБ в своем экстремальном варианте. Это исследование направлено на выявление преимуществ и сложностей внедрения тернарной логики в нейронные сети, открывая путь к более эффективным и мощным ИИ-системам.