わずか3KB、C言語で書かれた極小LLM推論エンジン「bytesized」がオープンソース化

バイナリサイズがわずか3,156バイトという、C言語で記述された極小のLLM推論エンジン「bytesized」がオープンソースで公開された。フォーマット変換を行うことなく、SmolLM2-135Mのオリジナルのsafetensors重みを直接読み込んで実行できる。