弾力的深度リカレントLLM「Dory1.0-4B」がリリース、チェックポイントをオープンソース化

研究チームは、40億パラメータの弾力的深度リカレント大規模言語モデル「Dory1.0-4B」をオープンソース化し、チェックポイントを公開した。単一のチェックポイントでありながら、推論時に共有モジュールのループ回数を調整することで、さまざまな計算リソースバジェットに柔軟に適応させることができる。