果蝇语言模型(FLM)将完整果蝇连接组接入冻结的12亿参数LLM,但其自身对照实验显示连接并无帮助
果蝇语言模型(FLM)将果蝇连接组全部166,700个神经元和2560万条边通过token嵌入接入冻结的LFM2.5-1.2B-Instruct主干,仅训练278,528个参数。预印本称相比主干每token提升0.0222 nat,但无图参数匹配对照在每个随机种子中略好。文章拆解了架构、四个对照、每token 0.6内存限制及本地运行MIT许可代码的条件。
说明:本站展示中文整理摘要,便于快速阅读;完整内容和版权归原站所有。