DeepSeek发布Prover

内容摘要4月30日下午消息,DeepSeek今日于AI开源社区Hugging Face上发布了一个名为DeepSeek-Prover-V2-671B的新模型。据悉,DeepSeek-Prover-V2-671B 使用了更高效的 safetensor

4月30日下午消息,DeepSeek今日于AI开源社区Hugging Face上发布了一个名为DeepSeek-Prover-V2-671B的新模型。

据悉,DeepSeek-Prover-V2-671B 使用了更高效的 safetensors文件格式,并支持多种计算精度,方便模型更快、更省资源地训练和部署,参数达6710亿,或为去年发布的Prover-V1.5数学模型升级版本。

在模型架构上,该模型使用了DeepSeek-V3架构,采用MoE(混合专家)模式,具有61层Transformer层,7168维隐藏层。同时支持超长上下文,最大位置嵌入达163840,使其能处理复杂的数学证明,并且采用了FP8量化,可通过量化技术减小模型大小,提高推理效率。

 
举报 收藏 打赏 评论 0
24小时热闻
今日推荐
友情链接:  生意多  |  立体车库网  |  机电网  |  电商信息网  |  环球信息网  |  电工网  |  优秀信息网  |  B2B  |  商路通  |  商途网  |  花卉网 天天商务网  |  易修网  |  直通车信息网  |  B2B  |  商务网  |  信息网  |  114  |  B2B  |  商路通  |  商途网  |  防雷网 每天发布网  |  我的航运网  |  转让系统  |  力之信息网
浙ICP备19001410号-1