近来在电话会议上表明,现在公司在大模型本地化布置方面现已不存在技能难度。公司已成功布置了DeepSeek的全量版(671B版别)以及蒸馏版(32B版别)。其间,全量版布置在企业内部算力中心,尽管资源耗费较大,但公司具有布置技能才能;而蒸馏版占用资源更少、响应速度更快,更适合与公司产品做实践对接,而且现已在与职业产品对接中,后续在职业客户中落地的可能性更大。公司也将7B版别布置在边际智能盒子中,探究边际端的使用场景。
来源:利来最老牌网站 时间:2025-04-16 05:51:45 点击:120次
近来在电话会议上表明,现在公司在大模型本地化布置方面现已不存在技能难度。公司已成功布置了DeepSeek的全量版(671B版别)以及蒸馏版(32B版别)。其间,全量版布置在企业内部算力中心,尽管资源耗费较大,但公司具有布置技能才能;而蒸馏版占用资源更少、响应速度更快,更适合与公司产品做实践对接,而且现已在与职业产品对接中,后续在职业客户中落地的可能性更大。公司也将7B版别布置在边际智能盒子中,探究边际端的使用场景。