而且编得很有道理。普通人不一定分辨得出来。”
安德烈摊开双手。
“人类也这样。”
“尤其是开会的时候。”
旁边几个人没忍住笑出了声。
上午十点,所有核心测试完成。
任少卿拿起专用设备,向中关村理想国际大厦发起加密视频请求。
十几秒后,画面接通。
顾屿刚结束一场业务会议,桌面还放着回音商城的双十一履约报告。
看到视频背景里的测试大厅,他将文件合上。
“出结果了?”
“十五亿参数版本,跑通了。”
任少卿把核心数据调到共享页面。
“训练使用了目前完成清洗的一千零八十亿TOken。张量并行和数据并行运行正常,模型权重已经完成合并。”
“和一亿五千万参数的天问一号相比,通用语料困惑度下降百分之三十七。长文本生成、摘要和翻译能力都有明显提高。”
顾屿看完几项测试结果,问道:“稳定性呢?”
楼天城凑到镜头前。
“连续推理六小时,没有发生节点崩溃。”
“但现在的响应速度不够快。生成五百字平均要十五秒。如果并发用户超过两百,服务器压力会急剧上升。”
“显存利用率也不理想。我还能再压百分之二十左右。”
顾屿点了点头。
这个版本当然算不上成熟产品。
十五亿参数放在后世,甚至塞不满一台消费级显卡。
可现在才是2015年,业内主流仍在围绕循环神经网络反复优化。
九天实验室已经提前摸到了另一条路。
“微光计划的数据怎么样?”
任少卿将数据后台切换出来。
“第一批三千多人已经开始工作,目前每天可以完成八百万条基础任务。质量比纯脚本清洗高很多,尤其是文本分类和事实核对。”
“等后续培训完成,日处理量还能增加。”
顾屿提醒道:“别只盯数量。人工审核、交叉抽检和任务回溯都要保留。”
“标错一条数据不算什么。几十万条同类错误被模型学进去,返工成本会很高。”
“明白,我们已经启用了三层抽检。”
任少卿把一个内网地址发送过去。
“这是刚搭好的演示网站,
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 出品书屋 All Rights Reserved.kk