石门中学本土化部署 DeepSeek 671B 完整版,大模型将如何改变教学?
发布时间:
2025-02-23 00:05
阅读量:
0
从各平台媒体上收集新闻,基本形成了一个轮廓,就是一个本科毕业三年的人在2月13日花十万注册这家公司后与石门中学达成合作,用八张N卡跑671b模型(根本跑不动无量化的别想了),甚至N卡有没有A100都难说。至于所谓的教育平台,实际上就是chatbox这一开源软件。至此,还希望羊城,南方+等南粤主流媒体能进一步关注石门中学在智慧教育中的下一步!
分割线
671b无量化,16张华为910B或者A100起步,大约240万元,但这个并发数大概六七十,总tokens 1500t/s,大概率不够中学的师生使用,所以推测服务器总投资400万以上。
石门中学虽然是广东省内是著名中学,成绩非常好,但他首先是一个区属公立中学,用的是财政拨款,那么我很好奇这笔几百万砸进去,效果还不如付费API+软件服务的投资,钱是谁出的呢?
来自deepseek的回答
其他报道,八卡是不够部署671B的,而公司是2月13日花了10万注册成立的。
进一步收集信息,是n卡
用的是chatbox
用的是chatbox,没有RAG,八卡不可能做微调,甚至跑的是都是最低量化版本,我真不知道一个公司2月13日成立,18年高考本科毕业三年的CEO想搞什么大新闻?
END