1. 研究背景DeepSeek-R1里面有个核心的环节是蒸馏，也就是把大模型的知识蒸馏到小模型里面。知识蒸馏是一种有效的模型压缩技术，能够在保持较高性能的同时，显著减少模型的复杂度和计算需求。但是网上现在关于蒸馏的文章太杂，而且很多观点来源不明确，所以本文以知识蒸馏综述这篇论文为基础，摘取出知识蒸馏的方案，并且把最新的知识蒸馏技术、以及DeepSeek-R1的知识蒸馏做了介绍。本文全面回顾了知识蒸馏的相关研究，从知识类…

美国已经测试出来，原创和蒸馏都有，原创的部分在于把效率提升了45倍，并且小型化，可以放到台式机内不联网运行。蒸馏了部分open ai。 结论是油管上 英国数学教授 非常高兴的 想在 学校里搭建deepseek，利用全学校各系拥有的大概20块H100，做独立项目。被开除的前intel总裁，在自己新设的公司里，搭建自己deepseek讽刺系统。 我也想建一个，可惜没钱 ............. 有条件的，可以上油管看这个视频，里面有完整的证据显示了deeps…

美国已经测试出来，原创和蒸馏都有，原创的部分在于把效率提升了45倍，并且小型化，可以放到台式机内不联网运行。蒸馏了部分open ai。 结论是油管上 英国数学教授 非常高兴的 想在 学校里搭建deepseek，利用全学校各系拥有的大概20块H100，做独立项目。被开除的前intel总裁，在自己新设的公司里，搭建自己deepseek讽刺系统。 我也想建一个，可惜没钱 ............. 有条件的，可以上油管看这个视频，里面有完整的证据显示了deeps…

你可以问问Deepseek r1《凡人修仙传》是谁写的，主要讲了个什么故事，韩立是在多少岁时成为结丹期修士的，韩立有什么外挂。 再把同样的问题问一下chat gpt，然后就知道了。 当然，你也可以问问两者《一世之尊》讲了个什么故事，是谁写的。《遮天》讲了个什么故事，是谁写的，《仙逆》讲了个什么故事，是谁写的。 我可以明确告诉你，chat-gpt基本只是用百科资料喂过，而deepseek是真的把这些网络小说整本整本的喂给了模型。 而且…