第4章 小试牛刀
不知道自己还没入职，就已经在先进智能研究院吸引了很多人关注的牛剑此刻正火急火燎的往出租屋里赶。
临近三月，魔都的天气虽然已经开始转暖，但突如其来的一场小雨，依然是把牛剑淋了个透心凉，心飞扬。
的确是心飞扬，因为他的怀里正抱着刚取回来的快递。
那正是他网购的硬盘，只要将其插到笔记本电脑里，就能使用金手指把Deepseek的模型导出来了。
“这科技发展缓慢的坏处也不少啊，才1TB固态，居然要将近900块钱，贵的也太离谱了。”
牛剑小心翼翼的拧上M2的固定螺丝，然后合上后盖，打开了电脑。
操作系统早就重装过一遍，部署人工智能所需的编译器也早就在下载好了。
至于那种傻瓜式的部署工具，在这个生成式人工智能还处在萌芽阶段的时代，那些曾经耳熟能详的软件如今还都在娘胎里呢。
【确认部署】
在牛剑唤出金手指，把手放到笔记本电脑上后，一个进度条便直接出现在了屏幕上，没过一会，进度条便走满了。
一个文件夹出现在牛剑打开的磁盘目录中，毫无疑问，这就是系统的奖励，Deepseek R1大模型了。
牛剑兴奋的握住鼠标，双击打开，然后顿时亚麻呆住了。
“卧……卧槽！”
“连蒸馏版本都有，而且还给部署工具的源码了，简直是保姆式服务啊！”
怪不得牛剑如此震惊，金手指的贴心之处远超他的想象。
整个文件夹下除了671b_BaseModel这个全量模型子文件夹外，还包含了好几个不同名字的文件夹。
70b_Distill_Llama，32b_Distill_Qwen……
参数最少的模型甚至是连显存只有4GB的甜点级民用显卡都能畅跑的1.5B模型，这玩意之前甚至被不少人戏称为能部署在单片机上的‘大’模型。
当然，参数越少的模型也越智障，论文里的20%的性能差距反映到实际使用上，那就是能被人类清晰感知到的巨大差别。
但参数再少的大模型也是生成式人工智能，跟现在主流的单一功能神经网络相比，拥有连续对话能力的它完全是降维一般的打击。
翻译，逻辑理解，生成代码……
只要问题不那么复杂，那么这个蒸馏出来的精简版模型完全能够给出使用者一个满意的答案。
将部署工具的源码编译成可执行文件，牛剑根本没看操作手册，无比熟练的将这个1.5B模型部署到了电脑上。
至于为什么不测试参数量更多的7B模型，他也是有些无奈。
毕竟这个笔记本的显卡还是一代神卡GT610M的马甲-GT710M，显存也不是疯牛版的4GB，只有可怜的1G。
要不是有两根4G的内存条打底，恐怕牛剑连使用CPU硬算的取巧方式都做不到。
部署完成之后，牛剑打开ChatBox，将其链接到已启动的本地模型之上。
看着不断跳动的光标，牛剑思索了一下，问出了自己的第一个问题。
‘写一个C++的插入排序示例。’
……
……
……
半分钟过去了，界面上毫无反应，要不是电脑的风扇转的都快冒烟了，牛剑都要以为是不是自己部署出了问题。
终于，在经过三分钟的推理延迟后，界面上终于出现了‘Thinking’的字样，这代表着大模型正式开始了思维链的构建。
不过紧接着的是更加绵延不绝的折磨，由于ddr3内存的坑爹速度，以及那颗弱鸡CPU的糟糕计算性能，整个大模型的计算速度甚至被拖累到不足0.1tokens每秒。
换而言之，要十几秒将近二十钟才能蹦出来一个字符，整个推理过程宛如便秘一般，比旧时代老太太的裹脚布还要绵延不绝。
大致估算了一下时间，牛剑发现等大模型推理完成，恐怕今天上午就过去了，而正式结果输出，更是要等到下午去了。
‘之前还想着加速再加速，用超越时代的大模型给国内经济助力一把。’
‘现在看来，这个想法还是有些天真了，制约AI发展的不只是算法，更多的还是算力啊！’
如今牛剑用的还是效率比CLOSEAI高得多的Deepseek，可看如此情况，要想把完整的模型拿出来。
恐怕还要等半导体技术突破，更强的显卡出来之后才有可行性。
‘不过这一次就不用全部仰仗黄伟达，呆积电，阿斯麦尔的鼻息了，只要用好金手指，我自己就能把全套工作给做了。’
‘高端显卡，先进制程，光刻机，我势必要让华夏在每一个领域都把这群毫无道义可言的家伙揍得满地找牙！’
检查了笔记本的电源插没插好后，牛剑便离开书桌，准备提前把中午饭给做了。
就在这时，一旁的诺基亚忽然响起了经典铃声。
“小牛啊，魔都的天气还算适应吧。”
居然是之前面试他的杨主任，他的声音裹挟着打印机轰鸣，看样子似乎是在准备什么材料。
面对突如其来的关心，牛剑有些猝不及防，不过经历过社会毒打的他很快便反应过来。
“还可以，我之前在苏州上学的时候天气跟这里差不多，倒是杨主任您可要多注意保暖啊，今天下了雨，气温又降低了。”
“哈哈哈哈，谢谢小牛关心了。”电话里杨主任笑得极为开心，似乎对牛剑的这句关怀很是受用。
“我这次打电话过来，主要是想了解一下你的家庭情况。”
“小牛啊，你现在生活，有没有什么困难的地方啊，要是有，尽管说，组织会给你提供帮助的！”
面对杨主任几乎掩盖不住的话中话，牛剑变得有些沉默。
他很清楚，即便是道德水平变得如此之高的现在，贵为领导的他也不可能给每个入职的人都打上一通电话。
毫无疑问，对方应该是通过审查查到了什么，所以才跑过来关心自己。
既然如此，那牛剑也没什么藏着掖着的必要了。
“说实话，杨主任，我的妈妈因为之前供我上学太累，得了病，现在……”
牛剑把自己目前生活上的处境娓娓道来，杨文峰听得极为仔细，时不时插嘴问上一两句，听到牛剑母亲的病情还算稳定之后才舒了一口气。
“好的，小牛，你的情况我已经了解了。”
杨文锋在电话里的声音很温和，跟他之前面试牛剑时的直来直往截然不同。
“这样吧，等你到单位正式入职了，我会组织领导干部对你进行一次定向援助。”
“放心，一定会保密你的身份，不会影响你的日常工作。”
“还有，中心之前在制定安家费政策的时候给硕士也开了个口子，虽然你是以科研助理岗进来的，我也给你批上，而且往最高了打。”
“这笔钱估计有20万，应该能涵盖你妈妈的手术费用了。”