本地化部署AI-Qwen3.6-35B
引言 因为最近AI消耗太大了,钱包有点hold不住了,所以考虑本地化部署一套AI,如果纯血的QWen3.6-35B,我的电脑肯定是带不动的,最近看到了一个方案,是一种MoE(混合专家模型)方案。 本机…
只保存在这台浏览器里,下次打开还会记得。
正在统计…
「AI」分类下的全部文章。
目前正在尝试迁移博客到新的平台,历史收录受到影响敬请谅解。
引言 因为最近AI消耗太大了,钱包有点hold不住了,所以考虑本地化部署一套AI,如果纯血的QWen3.6-35B,我的电脑肯定是带不动的,最近看到了一个方案,是一种MoE(混合专家模型)方案。 本机…
声明:博主正在学习,文章中的内容基本上是学习后的总结和感悟,如有不严谨或错误的地方,敬请指出。 三种范式解释 pointwise pointwise顾名思义,它是单一输入的候选回答,针对这一回答进行分…
前期准备 - LM Studio - 外网梯子或者镜像站(文中会写) - 有GPU机器 下载LM Studio 从官网上下载LM Studio https://lmstudio.ai/ 下载模型 这个…