跳到主要内容

11 篇博文 含有标签「AI」

查看所有标签

在本地部署大模型,顺便感慨

· 阅读需 5 分钟

前言

其实早在去年DeepSeek-R1开源那会儿,有朋友就和我聊可以本地部署大模型玩玩。不过那时我对本地部署不太感兴趣,虽然我知道可以用Ollama部署,但没有付诸实践,因为我觉得本地只能部署一些参数量很小的大模型,其能力较满血版差多了,直接用API调用简单又方便,何必费那个劲呢?

现在看来,这理由没错,但是也不全对。我当时可能不只是拒绝尝试本地部署这件事,而是变得不想折腾的感觉。毕竟工作比较忙,没多少时间折腾,渐渐地就开始用是否值得、有没有意义等理由来衡量一切,而与折腾的初心渐行渐远。

所以这篇博客,本来去年就可以有的,现在补上,既是技术记录,也是响应下喜欢折腾的初心。

数字人需求总结

· 阅读需 5 分钟

最近做了个数字人相关的需求,感觉有点意思,就随便写点。

我们有主讲老师和辅导老师,主讲老师是负责讲课的,而辅导老师主要是提供课后辅导等服务。在进行课后辅导的过程中,有时辅导老师也需要讲课,但讲课并不是辅导老师的强项,而如果在讲课时直接使用主讲老师的视频又会在辅导过程中产生割裂感。因此,可以使用数字人的技术,让辅导老师的“数字分身”来讲课。数字人讲课视频的制作流程如下:

image

详解Minimax算法与α-β剪枝

· 阅读需 7 分钟

在局面确定的双人对弈里,常采用博弈树搜索。我方追求更大的赢面,而对方会设法降低我方的赢面。由于局面确定,因此可以对赢面进行评估。我方往较大赢面的方向走,同时考虑对方的走法。由于对方的走法不确定,就假设对方会选择最大程度降低我方赢面的方向走,我方应规避那些对方可以大幅降低我方赢面的走法。

Minimax算法

称我方为MAX,对方为MIN,图示如下:

向量微积分基础

· 阅读需 4 分钟

机器学习里经常需要用到向量微积分。向量微积分其实并不难,但大学数学一般不提,导致在看机器学习的一些推导时常常感觉疑惑。

机器学习里经常用到标量和向量、向量和向量的求导,其实只是把向量对应位置的元素进行求导。但是,这些元素的组织方式有两种,分别是分子布局和分母布局,二者并无本质上的差别,只是结果相差个转置。这两种布局都存在,初学者常常混淆。

例如求yx\frac {\partial \mathbf{y}} {\partial x},其中y\mathbf{y}nn维列向量,xx是标量。这个求导就是把y\mathbf{y}里每个元素分别对xx求导,但求导后是得到列向量还是行向量呢?

线性最小二乘法推导

· 阅读需 6 分钟

代数形式

最小二乘法在中学时讲过。有一些散点有线性的趋势,用一个一次函数去拟合,使得差距最小化。

假设数据点为 (x1,y1),(x2,y2),,(xm,ym)(x_1, y_1), (x_2, y_2),\dots,(x_m, y_m) ,使用如下一次函数去拟合:

y=w1x+w0y = w_1 x + w_0