AI · NLP · ML · Engineering

Practical AI Notes, Systems, and Engineering

围绕 NLP、LLM、机器学习与工程实践,持续沉淀值得复用的方法、系统设计、实验记录与项目思考。

Focus NLP / LLM / ML
Style Notes · Practice · Systems
Content Articles · Experiments · Engineering
Latest Posts

Trick

«««< HEAD layout: post title: “深度学习trick” subtitle: “ "trick"” date: 2022-09-08 18:00:00 mathjax: true author: “zwt” header-img: “img...

搜索排序

"搜索排序"

分类 参考 分类 pointWise 1 对排序列表中的每一项直接学习一个分值,然后按照相应的分值进行排序。常见的模型有LR、FM、XGB、GBDT。 pairWise 1 列表中两两学习先后关系,常见模型有GBRank、RankNet、LambdaMart、RankSVM。LambdaMart是...

工厂模式

"共产模式"

概念 一般实现 SpringBoot工厂模式 参考 概念 定义一个创建对象的接口,让其子类自己决定实例化哪一个工厂类,工厂模式使其创建过程 延迟到子类中。 一般实现 实现步骤 1 2 3 1.创建一个接口 2.实现接口的实体类 3.创建一个工厂,生成基于给定信息的实体类的对象 创建...

对抗训练

"对抗训练"

基本概念 攻击模式 对抗学习 FGM PGD FreeAT 参考 基本概念 对抗训练是一种增量神经网络鲁棒性的方式,在实现的过程中,通过针对样本的扰动来使得网络进行适应变化,从而对对抗样本具有鲁棒性。 对抗样本一般特征: 1 2 ...

评价指标

"评测"

MSE RMSE MAE MAPE SMAPE 代码 参考 MSE 均方误差(Mean Square Error) \(M S E=\frac{1}{n} \sum_{i=1}^{n}\left(\hat{y}_{i}-y_{i}\right)^{2}\) 值的范围是(0, 无穷...

pyspark

"pyspark"

操作 udf model LogisticRegressionWithLBFGS 导出mysql submit 分桶 参考 操作 udf model LogisticRegressionWithLBFGS ...

als

"als"

原理 实现 参考 原理 协同过滤核心是用来处理用户的兴趣偏好的预测。spark中实现的是基于潜在因子模型的协同过滤。核心在于将用户评分或者是行为矩阵分解为用户的偏好矩阵和物品的偏好矩阵。 目标函数为: \(\min _{x_{\star}, y_{\star}} \sum_{r_{u, i}} ...

torch基础

"torch"

一些操作 交叉熵损失函数 一般实现 torch中实现 参考 一些操作 交叉熵损失函数 一般实现 torch中实现 参考 一些操作 1 2 3 4 5 6 1.list转tensor:torc...

pdb调试

"调试"

启动调试: 1 2 1.命令行启动,python -n pdb py文件 2.在解释器中,引入pdb,设置断点pdb.set_trace() 开始调试 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 1.where可以查看当前程序执行的具体位置 2.list可...

搜索召回

"搜索召回"

基本概念 向量召回 向量生成 向量检索 HNSW small world random graph NSW ...