Python脚本
主要用来记录一些比较常用的小脚本,提高工作效率
碎碎念
一个简单的句子集
常用命令
对hexo博客的写作常用方法以及butterfly主题的使用技巧进行一个简单的记录。
Markdown语法规范
文字编辑 对齐方式和文本字体大小 markdown实现文本对齐也可以借助内嵌html实现: <p align="right">这是一个右对齐</p><p align="left">这是一个左对齐</p><center>这是一个左对齐</center> 这是一个右对齐 这是一个左对齐 居中 一个居中的h1标题 一个居中的标题 一个调节字体大小为16后的居中标题 换行 markdown换行有两种方式: 段内换行是两个空格加上一个回车 这是一个段内换行 段落换行则是直接一个回车 注意观察两种换行情境下行间距大小 上下标 可以使用上标标签和下标标签。 例如: n<sup>2</sup>+b<sub>1</sub>n+8=0 n2+b1n+8=0 高亮 可以使用高亮标签。 这是<mark>高亮文本</mark> 这是高亮文本 除了文本高亮以外,还可以对文本的颜色进行修改,一般修改文本的颜色有两种方式:...
mt_one_model
论文标题:One Model to Rank Them All: Unifying Online Advertising with End-to-End Learning 总结: 背景 广告推荐多阶段级联结构(召回 -> 预排 -> 精排 -> 拍卖)的两大痛点: 链路不一致:老生常谈的问题,级联结构中各阶段的优化目标和数据分布都存在显著差异,能否最终指向全局最优的优化目标有待商榷。 候选的互相影响系统不感知:现阶段的级联结构中,一般直到重拍环节才会进行上下文感知的 xtr 建模,广告场景中一次请求内参竞广告候选之间如何相互作用,没有得到很好建模。 架构 工程优化:现有架构这种 embedding 调用方式在候选数据量扩展的情况下无法复用(显式交叉特征高昂的存储成本和通信成本),论文中提出了一种混合特征服务——item 侧特征统一存储在内存等本地存储中以减少通信成本(只保留了类别特征,移除了显式交叉和数值特征,消融实验来看这部分损失很小),user 侧特征更新频率高,通过一次调用 rpc 请求实现 embedding 读取,然后以广播的方式拼接到本地存储的 ...
多目标融合
强化学习的风还是吹到了多目标融合! 多目标融合机制前言 当下推荐系统的排序模块往往会涉及多个 xtr 目标的预估以及预估分数的融合: 目标预估阶段,多采用多目标联合学习的模块来进行,一般模块的最后会并行建立多个塔完成各目标的预估任务。 对于分数融合阶段,业界目前比较公认的方案是根据业务目标预先定义一个融合函数 g ,然后将该函数输出的分数作为最终的排序依据以 点击率 CTR、长播率 LVTR 和关注率 WTR 为例,融合函数 g 的形式如下: g(y^wtr,y^ctr,y^lvtr)=(1+y^ctr)α⋅(1+y^lvtr)β+γ⋅y^wtrg(\hat{y}^{wtr,} \hat{y}^{ctr}, \hat{y}^{lvtr})= (1 + \hat{y}^{ctr} )^\alpha\cdot (1+ \hat{y}^{lvtr}) ^\beta + \gamma \cdot \hat{y}^{wtr} g(y^wtr,y^ctr,y^lvtr)=(1+y^ctr)α⋅(1+y^lvtr)β+γ⋅y^wtr 这种方法很直观简洁,但也丧失了...
Lasso回归
Lasso回归问题的背景是解决传统回归问题中变量太多的问题,作为一种变量选择方法被提出。 min ∣∣Y−βTX∣∣22+λ∑i=1p∣βi∣\operatorname{min}\, ||Y-\beta^T X||_2^2+\lambda\sum_{\boldsymbol{i}=\boldsymbol{1}}^p |\beta_i| min∣∣Y−βTX∣∣22+λi=1∑p∣βi∣ lasso回归的求解难点在于目标函数不可导(含有绝对值),当X是正交矩阵或单位阵的时候,问题会变得容易求解: β^=sgn(y)(∣y∣−λ)={y−λ,y>λ0,−λ≤y≤λy+λ,y<−λ\hat{\beta}=sgn(y)\left(|y|-\lambda\right)=\left\{\begin{array}{l} y-\lambda, \quad y>\lambda \\ 0, \quad-\lambda \leq y \leq \lambda \\ y+\lambda, \quad y<-\lambda \end{array}\right. β^=sg...
岭回归
前言 在多元线性回归中曾经提到,经典线性回归模型的估计结果: \begin{equation} \boldsymbol{\hat{\beta}}=\left(\boldsymbol{X'}\boldsymbol{X}\right)^{-1}\boldsymbol{X'}\boldsymbol{Y} \end{equation} 上述估计量的方差为: \begin{equation} \begin{aligned} \operatorname{Var}(\hat{\beta})&=\operatorname{Var}\left(\left(\boldsymbol{X'}\boldsymbol{X}\right)^{-1}\boldsymbol{X'}\boldsymbol{Y}\right)\\ &=\left(\left(\boldsymbol{X'}\boldsymbol{X}\right)^{-1}\boldsymbol{X'}\right)^T\operatorname{Var}(Y)\left(...
优雅论文排版
高效排版论文的一种方法
多元统计分析
多元统计分析其实是围绕实际生活中变量的多维特征产生的,主要是在以下场景有所应用: 数据降维和结构简化 分类与判别(聚类) 变量间独立性的度量: 回归分析以及典型相关分析 多元数据的统计推断:以多元正态分布为代表的统计推断问题 多元随机变量 多元统计中的多其实主要说的是维度的扩充,而不是变量个数的增减。其实在概统中已有了多元变量的分布函数的概念,但注意在概统中始终都是数量值函数,这里的多元则是多元向量值函数,从这个角度出发多元统计相当于是对一元的扩充,这点在多元正态分布的推断中体现会更加明显,统计量的抽样分布其实也是对一元的扩展,只不过因为引入多元变量之后,协方差函数会变得相对复杂,这时也就需要引入矩阵来进行简化,简单来说多元统计分析其实就是建立在矩阵基础之上的多元变量的统计分析。 分布函数 与一元分布函数类似,多元随机变量X=(X1,X2,⋯ ,Xp)X=(X_1,X_2,\cdots,X_p)X=(X1,X2,⋯,Xp)的密度函数可以表示为: f(x1,x2,⋯ ,xp)=f(x1,x2,⋯ ,xp)f(x_1,x_2,\cdots,x_p)=f(x_1,x_2,\c...
