SunQH Blog

努力做一个更优秀的人

理论知识 深度学习理论

常问问题 Gap层的原理 全局平均池化,是替代FC的一种方式,可以将每个二维的特征通道变成一个实数,该实数某种程度上具有该特征通道的全局信息。最开始主要是从模型压缩的应用中得到的灵感。 使用原因: FC层的权值参数最多,现在的趋势是尽量避免全连接,近期的大部分论文多用全局平均池化层代替。 因为全连接层的每一个节点都与上一层每个节点连接,是把前一层的输出特征都综合起来 更重要的是实验效...

理论知识 深度学习理论

常问问题 Gap层的原理 全局平均池化,是替代FC的一种方式,可以将每个二维的特征通道变成一个实数,该实数某种程度上具有该特征通道的全局信息。最开始主要是从模型压缩的应用中得到的灵感。 使用原因: FC层的权值参数最多,现在的趋势是尽量避免全连接,近期的大部分论文多用全局平均池化层代替。 ...

编程能力 算法模板总结python版

二分查找 二分查找框架 基本原理:根据目标值所处的位置共分为三种查找情况,分别是:找任意位置、找左边界和找右边界。 出题形式: 有序数组、log(n)复杂度。 基本步骤: 定义左右指针为数组两端。 当左指针小于右指针时,遍历: 中间指针为(l+r)//2。 如果中间指针处数值小于目标值,收缩搜索区间为右半部分, 如果中间指针处数值大于目标值,收缩搜索区间为左半部分。 如果中间指针处数值...

编程能力 算法模板总结python版

算法通用模板整理

二分查找 二分查找框架 基本原理:根据目标值所处的位置共分为三种查找情况,分别是:找任意位置、找左边界和找右边界。 出题形式: 有序数组、$log(n)$复杂度。 基本步骤: 定义左右指针为数组两端。 当左指针小于右指针时,遍历: 中间指针为(l+r)//2。 如果中间指针处数值小于...

理论知识 机器学习理论

date: 2015-01-10 19:55 layout: 'post' title: 'Blogging Like a Hacker' tags: - "hello" - 'world' status: 'public' 机器学习理论 常问问题 线性回归 原理 给定n维特征的样本x,线...

机器学习理论

对部分机器学习相关理论进行整理

机器学习理论 常问问题 线性回归 原理 给定n维特征的样本$x$,线性模型的形式为:$f(x)=wx+b$ 其中w为每个特征对应的权重生成的权重向量。 线性模型的优点是: 模型简单 ...

理论知识 机器学习理论

常问问题 线性回归 原理 给定n维特征的样本x,线性模型的形式为:f(x) = wx + b 其中w为每个特征对应的权重生成的权重向量。 线性模型的优点是: 模型简单 可解释性强,权重向量w直观的表达了各个特征在预测中的重要性。 很多功能强大的非线性模型可以在线性模型的基础上通过引入层级结构或者非线性映射得到。 ==逻辑回归(LR)== 考察点:把LR从头到脚都给讲一遍。建...

理论知识 搜索、nlp理论

✅介绍下TF-IDF TF-IDF(term frequency–inverse document frequency)是一种用于信息检索与数据挖掘的常用加权技术,是基于统计特征的关键词提取算法,包含词频TF和逆文本频率指数IDF两部分,字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。 就是说,如果某个词或短语在一篇文章中出现的频率TF高,并且在...

理论知识 机器学习理论

本文对机器学习算法相关理论进行整理

常问问题 线性回归 原理 给定n维特征的样本$x$,线性模型的形式为:$f(x)=wx+b$ 其中w为每个特征对应的权重生成的权重向量。 线性模型的优点是: 模型简单 可...

理论知识 搜索、nlp理论

算法通用模板整理

✅介绍下TF-IDF TF-IDF(term frequency–inverse document frequency)是一种用于信息检索与数据挖掘的常用加权技术,是基于统计特征的关键词提取算法,包含词频TF和逆文本频率指数IDF两部分,字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。 就是说,如果某个词或短语在一篇文章中出现的频率TF高,并...