2022-03-262243阅读自然语言处理【NLP】BERT语言模型BERT实际上是Transformer的encoder部分，其功能将输入的词向量通过self-attention机制得到输出向量。BERT的训练采用了自监督（self-supervised le...
2022-03-262732阅读自然语言处理【NLP】一文理解Self-attention和Transformer一、自注意力机制（一）序列与模型哪些场景是用向量作为输入呢？首先是词的表示，表示词的方式：One-hot Encoding（词向量很长，并且词之间相互独立）、Word Embedding。然后是...
2022-02-152721阅读后端Web后端开发笔记——Go实现网站注册时的短信验证码（基于阿里云短信框架）我们在注册网站的时候，通常会输入手机号并接收验证码进行手机号验证，这也是当今软件和网站增强安全性的一种有效手段。那么如果我们想要在注册的时候发送短信验证码，该怎么实现呢？这其实并不复杂，来看看吧...
2022-02-151985阅读集成学习Ensemble Learning之GBDT及XGBoost算法手写推导在推导XGBoost原理之前，需要对GBDT进行学习，GBDT是XGBoost的基础。由于存在较多公式，所以这次学习过程选择手写笔记的形式～更多算法介绍 优缺点总结 源码见文末的参考资料，本文记...
2022-02-152214阅读传统模型【机器学习】K近邻（KNN）算法详解一、算法介绍KNN（K Near Neighbor）：k个最近的邻居，即每个样本都可以用它最接近的k个邻居来代表。KNN算法属于监督学习方式的分类算法，我的理解就是计算某给点到每个点的距离作为相...
