2022-03-263028阅读自然语言处理【NLP】BERT语言模型BERT实际上是Transformer的encoder部分,其功能将输入的词向量通过self-attention机制得到输出向量。BERT的训练采用了自监督(self-supervised le...
2022-03-263078阅读自然语言处理【NLP】一文理解Self-attention和Transformer一、自注意力机制(一)序列与模型哪些场景是用向量作为输入呢?首先是词的表示,表示词的方式:One-hot Encoding(词向量很长,并且词之间相互独立)、Word Embedding。然后是...
2022-02-153654阅读后端Web后端开发笔记——Go实现网站注册时的短信验证码(基于阿里云短信框架)我们在注册网站的时候,通常会输入手机号并接收验证码进行手机号验证,这也是当今软件和网站增强安全性的一种有效手段。那么如果我们想要在注册的时候发送短信验证码,该怎么实现呢?这其实并不复杂,来看看吧...
2022-02-152790阅读集成学习Ensemble Learning之GBDT及XGBoost算法手写推导在推导XGBoost原理之前,需要对GBDT进行学习,GBDT是XGBoost的基础。由于存在较多公式,所以这次学习过程选择手写笔记的形式~更多算法介绍 优缺点总结 源码见文末的参考资料,本文记...
2022-02-152403阅读传统模型【机器学习】K近邻(KNN)算法详解一、算法介绍KNN(K Near Neighbor):k个最近的邻居,即每个样本都可以用它最接近的k个邻居来代表。KNN算法属于监督学习方式的分类算法,我的理解就是计算某给点到每个点的距离作为相...