卯卯 | 炼就一手绝世刀法!

日出东海落西山,愁也一天,喜也一天。遇事不钻牛角尖,人也舒坦,心也舒坦!

关系抽取SEnet的网络结构过程

远程监督的有噪声的关系抽取:SE的全过程:三层卷积后的结果乘上每个通道上相互独立的权重。下面的图主要是每个通道上权重特征提取的过程:

什么时候dropout?过拟合(train准确率和test准确率差控制在3%以内)

dropout设置的设置大一点马上就不会过拟合,去掉更多的神经元

变量初始化的学问,能提高2—5%的影响,何试初始化,开根号防止过大,或过小

参考链接:https://zhuanlan.zhihu.com/p/39076763 

赋值,浅拷贝,深拷贝的区别

参考链接:https://www.cnblogs.com/xulf/p/4320676.html赋值:针对不同的数据结构,string不管怎么赋值内存地址不变,因为string是一种不可变的数据类型。list赋值,内存地址是会改变的,list数据类型是一种可变的数据类型。#针对list的浅拷贝和深拷贝:1,浅拷贝在拷贝嵌套的list结构时,只是拷贝了顶层,深层没有拷贝。2,深拷贝,所有的深度,内存地址都被拷贝了一份。 

梯度消失和梯度爆炸

根本的原因都是网络深度太大,Ssigmod容易引起梯度消失,用relu改进。梯度爆炸的情况比较少。

文本噪音去干净

根据底层的编码来去噪音,unicodedata.category()参考链接:http://ju.outofmemory.cn/entry/374250类型码类型信息LuLetter, uppercaseLlLetter, lowercaseLtLetter, titlecaseLmLetter, modifierLoLetter, otherMnMark, nonspacingMcMark, spacing combiningMeMark, enclosingNdNumber, decimal

.tf_record格式来做大数量的形式。当数据量巨大的时候,为模型加速的方法—————训练样本非常大的时候,将train数据,转换成.tf_record文件,加速训练

提高代码速度的小技巧

运用return直接return 函数返回速度能提高10倍以上。

类的单例模式————很重要。实际应用场景,例如:加载jieba,做成一个单例类,不同人来调用的时候不用每次都调用占内存,只需要调用一次。

单例模式的好处:实现多个实例类的时候,实现共享,节省内存,加速,类里面不用self,而换成cls。方法一:方法二:

Python数据结构的各种效率-dict list tuple set,deque-优化技巧

学习链接:https://blog.csdn.net/qq_28304687/article/details/79088491 
«   2025年5月   »
1234
567891011
12131415161718
19202122232425
262728293031
控制面板
您好,欢迎到访网站!
  查看权限
网站分类
搜索
最新留言
文章归档
网站收藏
友情链接
  • RainbowSoft Studio Z-Blog
  • 订阅本站的 RSS 2.0 新闻聚合

Powered By Z-BlogPHP 1.5.2 Zero

转载请注明文章出处!!!!!