我们的研究改变世界了吗?
最近一个周连续参加了CSWIM, SWAIB会议,说了太多话,e人浓度瞬间从100%降到了0%,感觉这三天都不想再说话了
好消息是做的主题(心理健康➕社交媒体)看到了蛮多类似的研究,也收获了大佬的鼓舞,坏消息是一篇文章想实现的目标过多,且策略有点过于激进(好坏参半),好的是确实很有趣,坏的是容易引起争议,最初蛮让自己内耗的,过后冷静下来又觉得,引起争议更证明了研究的意义。
时间线回到三四个月前,当时做的论文感觉工作量上处于尴尬的level,向上是一篇毕业的top,向下是1/3的普通论文,这对于博二初的自己来说确实是一个艰难的抉择,内耗了接近一个月。然后遇到了同样内耗的师姐(申请青基中),神奇的她因为骨折的原因emo了很久,然后想做心理健康(能带来职业成就感)方向,然后她根据我之前的...
词嵌入经典方法:one-hot,TF-IDF,Bag of words
词嵌入的经典方法-独热编码(one hot),词袋模型(bag of words),词文档-逆文档频率(TF-IDF)
1 one-hot(独热编码)
intuition(核心思想)
文档中每个单词的出现都是独立的,每个词都有独一无二的含义,与其它词无关。对单词编码后的向量中只有数字 0 和 1,且其中只有一个维度是 1
案例:
给出一句话,I ate an apple and played the piano。输出词典表示
劣势
稀疏矩阵;高维;无法学习语义,向量间的距离无法反映语义差异,
应用:
输出类别标注
2.bag of words
intuition(核心思想):文...
词嵌入直观理解
1. 什么是词嵌入(word embedding)
将词/字符转化为有意义可计算的数值。比如有两组词{蜜蜂,鹅,鹰},{直升机,无人机,火箭},用具有意义的数值(具有词义)来表示他们。
怎样才算有词义呢?合乎现实的假设:飞得高的东西对应的数值大。比如在天空(sky)这个维度上,{蜜蜂,鹅,鹰}数值从小到大依次是 鹅=2→蜜蜂=3→鹰=4;{直升机,无人机,火箭}数值从小到大依次是 无人机=2→直升机=3→火箭=4
2. 问题导向:为什么需要词嵌入?-以情感分析任务为例
事实上NLP的大多任务(如事件抽取、自动问答、语义角色标注)都需要词嵌入,在这里以一个情感分析任务为例
句子:我的脚打羽毛球骨折了,国庆期间只能孤独的呆宿舍,我EMO了。
目标:对该句子进行情感分类,正向...
词向量空间建模中的维度理解:如何选择合适的词向量维度?
知识需要:词嵌入
看完篇文章能获得什么:
对词嵌入的深入理解,共现矩阵、Word2vec(skip-gram or CBOW)
训练下游NLP任务时,选择合适的词向量维度
maybe 词嵌入方法创新的一丢丢启发
这是原文链接:
https://aegis4048.github.io/understanding_multi-dimensionality_in_vector_space_modeling
词向量维度是多少比较合适呢?
1. 为什么要多维向量空间?
向量空间建模≈词嵌入
Such technique, representing words in a numerical vector space, is called Vector Spa...
共计 61 篇文章,8 页。