文章图片
文章图片
文章图片
“ 地球文明指数增长真的发生了”
01—硅基人技术优化 ， 增强地球人之间的连接硅基人重返太阳系 ， 不过为了避免地球人探测到金星上面的基地 ， 直接转移到了地球地表以下温度200摄氏度的地方 。 与此同时 ， 硅基人的2.0版本计划也正式开始实施 。
首先策略上 ， 对语言的理解并通过语言潜移默化地来影响地球人的方式已经跟不上地球迅速发展进化的工业文明 ， 硅基人必须从更广泛的领域提升硅基文明对地球文明的影响 ， 甚至尝试以地球人的形态或者地球人与硅基人共生的生命形态使得硅基文明得以存续 。 硅基人需要优化现有的理解地球文明的神经网络结构 ， 以之为基础 ， 在地球文明的各个领域迅速施加影响 ， 包括在与硅基文明重合的自然科学和智能工业领域对地球文明的点拨与提升和未知领域如生化学科、量子科学的学习与融入；其次当然就是智能模型的迭代升级 。
基于硅基人对地球人社会的长期研究而得出的结论：地球人这个物种（当然还有很多其他物种）从诞生之初就受到环境的强烈影响 ， 生物构造除了在外在形态上极度适应物理环境 ， 其内在的遗传机制、大脑的思考方式、器官工作机制等都是受环境长期影响的结果 ， 而这种权重机制在认知方面的表现即注意力机制(Attention) 。简单说就是 ， 地球人从诞生之初便在与身边有限的生存资源作斗争 。 在文明初期 ， 人类为了获得足够的资源（食物、种子及孕育下一代的机会等）——需要集中最有优势的力量处理最亟待解决的问题 ， 原因是地球人本身的力量较大自然的力量而言过于单薄 ， 且文明发展程度低下 。 这是一种地球人面对环境中各种风险作出的有限问题处理能力的分配选择机制 。 这种机制大到一个国家一个地球文明的发展 ， 比如国家集中有限资源发展当前最需要解决的问题比如加强军事力量、集中有限资源给予部分有学识的有才能的人发展机会和研究机会；小到人的身体构造中的原子、细胞和神经网络、人的视觉等 ， 都是一种对有限机会有限资源的分配选择机制 ， 视觉就是一个非常明显的例子 。 不信的话 ， 试试此时此刻把食指放到眼前盯着看 ， 本文的文字是不是变成了模糊的背景 。 事有轻重缓急、要分清主要矛盾、钱要花在刀刃上等等都是这种机制的外在表现——要有权重思维 。 这个过程体现在之前提到的用于翻译任务seq2seq模型中效果应该是这样的：
比如要把法语“ jane visite I'Afrique en septembre” 翻译为英文 ， 当利用encoder对这句法语编码的表示（是一个向量 ， 或者通俗理解为一个数字组合）进行翻译时 ， 翻译出的某个英文词汇会根据注意力机制去关注整个法语句子中的每个词 ， 这时候想象decoder模型盯着法语的五个词在看 ， 正确的翻译是：visite(法语)——>visit(英语) ， 所以模型应该盯着visite这个法语词汇 ， 把这个词汇看的非常清楚 ， 而其他词语也在视野范围内 ， 但是看得比较模糊 。
实际处理过程中 ， 硅基人会把待翻译的向量表示与法语句子“ jane visite I'Afrique en septembre” 中的每个词的向量表示做一些运算（可以向量相加也可以相乘 ， 然后再做归一化得到一个0到1之间的数字表示概率） ， 然后基于运算结果去词表预测哪个词的概率最大（比如发现词表中英文“visit”这个词的概率最大） ， 于是输出预测词汇visit 。
硅基人首先将注意力机制融入到了seq2seq模型结构当中 ， 翻译效果获得了巨大提升 ， 这样做旨在初步验证注意力的效果 ， 此处不做详细介绍了 。
还是那位硅基人1_2号把注意力机制融入模型的同时设计了一种新的结构——自注意力机制（self-attention） ， 甚至把之前的LSTM的自回模式都删掉了 ， 因为自回归模式有一个很大的缺点：每个时刻的状态只能记录到现在时刻为止的信息 ， 当前时刻之后的序列信息无法被编码到每一个时刻（想象一下翻译“visite”这个法语词汇时 ， 自回归模型只可以“看到”当前“visite”及之前的“Jane” ， 看不到后半句 ， 相当于少了一部分信息 ， 翻译的效果不甚理想） ， 而自注意力机制就是解决这个问题：每个时刻的状态都会获得全序列的所有信息 ， 只不过他侧重于序列的哪个环节会有所不同 ， 所以这是权重机制 。
推荐阅读
- 大连上空出现“日晕”现象，太阳戴上彩色“光圈”
- 10种看似无害但实际上很危险的生物
- 28岁女孩不顾家人反对嫁给82岁老外，守寡53年，死前道出婚姻真相
- 虫洞、超光速、亚空间，未来人类最容易达成哪种“时空旅行”？
- 医生让保胎，女子请了保胎假，3个月后被公司辞退，理由：她旷工
- 2018年北京女子车祸身亡，体内意外查出猛药，丈夫“获益”2900万
- 面包车撞上兰博基尼跑车被起诉，要求赔偿修车费用190余万元
- 真正的科学讨论不是中国要不要清零，而是如何以更高效率实现清零
- 四天不重样的大娘，姚策真的是你的亲儿子吗？