0. 长文预警

原本打算将概念理解部分和框架实战部分写在一起,但考虑到部分人只对基本概念感兴趣以及全文过长(概念理解部分就有9千多字)的原因,决定分上下部分进行撰写。

为了保证概念理解的趣味性,我会加入日常生活中的实例;为了保障文章的可理解性,本文会结合其他学科(主要以心理学为主);为了提高文章的实用性,部分理论(例如熵增定律)也会放在本文结合讲解,对日常生活的思维模式有一定帮助。当然,为了确保各位原因看下一篇内容,更多人工智能原理与日常生活的实用联系以及AI框架实现过程会在下一篇内容中介绍,欢迎关注「新青年talks」。

1. 我为什么对人工智能产生兴趣

我的所学习的技能都是半路出家而非科班出身,大一时在滴滴前产品经理的一次公开讲座上,主讲人说:“人们先学习学习的方法,发明家先发明发明的方法。”,我意识到只要形成自己的思维模式,是没有不可学习的技能。如果让机器形成自己的思维模式结果也能如此。

2017年,跟随视频课程「刘杨:造像之术」学习人像后期时,刘杨说:

现在的磨皮插件已经非常强大,但真正干后期的不会被取代,因为后期需要融入修图者的思想。

人类眼中的美都是在同一维度,那么理论上机器人也能将自己的判断落在人类的审美维度上(事实上并不可行,下文解释),人工智能的种子在我心中萌芽。

2018年偶然在知乎看见大佬@YJango回答的关于思维导图的问题,我对机器学习产生了浓厚的兴趣,他从人类正确的学习模式来引出机器学习模式,再回到人类该如何学习的问题上。自此我抱着通过学习先辈已构建好的机器学习算法寻找人类正确的思维模式,并试图在未来借此完善自己的思维模式。取法乎上得其中,与其在知乎看理论文章,不如追根溯源自学机器学习。

至此2018年开始接触python,从hello word 到网站爬虫,从数据挖掘到TensorFlow 。已有近3年时间,尽管中间多次因为瓶颈无从下手。

在此期间我还有幸接触认知心理学、叔本华哲学思想、色彩设计法则以及佛学经典《金刚经》等多门学科或书籍,在后期帮助我更好的理解神经网络流程,与机器模型的交流中找到乐趣。

人工智能作为近几年再次兴起话题原因是什么?机器学习算法的思想和我们日常有什么样的关联?对此我将从我已接触的文史类学科用不够精深的理论知识通俗讲述关于当下人工智能算法一些常用的实现方式,以及其与各学科和我们日常生活的联系。

我会从多维度介绍人工智能,希望能让更多人对此产生兴趣,探索人类和机器的学习方式。

PS:为表现现阶段算法实现多么简单,文中会参杂部分代码,没有兴趣的可以忽略。文章文字较多,请耐心阅读。

1.1 机器学习是什么

深度学习是机器学习的衍生,因为传统的机器学习无法模拟人脑,本质上是对一堆数字的训练,只能完成一些简单任务,比如垃圾邮件分类,但传统机器学习提供了很多的理论基础,并且有部分算法模式接近与人脑模式,只是无法对事物特征像人脑那样处理出来。

详细内容参见我的文章:ai推荐统治的时代,我们的学习力如何丧失的?

1.2 神经网络是怎么一回事?

生物学家告诉我们,人脑思考是靠神经元之间进行信息传递的,于是人工智能学者尝试给机器人也模拟出这种思考过程,也就是人工神经网络 简称神经网络 ,给机器一堆特征值,然后模拟神经元,让特征经过神经元的时候做一些算法操作,抽取出更多特征,在进行结果输出。这就是深度学习的核心。

因此深度学习与机器学习的最大区别就在于可解释性,机器学习的判断推理过程你如果时间有多甚至可以自己根据公式来算(比如KNN算法你就可以手动算一个),但深度学习不行,深度学习的特征处理会经过多层次神经网络的特征抽取进行自己的学习和更新,你甚至不知道他是如何得来的结果。

为什么核心都是通过数学公式进行计算,一个可解释性强,另一个可解释性差?

首先你必须知道似然函数是什么。

在学生时代的数理化考试,如果时间不够,一道填空题题不想空着就得找个快速的方法猜一个答案,根据已知条件猜测最接近的值,这就是似然的意思,似然函数指让机器自己训练的时候猜一个值。甚至会像人一样有套路的猜,而不是乱猜。

此外因为深度学习可能含有多个神经网络层,会从具体的数据中抽象出来更多的特征,一旦数据通过多层次的神经网络传输就成了巨大黑箱,变的难以解释。人类对于美的描述也是如此,我们无法用理论系统的向他人描述为什么美,因此“美”也可以说是一个可解释性低的概念。

对于深度学习的可解释性在学术界也讨论多年,似乎有相关的论文可以找到。

2. 人类如何利用编程语言让机器自己学习

2.1 文字语言和数学语言

  • 文字语言

人类在进行阅读时通常是从前往后,通过前面已知的文字信息来理解后面的信息。断章取义的原因就在于使用了自己以往经验而非文章前面的信息进行句义的理解,从而产生错误判断。

  • 数学语言

数学家们认为一切问题都是数学问题,就像文学家认为问题的终点是哲学一样。即使是像人类一样的阅读理解题也能使用数学方法让机器学会,而最基础的公式就是初中学的y=kx+b ,不同的是,在深度学习中的k变成了w,表示权重,x表示一个个单词,b是偏置项。

2.2 机器表达的方式

现在重新回想一下你上一次阅读小说或者其他文章的时刻,如果没有,回想阅读本篇文章时的情景,一个个方块字组成的词放在你眼前,你并不是每个词都会仔细阅读的,比如“人像后期”、“我的”,因为即使漏掉这些词也不会影响前后文的理解,再比如,上文放的另一篇文章链接你并不会点击,因为它们在本文或者我的所有文章的存在感很低,这种存在感就是权重w。此外,提到的“初中数学”、“叔本华”等词是不需要解释的,因为大家都有所了解,这使得阅读变得没有障碍,这个了解程度就是偏置值b。

所以当我们阅读一些背景信息不是很了解的文章时,会感觉非常吃力,根据神经网络的逻辑,这是因为没有b值,使得函数灵活性变小,无法get到作者原意。因此建构主义告诉我们,老师不应忽视学生的已有知识经验,因为b值的加入,灵活性变大,当然,在深度学习中这个b 值并不是真正意义上对背景信息了解程度,只是一个参数,但作为和w 一样的参数,b 所表达的含义并不具体,上文的表述只是方便理解。

如此说来,只要w 、b的同时调整总会拟合出一条曲线。而这些值的获取,就是通过编程语言实现。

因此,如果你有看链接内的另一篇文章就会提问:这样的函数不是只能解决回归问题吗?其实分类问题也可看作回归问题,在两个类别之间画一条三八线不就完成分类了吗?

2.3 人工智能框架

尽管算法再复杂,依然有工具能让开发者和学习者们高效使用,就像走路很麻烦但有造好的汽车给你开。人工智能开发工具以python的库为主,这些库称为框架。目前常用的框架有如下几种:

  • TensorFlow2
    • Google自研框架,也是本文主要使用的框架。
    • tensorflow2收购了keras,因此tf2使用起来更简单。
  • pytorch
    • facebook自研框架,被称为最符合python语法的框架,这一点也是其他框架版本迭代的学习榜样,本文会与tensorflow进行配合对比。
    • torch在python上的移植版本,原本是C++写出来的。
  • mindspore
    • 华为自研框架。
    • 需要说明一点:本文没有使用此框架以及本人没有学习此框架的原因是,我找不到相关的教程视频可以白嫖。
  • PaddlePaddle
    • 百度自研框架,对不起,没用过。

框架始终都是工具,不是本文重点,只做了解即可。

3. 结合其他学科理解传统机器学习与深度学习

3.1 欠拟合与过拟合

在了解更加深入的深度学习知识之前,你必须知道什么是过拟合与欠拟合,因为无论是机器学习还是深度学习都会存在欠拟合与过拟合现象,因此泛化能力强弱是衡量人工智能是否真的智能的一个重要指标。

  • 什么是拟合

训练数据的意义就是让机器从数据中找到其关联特征,并用数学语言进行表达。从找数据之间的特征关系到会自己用数学语言表达的结果,被称为拟合。

  • 什么是欠拟合

在学生阶段,学生们常常在上新课之后认为自己已经听懂,但做题依然不会,即使是书后习题也没办法做全对。机器也会出现这种情况,它觉得自己会了,但无论是对训练集还是测试集的结果都不尽人意。这就是欠拟合。出现欠拟合的根本原因是机器无法抽象出更泛化的特征,从而导致无法拟合。

  • 什么是过拟合

过拟合可以理解为欠拟合的矫枉过正,机器在学习训练数据时,会不断尝试抽象出数据特征并拟合所有训练数据,直到能用一种语言表达出所有的训练数据,但在测试集上表现效果并不好。因此过拟合出现的一个重要原因就是数据量太小,且数据具有一定规律性,而机器抄了近路,找到了这条规律。

3.1.1 如何避免

关于如何避免过拟合与欠拟合在机器学习和深度学习中都有不同方式,下文会提到几种常用方式。在人类学习过程中也常会出现类似过拟合与欠拟合的情况:一听全都懂,一做全不会;一背全都会,半天全都忘。

为了学习不出现此类情况部分人会采用向他人讲解知识点的方式进行学习,因为在讲述知识点的过程是一个不断抽象出知识点特征并尝试使用文字语言进行描述的过程,对于无法抽象出的特征(无法理解的知识点)很容易在此过程中发现,随后会进行自我知识的更新。这也就是著名的费曼学习法 ,而此过程中发现的自己暂未理解的知识点,即自己所理解的知识概念与真实知识概念之间的差距在机器学习中被称为损失函数 ,在此过程中对自我更新的过程在深度学习中称为反向传播 。

3.2 传统机器学习

关于传统机器学习对之前那篇文章主要进行以下几点补充,其他机器学习与深度学习都有的概念均放到下面深度学习部分进行介绍。

3.2.1 正则化

在人与人的日常交流中,常常会出现无法理解对方在说什么的情况,原因可能是对方对于自己所想表达的信息不能进行完整描述,这可以理解为机器学习的欠拟合。假如说主谓宾定状补、形容词名词样样齐全,重组后的语句则更能描述大脑中的信息,比如你的一句“在干嘛”不如“我现在没什么重要的事情,但我想和你说话了。”更具描述性。

换言之,复杂程度更高的表达方式越能够拟合大脑中想表达的信息。机器也是如此,但这样往往会出现过拟合的现象,人类从信息转化到语言的过程如果出现过拟合,那简直是废话连篇。

尽管所有的机器学习问题都由y=wx+b 演变而来,但仍然会出现非常复杂的函数曲线(同时含有多个高次幂),出现这种情况的本质原因是方程越复杂,越容易对数据拟合,于是加入了l2正则化,作为复杂方程的惩罚项,告诉机器,你没必要说废话。其原理是对高次项的权重参数降到接近0的程度,以简化方程,让过拟合的情况尽可能不出现。

这种惩罚类似于斯金纳强化理论中的惩罚,即:通过给予厌恶刺激(权重趋近0)减少不良行为发生的概率(过拟合)。对机器来说,能找捷径直接拟合训练数据非常舒服,但添加正则化力度之后,会迫使它重新进行拟合过程。

  • 当alpha(正则化力度)越大时,权重越趋近于0。
  • 在sklearn中正则化是回归问题才有的,为了方便使用,sklearn中还有一个API为Ridge(岭回归),是一种带有正则化的回归模型。

行为主义心理学中的强化理论也给予深度学习一些灵感,提出强化学习,是区分监督学习与非监督学习的第三种学习方式。这种学习方式原理是通过随机尝试行为,如果这种行为取得较好效果会加强进行训练,类似于强化理论中的正强化。它与前两种学习模式的区别在于不需要特征值与目标值对应的关系。现在主要应用于游戏领域,比如围棋,所以人工智能的围棋,它能赢你第一次,你就不可能再赢。

也许这种说法有点夸张,但事实确实如此,在下文关于负采样与失败经验的小节内会告诉你成功经验的重要之处。

3.2.2 贝叶斯法则与经济学

在我的上一篇推文中,利用朴素贝叶斯做了一个小实例,朴素贝叶斯依据的是古典数学的贝叶斯法则。

如果我们在初识某人时,如何了解的更加准确客观?最优方式应该是通过日常行为进行了解,如果日常行为多为正面行为,那么可以初步判断该人为是位正面人物。这也提供了很多文学作品人物描写的一个思路,通过前文对其行为的描写,引导读者认为该人物是正面人物,最后对该人物形象进行颠覆,并对之前的行为进行合理解释。

究其本质,贝叶斯法则也是如此,当对一个未知属性(某人)不明确时,通过对已有的其他特征信息(行为),进行结果的概率判断。尽管这种方式既可以用在日常生活也可以作为机器学习的分类问题,但是,行为经济学家发现,人类决策时并非符合贝叶斯法则,因为贝叶斯法则本质上是概率性问题,而人类决策更喜欢走捷径考虑可能性问题。

什么是概率与可能性?

我在小学概率学课上就好奇,一个骰子掷出6的概率不应该是1/2吗?因为最多只有两种情况,6和不是6。这就是可能性。可能性只有两种,而概率会纳入所有基本属性。因此当下的经济学理论均基于特定条件,比如人类是理性的人。

你可以试想在自己在思考问题时是否只考虑了会发生和不会发生的问题,如果是,那很有可能陷入了可能性的陷阱。

但经过资料查找,目前网络上与日常生活中已经将可能性与概率混为一谈。

3.2.3 信息熵与信息增益

前文一直在提到信息,但你必须知道信息和数据是两回事。

信息是用来消除不确定性的东西。——香农

举个例子,当你写作文想不出一个标题时,语文老师直接告诉你用哪个标题,那这个就是信息;而我扔了一本作文书给你让你自己找灵感,这本作文书的多个标题就是数据。

在了解信息熵与信息增益之前,你不得不了解一下熵增定律 ,无论是用于理解机器学习,还是用于生活都会非常有用,因为人活着就是在对抗熵增定律,生命以负熵为生。

熵增定律

熵是热力学概念,用于计算混乱程度的一个量化指标。系统内部是必然熵增的,熵增意味着混乱无序,你的房间总会乱,衣服怎么穿都会脏,恋爱总会分手,夫妻总会吵架,人总会死去,宇宙也会热寂。因为所有事物都会走向无序。

熵增是必然发生的,但是,在孤立系统内进行干预,可以减少熵,即负熵。房间定期整理,衣服每天都洗,情侣定时谈心,夫妻偶尔沟通,我们早睡早起,都能对抗熵增。

关于熵增定律,网络上有大量资料可以参考,在此主要讨论机器学习内容。但请注意:网络上的都是是数据,而哪些是信息能真正帮助你减少不确定性需要自己判断。

决策树

顾名思义,决策树是一颗用来决策的树。

机器学习利用决策树进行分类问题,我们做决策时也会常用决策树模型:如果明天下雨,我就学习,不下雨就去玩,如果同学来找我,那就去玩,不来就学习。

当下雨、同学找我玩两种种随机事件发生时会进行下一步决策,这是一个简单的两层决策树。

以上图贷款意向为例,这是银行中常见的决策树模型,根据决策树最终决定出是否发放贷款。

信息熵对决策树有着重要意义,

信息熵

机器学习中的信息熵源自热力学熵的概念,结合香农在信息工程领域的那句圣经,信息熵可以理解为:信息的不确定性大小。不确定就是一种无序状态。

当我们所收到的信息能消除的不确定性越高、或者说该信息的可确定性越高那么意味着信息熵越低,信息量越少。通常来讲信息熵为0的时候基本是句废话,比如:今天会天黑。但同时,当信息熵为0时,该信息也可被称作真理,比如:地球绕着太阳转。

一般而言,假设性语句的信息熵最大,验证假设的过程就是在减少信息熵。

最有利于我们减少信息熵的信息是知识,因此生命以负熵为生 也可理解为只有不断的学习我们才能获得真正的生命。但依据建构主义心理学,所有知识的信息熵不可能等于0,只能是无限趋近于0,因为知识不是对现实的纯粹客观的反映,人们对客观世界的一种解释、假设或假说。具体其他内容请参见百度百科:建构主义学习理论。

在决策树算法中,信息熵的作用至关重要,它直接决定了决策树的根从哪个条件开始。但决策树的根节点属性选择并不仅仅依靠信息熵大小选择,还需要了解信息增益。

信息增益

理解了信息熵的概念,信息增益就非常好理解,通俗来讲就是减少的不确性(信息熵减小的)大小叫信息增益。当然信息作为独立时是不存在熵减小的,只有在某种条件下(有其他信息作为可用条件)信息熵才会减小,这种某条件下的信息熵称为条件熵。

举个例子。

现在正值春天,南方阴雨不断,此时有一条短信发你手机上说:明天天晴,你看着屏幕上的这四个字,产生了怀疑,此时信息熵极大,因为只有四个字,你也不确定是不是真的。但是你抬头看了看天空,繁星满天,你相信了那条短信。因为在此条件下,那条短信的信息熵会骤减,根据经验,前一晚满天星星那么第二天天晴的概率极大。

明天天晴的信息熵 - 繁星满天时说明天天晴的信息熵(条件熵)= 信息增益

上述例子的信息增益一定是正值,并且还挺大。这种信息增益挺大的属性会被决策树作为优先选择的根节点。即:信息增益越高,可以被消除的不确定性越多,树深度就越小,性能越好。

回到信息熵内容里的例子来感受下决策树是如何利用信息增益来优化算法。

我目前就职的银行常接触到第一次办理贷款业务的客户。为了节约时间和人力成本,我们首先会问客户征信情况,并查询征信情况。为什么将征信放在首位?因为征信都黑了贷款是不可能的。且客户自己都可能不了解自己的征信情况,此时征信无问题比有资产、有流水 的信息熵要高,当征信报告的信息提供给我们时,信息熵骤减,不确定性降低,如果征信有问题,下面的调查步骤即可直接省略;如果无问题,再根据其他贷款条件的信息增益来确定下一个步骤。一套流程下来往往比做完材料签完字发现征信有问题所节约的时间、人力、人情成本要低。

综上所述,如果你看到这里依然不知道我在说些什么,那么我所提供的信息的信息熵为0,如果你对我前文内容早就知道,那么信息熵也为0。

3.3 深度学习

深度学习解决了机器学习很多不完美问题,例如如何进行特征工程最优,如何理解更复杂的语义信息。人工智能在上世纪就被开发出来,时至今日又火了起来最主要原因就是前辈们对深度学习的不断优化。

3.3.1 梯度下降与尝试错误说

前文提到的损失函数很好理解,预测出来的结果与真实的结果之间的差可以构成一个损失函数,深度学习的模型训练主要就是通过损失函数,而损失函数本事可以构成一条曲线,是曲线就存在一个最低点,找到这个最低点就可以让模型的效用最高。

起初是利用数学的最小二乘法来来直接求最小值,但后来发现了一种更符合人类思维逻辑的方式——梯度下降算法。

假如将损失函数看作一条开口向上的抛物线,梯度下降算法会沿着最低点存在的方向一步一步往下尝试找到最低点。读过初中的人应该都能知道是怎么回事。如果依然很难理解,我下面联系桑代克的尝试错误说来解释。

心理家桑代克做了个实验,将一只饥饿的猫放在装有特殊开关的笼中,猫经过不断的尝试后触到了开关,逃离出笼。然后他就提出了尝试错误学说,观点是:学习是一种盲目的、渐进的尝试与改正错误的过程。随着练习,错误的反应逐渐减少,正确的反应得以产生。这和梯度下降一模一样。

梯度下降起初会盲目寻找一个点不管这个点里最低点远还是近,但这时它会找到最低点在哪个方向,下一次的尝试的时候会重新更新一遍模型参数再训练一次,这时会离最低点更近一步,误差也会比上次小,重复几次过程之后,模型就能找到最低点。

但在很早之前,第一次尝试过后会重新在第一层神经元从前往后每个神经元调整参数(详细图见1.2 神经网络上怎么一回事)并再从前往后计算,这被称为前向传播。但这种方式梯度下降的慢且容易出错,最主要的是会进行大量的数学运算,而那个没有3080的年代,这种算力远远跟不上,人工智能也因此没落。直到反向传播的出现。

3.3.2 反向传播

前向传播耗时耗力,就有人想出了通过微分偏导的方式进行反向传播,调整参数时就不用从第一层开始调整,而是根据上一次尝试反向对最后一层的输出层调整参数,依次往前,这样反向传播下来效率会明显提升,计算量也比之前小。

更快的调整更新参数,就能更快的进行下一次的尝试,这样才能称为学习,这也使得人工智能迎来又一春。由于梯度下降和反向传播的算法涉及微积分和求偏导,但我一个数字都看不懂,所以只能介绍实现逻辑,关于详细算法原理,还需要各位自己搜索关于反向传播的内容。

3.3.3 梯度消失与梯度爆炸

如果梯度下降是一个词,用于表示一个寻求误差最小的方法,那么梯度就代表着一种误差信息,神经网络通过这个误差信号来更新参数。

在反向传播过程中,最终目的是为了更新权值,即y=wx+b的w 。而反向传播是一层一层累乘更新权值的更新值,这就导致如果求得的导数很小累乘后梯度(误差信息)会指数下降,最终导致梯度消失,以至于每下一层神经元输出的信息与上一次相差无几,即误差信息没有提供实际意义。相反,导数很大会指数上升导致梯度爆炸。

无论是消失还是爆炸,主要原因还是因为神经网络层次过深导致的,当然错误的激活函数也会导致此类情况。由于反向传播是目前最好的更新参数的方式,所以梯度消失和梯度爆炸无法完全避免,只能选择合适的激活函数与尽量减少神经网络的层次。

3.3.4 负采样与正例反例

这通常用在下文介绍的循环神经网络中,主要用在自然语言处理,因为自然语言处理时需要考虑到上下文的关系,所以神经网络会匹配出最合适的两个词组在一起,但由于都是正例,不利于对新数据的表现(类似过拟合),所以加入了反例,这种方式被称为负采样。

原因和教育学原理类似,学生在学习过程中如果只学习正例,学习就无法发生迁移,不能举一反三,加入变式能增强本质特征帮助学生理解概念的本质,加入反例可帮助学生正确理解概念本身。

比如我们教导学生要做个好人,然后举一个扶老奶奶过马路的例子(正例),又举一个不乱扔垃圾的例子(变式),但是这个时候例子太少,小学生甚至没有坏人的概念,只记得这两个例子,打架、行窃的事依然可能会干,因此需要告诉学生做小偷小摸的是就是坏人(反例),增加他们的概念,以后会不自觉的对行为进行好坏的划分与对比。

3.3.5 随机遗忘与超忆症

由于深度学习存在多层次的神经网络,过拟合的情况更容易出现,因此在神经网络模型中,会采用随机遗忘的方式忘掉一点东西来增加泛化能力,而随机遗忘也能避免梯度消失或梯度爆炸。

如同人一样神经网络也需要学会遗忘,在现下,有一种罕见的病症叫超忆症,症状表现为对所有事情都无法忘记,且任何一个细节都刻在脑海里,学生时代我非常羡慕患上超忆症的人,那样所有知识点都能背下来,但随后发现超忆症是及其痛苦的,因为他们无法遗忘。开心、痛苦的是都不会忘记,且每次回忆都像二次经历一样。

据说人会做梦是有垃圾要清理,对于不重要的事情会在梦中遗忘。我有幸接触过几位轻重程度不同的抑郁症朋友,他们抑郁症复发期间几乎不会做梦,这也证实了大脑储存的不必要信息太多就会导致心理问题。

为防止人工智能的神经网络出现问题,AI框架都会加入dropout 参数,对部分无关紧要的内容进行遗忘,这不仅提高效率,也增强了模型的泛化能力。

3.4 其他思考

3.4.1 人类是否存在梯度爆炸与心理问题的个人看法

理论上人类是并不存在梯度消失与梯度爆炸的情况,因为人类的神经元并不是同时工作的,当大脑累了会自己休息,因此人类的神经元并非人工智能那么简单,尽管人工智能的基本认知逻辑参考了人类的方式,但并不意味着人工智能学习时出现的问题在人类身上也会出现。

但依据我的亲身经历以及个人观点,某种条件下人类也会存在类似梯度爆炸的情况,我认为抑郁症的产生也与梯度爆炸类似。梯度爆炸的主要表现是误差信息(梯度)变得很多权重无法更新,主要原因是神经网络的层次过深、激活函数使用的不正确。而我了解到的关于心理上的问题均来自主人公的过度思考(神经网络层次加深),在此基础上对简单事情的权值由原本应该的极低值更新到极大值,而自身对于问题的理解角度出现问题(激活函数问题)导致最终自身思考与实际情况之间的误差信息无限增大,始终找不到自身需要的答案。每一次的深度思考均会造成负面情绪的产生,最终导致心理问题。然而,这种问题外力无法给予有效帮助,只能依靠主人公自身进行认知模型的重建。

以上看法均为个人观点,因为实际情况是人类大脑的复杂不存在梯度问题,而人工智能存在的问题只是人工智能本身的表现形式,我只是从单一系统、长期思考同一类问题的角度出发,人类可能会存在梯度爆炸的情况。

3.4.2 负采样是否等同于社会个体的失败经验

俗话说失败是成功之母,但事实是人类在成功经验中总结的经验比从失败中总结的经验更多。人工智能采用负采样的方式从另一角度说是增加失败(错误)经验,在成功经验足够多的情况下,失败经验才能起到奇效。成功经验过多的结果很好想象,但失败经验过多呢?

在心理学上有个名词叫习得性无助,一只幼虎关在笼子里想冲出来,结果长大了也冲不出来,此时即使打开笼子老虎也不会尝试走出来,这便称为习得性无助,而这种情况的发生主要就是由于失败经验过多产生的自我认知不当,最终使得主体不愿意进行任何可能性的尝试。

而一个健全的人格需要的不仅仅是成功经验,也需要失败经验。如同神经网络需要负采样一样。

耗时三年,我终于可以用文科生思维解释人工智能(上) | 新青年talks