机器学习入门(六)神经网络初识
创始人
2024-05-26 09:28:42
0

目录

一、模型解释

1.1 用人脑解释

1.2 用模型解释 

二、通过异或门的神经网络理解偏置量、神经网络的传播

2.1 与门的神经网络表示

2.2 或门的神经网络表示 

2.3 异或门的神经网络表示 

三、多物体分类 


一、模型解释

1.1 用人脑解释

        神经网络是模拟人的神经元,通过输入电化学信号(Input:Dendrite)经过细胞核(Dealing:Nucleus)处理得到结果(Output:Axon)传给下一个神经元(下一个输入)。

1.2 用模型解释 

        这个相比于人脑神经元系统:我们拿肿瘤分类举例

        偏置单元(bias unit):x_{0}=1

        待训练参数:\theta_{1},\theta_{2},\theta_{3},\theta_{4}

        输入(Input):x_{1},x_{2},x_{3}

        处理函数(Dealing):激活函数,逻辑回归的激活函数为Sigmoid函数

g(z) = \frac{1}{1+e^{-z}} \ \ \ z=\theta^{T}x

        输出(Output):根据处理函数处理出的值和判断阈值确定分类或者输出逻辑是或者逻辑否。

        神经网络一般有三层:分别是输入层、隐藏层和输出层。

        我们定义几个符号:

        a_{i}^{(j)}:是第j层的第i个激活单元 

        \Theta ^{(j)}:控制从层j到层j+1的函数映射的权重矩阵
        且一般每新的一个隐藏层会多一个隐藏层,如果用s_{j}表示在j层的单元数量,s_{j+1}表示在j+1层的单元数量,那么\Theta ^{(j)}的维度为s_{j+1} \times (s_{j}+1)

二、通过异或门的神经网络理解偏置量、神经网络的传播

2.1 与门的神经网络表示

        这里我们选择单层隐藏层的神经网络,假设我们训练出的参数\theta_{1},\theta_{2}为20,20。(怎么训练的不用管,后文会介绍)。偏置量\theta_{0}设置为30。

        我们输入为(x_{1},x_{2})\subset binary(0\ or\ 1),输出为y = x_{1} \ AND \ x_{2}

        神经网络如下:

        ①我们输入一组参数判断是否是与逻辑,比如(x_{1},x_{2}) = (1,0)

        则激活函数h_{\Theta }(x) = g(-30 + 20*1 + 20*0)=g(-10),通过观察Sigmoid函数:

         g(-10)的值低于0.01,远低于0.5,我们认为是约等于0的。也就是不存在与关系。

         ②我们输入一组参数判断是否是与逻辑,比如(x_{1},x_{2}) = (1,1)

        则激活函数h_{\Theta }(x) = g(-30 + 20*1 + 20*1)=g(10),通过观察Sigmoid函数:

         g(10)的值接近于1,我们认为存在与关系。

2.2 或门的神经网络表示 

        这里我们选择单层隐藏层的神经网络,假设我们训练出的参数\theta_{1},\theta_{2}为20,20。(怎么训练的不用管,后文会介绍)。偏置量\theta_{0}设置为-10。

        我们输入为(x_{1},x_{2})\subset binary(0\ or\ 1),输出为y = x_{1} \ OR \ x_{2}

        神经网络如下:

        ①我们输入一组参数判断是否是与逻辑,比如(x_{1},x_{2}) = (1,0)

        则激活函数h_{\Theta }(x) = g(-10 + 20*1 + 20*0)=g(10),通过观察Sigmoid函数:

         g(10)的值接近于1,我们认为存在或关系。

         ②我们输入一组参数判断是否是与逻辑,比如(x_{1},x_{2}) = (1,1)

        则激活函数h_{\Theta }(x) = g(-10 + 20*1 + 20*1)=g(30),通过观察Sigmoid函数:

         g(30)的值接近于1,我们认为存在与关系。

2.3 异或门的神经网络表示 

        我们结合与门和非门,推导出异或门。

        异或门对应两种情况:(1,0),(0,1)

        x_{1} \ AND \ x_{2}对应的情况是(1,1)

        (NOT \ x_{1}) \ AND \ (NOT \ x_{2})对应的情况是(0,0)

        则去掉这两种情况便得到了异或门。我们画出神经网络的结构:

         推导前面已经给出,现不重复推导。

三、多物体分类 

        神经网络也能进行多物体分类,它的输出层为向量,如果确定是该物体则该向量的该分量输出为1,而不是像1,2,3,4之类的。 

相关内容

热门资讯

苏超:南京队球员杨笑天因不文明... 江苏省城市足球联赛微信公号7月6日,@江苏省城市足球联赛 发布关于对南京队球员杨笑天违规违纪的处罚决...
闰六月:传统历法中的独特现象与...   唐雨童 卢小群  在中国传统的农历中,闰月是一个独特而重要的概念。它不仅是为了解决阴阳历之间的差...
通过对基层社会的深入研究来认识... 《认识中国:乡村的前途与中国现代化》,贺雪峰著,三联书店出版  贺雪峰  从30岁发表第一篇论文至今...
找投资,百万资金如何投资 找投... 大家好。我是米布利多。最近很多媒体夸大了超级通货膨胀。2021年是否会出现大的通货膨胀,在市场上存在...
穷人适合做什么生意(简单创业项... 好的创业项目,只要适合当地发展,结合当地经济发展,哪里都有。得到更多人的认可,这是一个非常好的项目。...
开什么实体店比较好赚钱(开个什... 有没有低成本赚钱的生意?肯定有。成本低,还能赚钱。自然风险越小生意越好。只要满足以下几点首先第一点,...
30项重大科技难题问题发布   本报讯(记者 刘苏雅)昨天,第二十七届中国科协年会主论坛在京举行。中国科协发布了2025重大科学...
涉案药店被解除医保协议   本报讯(记者 柴嵘)昨天,国家医保局公布八起应用药品追溯码打击药品领域欺诈骗保典型案例。今年以来...
以金融“活水”润泽民营沃土 □ 王 宁 近来,为更有效支持民营经济发展,睢宁农商银行持续推进小微企业融资协调机制,以“全力...
安安稳稳的反义词是什么 安安稳稳的反义词是什么安安稳稳的反义词——摇摇摆摆、摇摇欲坠、晃晃悠悠、摇摇晃晃、动荡不定、风雨飘摇...