AI：简易的自动求微分算法
创始人
2024-05-30 14:21:45

文章目录

    • 一、自动求微分
      • 1.1 变量
      • 1.2 函数
      • 1.3 数值微分求法
      • 1.4 反向传播算法
      • 1.5 实现自动反向传播
      • 1.6 使用循环方式代替递归方式完成自动反向传播
      • 1.7 简化调用函数的方式
      • 1.8 省略编写`y.grad = np.array(1.0)`
      • 1.9 限制Variable处理数据的类型
      • 1.10 使程序能够使用零维的ndarray实例进行计算
      • 1.11 用标准库中包含的unittest在Python中进行测试
    • 二、优化自动求微分
      • 2.1 将程序扩展到可以处理可变长度的输入和输出
      • 2.2 实现add类
      • 2.3 扩展backward方法
      • 2.4 解决使用相同变量输入时出现的问题
      • 2.5 解决重

上一篇：知识蒸馏论文阅读：DKD算法笔记

下一篇：Iterator 迭代器

相关内容

热门资讯

投资者提问：董秘你好，请问公司... 投资者提问：董秘你好，请问公司有脑机工程相关的产品或布局吗？董秘回答(复星医药SH600196)：投...
投资者提问：公司积极开拓海外市... 投资者提问：公司积极开拓海外市场，请问近两年是否出口欧盟国家？董秘回答(南芯科技SH688484)：...
投资者提问：公司走成这样，管理... 投资者提问：公司走成这样，管理层怎么办董秘回答(南芯科技SH688484)：您好，谢谢投资者对公司的...
过敏预警、旅游规划……天气预报... （来源：中国妇女网）转自：中国妇女网1月初，气象预报显示，天津市将接连出现两次弱冷空气过程。同时，天...
古蜀人是华夏子孙吗？由三星堆看... （来源：上观新闻）《英雄祖先与弟兄民族》是历史人类学家王明珂的“华夏边缘”系列研究之一，是《华夏边缘...