AI：简易的自动求微分算法
创始人
2024-05-30 14:21:45

文章目录

    • 一、自动求微分
      • 1.1 变量
      • 1.2 函数
      • 1.3 数值微分求法
      • 1.4 反向传播算法
      • 1.5 实现自动反向传播
      • 1.6 使用循环方式代替递归方式完成自动反向传播
      • 1.7 简化调用函数的方式
      • 1.8 省略编写`y.grad = np.array(1.0)`
      • 1.9 限制Variable处理数据的类型
      • 1.10 使程序能够使用零维的ndarray实例进行计算
      • 1.11 用标准库中包含的unittest在Python中进行测试
    • 二、优化自动求微分
      • 2.1 将程序扩展到可以处理可变长度的输入和输出
      • 2.2 实现add类
      • 2.3 扩展backward方法
      • 2.4 解决使用相同变量输入时出现的问题
      • 2.5 解决重

上一篇：知识蒸馏论文阅读：DKD算法笔记

下一篇：Iterator 迭代器

相关内容

热门资讯

微信给马化腾浇了“一盆冷水” 　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ （来源：虎嗅APP）...
做好繁荣法学研究服务法治实践工... （来源：法治日报）转自：法治日报本报讯 记者徐鹏 近日，青海省法学会第八届理事会第二次常务理事扩大会...
宝立食品拟申请银行综合授信额度... 中访网数据  上海宝立食品科技股份有限公司于2026年2月4日召开第二届董事会第十六次会议，审议通过...
强化春节前后自然灾害风险防范应... （来源：法治日报）转自：法治日报本报北京2月4日讯 记者蒋起东 国家防灾减灾救灾委员会办公室今天印发...
汲取传统文化智慧赋能基层调解工... （来源：法治日报）转自：法治日报□ 本报记者 周孝清　　“有些纠纷不是简单的金钱问题，只有情感沟通与...