尝试过设计一个loss将ART过程替代成梯度下降的过程,但终究没有很好的实现出来。
索性我们预先设计好人脑网络模型,再训练一个网络参数更新器,希望它能实现增量式学习。
网络模型主要参考:


网络参数更新器的先验设计:
只输入相邻两层的激活量和其连接权重(更强的约束可能是只输入突触前后的激活量和连接强度),要求输出该两层连接权重的改变量。
其它待定。
索性我们预先设计好人脑网络模型,再训练一个网络参数更新器,希望它能实现增量式学习。
网络模型主要参考:


网络参数更新器的先验设计:
只输入相邻两层的激活量和其连接权重(更强的约束可能是只输入突触前后的激活量和连接强度),要求输出该两层连接权重的改变量。
其它待定。