发明创造名称：一种回声状态网络的预测方法和预测装置
外观设计名称：
决定号：188719
决定日：2019-09-03
委内编号：1F272263
优先权日：
申请（专利）号：201310379811.2
申请日：2013-08-28
复审请求人：杨凤琴
无效请求人：
授权公告日：
审定公告日：
专利权人：
主审员：高海燕
合议组组长：陈汝岩
参审员：吴广平
国际分类号：G06N3/02
外观设计分类号：
法律依据：专利法第2条第2款，专利法第22条第3款
决定要点
：如果一项权利要求的解决方案整体上解决了技术问题，利用了技术手段，获得了技术效果，则该权利要求的解决方案属于专利法第2条第2款规定的技术方案。
全文：
本复审请求涉及申请号为201310379811.2，名称为“一种回声状态网络的预测方法和预测装置”的发明专利申请（下称本申请）。申请人为杨凤琴。本申请的申请日为2013年08月28日，公开日为2015年03月18日。
经实质审查，国家知识产权局原审查部门于2018年10月10日发出驳回决定，驳回了本申请，其理由是：权利要求1-10不具备专利法第22条第3款规定的创造性。驳回决定所依据的文本为：2018年06月01日提交的权利要求第1-10项；申请日2013年08月28日提交的说明书第1-139段、说明书附图1-5、说明书摘要和摘要附图。驳回决定所针对的权利要求书如下：
“1. 一种回声状态网络的预测方法，其特征在于，包括：
建立回声状态网络的预测模型，所述预测模型包括输入层、中间层和输出层；
所述预测模型中所述中间层的神经元相互连接形成动态池，所述动态池为混合神经元动态池，所述混合神经元动态池中小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；
其中，所述小波神经元可以为中间层神经元总数量的40％～60％，一般取所述小波神经元占所述中间层神经元总数量的50％；
所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终所述小波神经元与所述普通神经元按照预设比例交替连接；
所述动态池中的神经元为环形连接拓扑结构；
所述预测模型从输入的网络流量数据中获取训练集，根据所述训练集对所述预测模型进行预测训练，获取训练完成后的预测模型；
通过预测输入的网络流量数据对所述训练完成的预测模型进行预测，获取预测过程中的预测输出的网络流量数据。
2. 根据权利要求1所述的方法，其特征在于，所述建立回声状态网络的预测模型，所述预测模型的动态池为包括所述小波神经元的所述混合神经元动态池包括：
所述小波神经元为Sigmoid型小波神经元。
3. 根据权利要求1所述的方法，其特征在于，所述从输入的网络流量数据中获取训练集，根据所述训练集对所述预测模型进行预测训练，获取训练完成后的预测模型包括:
按照时间顺序，获取预设数量个单位时间内对所述输入的网络流量数据进行采样得到的所述训练集；
在对所述回声状态网络进行初始化后，将所述训练集作为动态池神经元状态更新公式的输入的网络流量数据，获取动态池神经元状态值；
根据所述动态池神经元状态值获取所述输入层神经元、所述中间层神经元和所述输出层神经元的联合状态矩阵；
将所述联合状态矩阵和教师数据作为输出权重矩阵公式的输入获取输出权重矩阵。
4. 根据权利要求3所述的方法，其特征在于，所述通过预测输入的网络流量数据对所述训练完成的预测模型进行预测，获取预测过程中的预测输出的网络流量数据包括：
将已选定数据作为数据预测公式的预测输入的网络流量数据，根据所述预测输入的网络流量数据和所述数据预测公式对所述训练完成的预测模型进行预测；
获取预测过程中的预测输出的网络流量数据。
5. 根据权利要求4所述的方法，其特征在于，所述动态池神经元状态更新公式包括：
x(n 1)＝f(Winu(n 1) Wx(n) Wbacky(n))
其中，u(n 1)为所述训练集输入的网络流量数据，x(n)为更新前的动态池神经元状态值，x(n 1)为更新后的动态池神经元状态值，y(n)为所述训练集输出的网络流量数据，Win为输入权重矩阵，W为动态池的内部权重矩阵，n为非负整数；
所述输出权重矩阵公式包括：
其中，(Wout)t＝M-1T，其中，Wout为所述输出权重矩阵，M为所述联合状态矩阵，T为根据所述训练集得到的教师数据矩阵；
所述数据预测公式包括：
y(n 1)＝fout(Wout(u(n 1),x(n 1),y(n)))
其中，u(n 1)为所述预测输入的网络流量数据，y(n)为预测输出的网络流量数据，y(n 1)为下一单位时间的预测输出的网络流量数据，x(n 1)为更新后的动态池神经元状态值，Wout为所述输出权重矩阵。
6. 一种预测装置，其特征在于，包括：
建立单元，用于建立回声状态网络的预测模型，所述预测模型包括输入层、中间层和输出层；
所述预测模型中所述中间层的神经元相互连接形成动态池，所述动态池为混合神经元动态池，所述混合神经元动态池中所述小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；
其中，小波神经元可以为中间层神经元总数量的40％～60％，一般取小波神经元占中间层神经元总数量的50％；
所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终小波神经元与普通神经元按照预设比例交替连接；
所述动态池中的神经元为环形连接拓扑结构；
训练单元，用于从输入的网络流量数据中获取训练集，根据所述训练集对所述预测模型进行预测训练，获取训练完成后的预测模型；
预测单元，用于通过预测输入的网络流量数据对所述训练完成的预测模型进行预测，获取预测过程中的预测输出的网络流量数据。
7. 根据权利要求6所述的装置，其特征在于，所述建立单元具体用于：
所述小波神经元为Sigmoid型小波神经元。
8. 根据权利要求6所述的装置，其特征在于，所述训练单元包括：
采样子单元，用于按照时间顺序，获取预设数量个单位时间内对所述输入的网络流量数据进行采样得到的所述训练集；
第一获取子单元，用于在对所述回声状态网络进行初始化后，将所述训练集作为动态池神经元状态更新公式的输入的网络流量数据，获取动态池神经元状态值；
第二获取子单元，用于根据所述动态池神经元状态值获取所述输入层神经元、所述中间层神经元和所述输出层神经元的联合状态矩阵；
第三获取子单元，用于将所述联合状态矩阵和教师数据作为输出权重矩阵公式的输入获取输出权重矩阵。
9. 根据权利要求8所述的装置，其特征在于，所述预测单元用于：
将已选定数据作为数据预测公式的预测输入的网络流量数据，根据所述预测输入的网络流量数据和所述数据预测公式对所述训练完成的预测模型进行预测；
获取预测过程中的预测输出的网络流量数据。
10. 根据权利要求9所述的装置，其特征在于，所述动态池神经元状态更新公式包括：
x(n 1)＝f(Winu(n 1) Wx(n) Wbacky(n))
其中，u(n 1)为所述训练集输入的网络流量数据，x(n)为更新前的动态池神经元状态值，x(n 1)为更新后的动态池神经元状态值，y(n)为所述训练集输出的网络流量数据，Win为输入权重矩阵，W为动态池的内部权重矩阵，n为非负整数；
所述输出权重矩阵公式包括：
其中，(Wout)t＝M-1T，其中，Wout为所述输出权重矩阵，M为所述联合状态矩阵，T为根据所述训练集得到的教师数据矩阵；
所述数据预测公式包括：
y(n 1)＝fout(Wout(u(n 1),x(n 1),y(n)))
其中，u(n 1)为所述预测输入的网络流量数据，y(n)为预测输出的网络流量数据，y(n 1)为下一单位时间的预测输出的网络流量数据，x(n 1)为更新后的动态池神经元状态值，Wout为所述输出权重矩阵。”
驳回决定引用如下对比文件：
对比文件1：“基于回声状态神经网络的移动话务量预测方法”，王卓群，中国优秀硕士学位论文全文数据库信息科技辑，公开日为：2012年06月15日；
对比文件2：“基于改进的回声状态神经网络的非线性预测”，王瑟，中国优秀博硕士学位论文全文数据库（硕士）信息科技辑，公开日为：2007年04月15日；
其中，对比文件1为最接近的现有技术。
驳回决定具体指出：权利要求1与对比文件1的区别在于：（1）本申请根据输入数据获取训练集，而对比文件1直接用历史数据进行训练，本申请针对的数据是网络流量，对比文件1针对的数据是移动话务量；（2）预测模型中所述中间层的神经元相互连接形成动态池，所述动态池为混合神经元动态池，所述混合神经元动态池中小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；其中，所述小波神经元可以为中间层神经元总数量的40％～60％，一般取所述小波神经元占所述中间层神经元总数量的50％；所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终所述小波神经元与所述普通神经元按照预设比例交替连接；所述动态池中的神经元为环形连接拓扑结构。区别特征（1）是数学建模中的训练数据选取步骤，本领域技术人员不需要付出创造性劳动即可以得到，对比文件2公开了区别特征（2），因此，在对比文件1的基础上结合对比文件2得到权利要求1的技术方案是显而易见的，权利要求1不具备创造性；权利要求2-5的附加技术特征被对比文件1公开了，权利要求2-5不具备创造性；权利要求6-10与权利要求1-5相对应，因此，权利要求6-10不具备创造性。
申请人（下称复审请求人）对上述驳回决定不服，于2019年01月25日向国家知识产权局提出了复审请求，同时修改了权利要求书，将说明书的内容补入权利要求1、5、6和10中。复审请求人认为：权利要求1与对比文件1相比，区别在于：（1）在所述动态池中，所有神经元中的所述小波神经元与所述普通神经元交替连接构成一个环形结构，所述小波神经元与所述普通神经元是单方向连接的；（2）将输入层神经元与所述中间层神经元的连接权重全部定为v，v的取值区间为[0.1,1]；动态池神经元自身的连接权重全部被定为r，r的取值区间为[0.1,1]。但是，对比文件2的回声状态网络中小波神经元与S型神经元的连接关系不是一个环形结构，对比文件2没有公开区别特征（1），对比文件1中输入层神经元与中间层神经元的连接权值的取值范围是[0,1]，对比文件1没有公开区别特征（2），因此，对比文件1和2没有公开上述区别特征，也没有给出上述区别的任何技术启示，此外，本申请中小波神经元与普通神经元是单向连接的，连接方式固定，使得模型具有实际操作性，提高了预测准确度，因此，权利要求1具备创造性。对比文件1的矩阵与本申请权利要求5的矩阵M完全不同，因此，权利要求5具备创造性。权利要求2-4也具备创造性。基于相同的理由，权利要求6-10也具备创造性。复审请求时新修改的权利要求1、5、6和10和如下：
“1. 一种回声状态网络的预测方法，其特征在于，包括：
建立回声状态网络的预测模型，所述预测模型包括输入层、中间层和输出层；
所述预测模型中所述中间层的神经元相互连接形成动态池，所述动态池为混合神经元动态池，所述混合神经元动态池中小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；
其中，所述小波神经元可以为中间层神经元总数量的40％～60％，一般取所述小波神经元占所述中间层神经元总数量的50％；
所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终所述小波神经元与所述普通神经元按照预设比例交替连接；
在所述动态池中，所有神经元中的所述小波神经元与所述普通神经元交替连接构成一个环形结构，所述小波神经元与所述普通神经元是单方向连接的；
其中，将输入层神经元与所述中间层神经元的连接权重全部定为v，v的取值区间为[0.1,1]；动态池神经元自身的连接权重全部被定为r，r的取值区间为[0.1,1]；
所述预测模型从输入的网络流量数据中获取训练集，根据所述训练集对所述预测模型进行预测训练，获取训练完成后的预测模型；
通过预测输入的网络流量数据对所述训练完成的预测模型进行预测，获取预测过程中的预测输出的网络流量数据。
5. 根据权利要求4所述的方法，其特征在于，所述动态池神经元状态更新公式包括：
x(n 1)＝f(Winu(n 1) Wx(n) Wbacky(n))
其中，u(n 1)为所述训练集输入的网络流量数据，x(n)为更新前的动态池神经元状态值，x(n 1)为更新后的动态池神经元状态值，y(n)为所述训练集输出的网络流量数据，Win为输入权重矩阵，W为动态池的内部权重矩阵，n为非负整数；
所述输出权重矩阵公式包括：
其中，(Wout)t＝M-1T，其中，Wout为所述输出权重矩阵，M为所述联合状态矩阵，T为根据所述训练集得到的教师数据矩阵；将初始化时间点T0之前所述动态池神经元状态值舍弃，在获取动态池神经元状态值的时间段T-T0里，所述联合状态矩阵M的规模为(T-T0 1)×(K N L)，其中，所述K为所述输入层神经元的个数，N为所述动态池神经元的个数，L为所述输出层神经元的个数；
所述数据预测公式包括：
y(n 1)＝fout(Wout(u(n 1),x(n 1),y(n)))
其中，u(n 1)为所述预测输入的网络流量数据，y(n)为预测输出的网络流量数据，y(n 1)为下一单位时间的预测输出的网络流量数据，x(n 1)为更新后的动态池神经元状态值，Wout为所述输出权重矩阵。
6. 一种预测装置，其特征在于，包括：
建立单元，用于建立回声状态网络的预测模型，所述预测模型包括输入层、中间层和输出层；
所述预测模型中所述中间层的神经元相互连接形成动态池，所述动态池为混合神经元动态池，所述混合神经元动态池中所述小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；
其中，小波神经元可以为中间层神经元总数量的40％～60％，一般取小波神经元占中间层神经元总数量的50％；
所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终小波神经元与普通神经元按照预设比例交替连接；
在所述动态池中，所有神经元中的所述小波神经元与所述普通神经元交替连接构成一个环形结构，所述小波神经元与所述普通神经元是单方向连接的；
其中，将输入层神经元与所述中间层神经元的连接权重全部定为v，v的取值区间为[0.1,1]；动态池神经元自身的连接权重全部被定为r，r的取值区间为[0.1,1]；
训练单元，用于从输入的网络流量数据中获取训练集，根据所述训练集对所述预测模型进行预测训练，获取训练完成后的预测模型；
预测单元，用于通过预测输入的网络流量数据对所述训练完成的预测模型进行预测，获取预测过程中的预测输出的网络流量数据。
10. 根据权利要求9所述的装置，其特征在于，所述动态池神经元状态更新公式包括：
x(n 1)＝f(Winu(n 1) Wx(n) Wbacky(n))
其中，u(n 1)为所述训练集输入的网络流量数据，x(n)为更新前的动态池神经元状态值，x(n 1)为更新后的动态池神经元状态值，y(n)为所述训练集输出的网络流量数据，Win为输入权重矩阵，W为动态池的内部权重矩阵，n为非负整数；
所述输出权重矩阵公式包括：
其中，(Wout)t＝M-1T，其中，Wout为所述输出权重矩阵，M为所述联合状态矩阵，T为根据所述训练集得到的教师数据矩阵；将初始化时间点T0之前所述动态池神经元状态值舍弃，在获取动态池神经元状态值的时间段T-T0里，所述联合状态矩阵M的规模为(T-T0 1)×(K N L)，其中，所述K为所述输入层神经元的个数，N为所述动态池神经元的个数，L为所述输出层神经元的个数；
所述数据预测公式包括：
y(n 1)＝fout(Wout(u(n 1),x(n 1),y(n)))
其中，u(n 1)为所述预测输入的网络流量数据，y(n)为预测输出的网络流量数据，y(n 1)为下一单位时间的预测输出的网络流量数据，x(n 1)为更新后的动态池神经元状态值，Wout为所述输出权重矩阵。”
经形式审查合格，国家知识产权局于2019年02月03日依法受理了该复审请求，并将其转送至原审查部门进行前置审查。
原审查部门在前置审查意见书中认为， （1）对比文件2公开了小波神经元与普通神经元构成的混合神经元动态池，而神经元动态池的拓扑结构属于对神经网络本身的改进，并不会对整个方案带来技术上预料不到的技术效果。（2）连接权重的取值属于数学建模中的具体参数设置，本领域技术人员可以根据需要设置具体的数值。从属权利要求5和10新加入的特征中的矩阵M是对神经网络作出的改进，不属于技术上的改进，不会对整个技术方案带来预料不到的技术效果。（3）本申请解决的问题是：“在使用ESN回声状态网络对非线性系统的预测中，传统的ESN回声状态网络中的预测速度比较慢，预测精度不能达到要求”，这里的问题实际是传统回声状态网络本身缺陷造成的，而回声状态网络属于抽象网络模型，不涉及具体的技术，其解决的问题不属于专利法意义上的技术问题；其采用的手段主要是对传统回声网络模型进行改进，建立了包括输入层、中间层和输出层的预测模型，中间层是小波神经元与普通神经元交替连接构成的单向环形结构，以上构建均属于抽象网络模型的改进，不属于专利法意义上的技术手段；其达到的效果“有效地提升ESN网络的预测性能，提高预测速度和预测精度”，以上效果实际是改进后回声状态模型直接带来的效果，不属于技术效果。综上所述，本申请整体上属于对抽象模型的改进，且其并没有采取技术手段以达到相应的技术效果，并不是一种技术方案，不符合专利法第2条第2款的规定，因而坚持原驳回决定。
随后，国家知识产权局成立合议组对本案进行审理。
在上述程序的基础上，合议组认为本案事实已经清楚，可以作出审查决定。
二、决定的理由
1、审查文本的认定
复审请求人于2019年01月25日提出复审请求时提交了权利要求书的修改替换页，经审查，所做修改符合专利法第33条和专利法实施细则第61条第1款的规定。本复审决定所依据的文本为：2019年01月25日提交的权利要求第1-10项；申请日2013年08月28日提交的说明书第1-139段、说明书附图1-5、说明书摘要和摘要附图。
2、具体理由的阐述
2.1关于专利法第2条第2款
专利法第2条第2款规定：发明，是指对产品、方法或者其改进所提出的新的技术方案。
如果权利要求的解决方案整体上解决了技术问题，利用了技术手段，获得了技术效果，则该权利要求的解决方案属于专利法第2条第2款规定的技术方案。
2.1.1权利要求1的方案属于专利法第2条第2款规定的技术方案。
权利要求1请求保护一种回声状态网络的预测方法，包括：建立预测模型；从网络流量数据中获取训练集，通过训练获取训练完成后的预测模型；以及通过预测输入的网络流量数据对训练完成的预测模型进行预测，获取预测输出的网络流量数据。此外，权利要求1的方案还具体限定了所述预测模型中的所述中间层神经元所形成的动态池中的小波神经元和普通神经元的比例、连接方式和连接权重，以及输入层神经元和输出层神经元的连接权重。
根据说明书的内容和权利要求1限定的方案，权利要求1解决的问题是：在使用ESN回声状态网络对网络流量数据进行的预测中，传统的ESN回声状态网络中的预测速度比较慢，预测精度不能达到要求的问题。由此可见，权利要求1解决的问题是使用ESN回声状态网络对网络流量数据进行预测的预测过程中出现的问题，该问题不仅体现为回声状态网络本身存在的问题，还体现为将回声状态网络应用于网络流量数据的预测时出现的速度慢、精度达不到要求的问题，而如何提高网络流量数据的预测速度和预测精度体现的是自然规律利用过程中出现的问题，因而属于技术问题。
为解决上述问题，权利要求1的方法采用的步骤包括：建立预测模型；从网络流量数据中获取训练集，通过训练获取训练完成后的预测模型；以及通过预测输入的网络流量数据对训练完成的预测模型进行预测，获取预测输出的网络流量数据。上述各步骤作为一个整体体现了将回声状态网络应用于网络流量数据预测的预测过程，这种应用体现了自然规律的利用过程，因而上述各步骤整体上构成了技术手段。而权利要求1中对于预测模型动态池中小波神经元和普通神经元的比例、连接方式以及连接权重等的具体限定不仅是预测模型的一部分，还构成权利要求1预测方法的不可分割的内容，它们与其他内容一起构成权利要求1的整体方案，以便于通过改进回声状态网络来解决将该网络模型应用于特定技术领域的过程中出现的预测精度和预测速度达不到要求的问题。因此，权利要求1的方案采用了技术手段。
权利要求1的方法通过改进预测模型并执行上述各步骤而将回声状态模型应用于网络流量数据预测过程中，取得了提高预测速度和精度的效果，而提高预测速度和预测精度体现的是自然规律利用过程中所取得的效果，属于技术效果。因此，权利要求1的方案取得了技术效果。
综上所述，权利要求1的方案解决了技术问题，采用了技术手段并取得了技术效果，属于专利法第2条第2款规定的技术方案。
2.1.2权利要求2-5属于权利要求1的从属权利要求，权利要求6-10的装置与权利要求1-5的方法相对应，基于相同的理由，权利要求2-10也属于专利法第2条第2款规定的技术方案。
2.2关于专利法第22条第3款
专利法第22条第3款规定：创造性，是指与现有技术相比，该发明具有突出的实质性特点和显著的进步，该实用新型具有实质性特点和进步。
如果一项权利要求的技术方案与最接近的现有技术相比存在区别特征，现有技术也没有给出将所述区别特征应用于该最接近的现有技术以得到该权利要求的技术方案的技术启示，并且基于所述区别特征，该权利要求的技术方案具备有益的技术效果，那么该权利要求的技术方案具有突出的实质性特点和显著的进步，具备创造性。
2.2.1权利要求1具备创造性，符合专利法第22条第3款的规定。
权利要求1请求保护一种回声状态网络的预测方法。对比文件1公开了一种基于回声状态网络（ESN）的移动话务量预测方法（参见第2.2.1-4.3.2节），具体公开了：ESN模型的结构主要分为两部分，即基本拓扑结构和连接权值矩阵，基本拓扑结构包括输入层、储备池（相当于中间层）和输出层（具体参见第12页第3段）；输入层到储备池之间的连接权值矩阵中的元素值范围为[0,1] （由于连接权值矩阵元素的取值范围包括端点1，因而相当于公开了“将输入层神经元与所述中间层神经元的连接权重全部定为v，v的取值区间为[0.1,1]”），矩阵随机产生，并且一经产生将不再改变（具体参见第13页第7段）；基于回声状态网络的预测方案根据ESN的基本原理建立基于ESN的预测模型，在训练阶段，首先读入训练样本数据，训练该预测模型，通过误差评价指标计算得出训练误差，如果误差满足系统要求，则结束训练过程；在测试阶段，首先读入测试数据，依据训练好的预测模型预测输出值（具体参见第3.1.1节）；WESN模型在储备池中以小波神经元作为基本处理单元，该模型充分结合了ESN模型和小波分析的优点，借以提高ESN模型的预测精度（具体参见第4.3.1节第1段）（相当于“所述预测模型中所述中间层的神经元相互连接形成动态池”）。
权利要求1与对比文件1的区别在于：（1）所述动态池为混合神经元动态池，所述混合神经元动态池中小波神经元的数量与所述混合神经元动态池中神经元总数量的比例值为预设比例值；其中，所述小波神经元可以为中间层神经元总数量的40％～60％，一般取所述小波神经元占所述中间层神经元总数量的50％；（2）所述混合神经元中根据所述小波神经元占所述中间层神经元总数量的比例，随机选取一个普通神经元替换为所述小波神经元，然后顺序根据比例间隔一个或若干个所述普通神经元替换为所述小波神经元，最终所述小波神经元与所述普通神经元按照预设比例交替连接；在所述动态池中，所有神经元中的所述小波神经元与所述普通神经元交替连接构成一个环形结构，所述小波神经元与所述普通神经元是单方向连接的；动态池神经元自身的连接权重全部被定为r，r的取值区间为[0.1,1]；（3）回声状态网络预测的数据为网络流量数据。基于上述区别，权利要求1实际解决的技术问题是：如何改进ESN模型以提高网络流量数据的预测速度和精度。
对于上述区别特征（1），对比文件2公开了一种基于改进的回声状态神经网络的非线性预测，其中公开了一种小波与S形混合神经元回声状态网络（参见第3.3节），该混合网络内部使用的小波神经元的数量比在(0.45,0.55)之间（由于0.45和0.55位于0.4-0.6之间，因而相当于公开了“所述小波神经元可以为中间层神经元总数量的40％～60％”）。而“小波神经元占所述中间层神经元总数量的50％”是本领域技术人员在对比文件2的基础上根据实际需要容易选择和设置的。
对于上述区别特征（3），对比文件1已经公开了使用回声状态网络预测移动话务量，而网络流量数据与移动话务量数据具有类似的非线性非平稳特征，本领域技术人员在对网络流量数据进行预测时，容易想到使用回声状态网络进行预测。
对于上述区别特征（2），该区别特征（2）限定了回声状态网络中间层动态池中小波神经元和普通神经元的连接方式以及连接权重。在对比文件2中的小波神经元和S形神经元构成的环形结构中，小波神经元和S形神经元并未按照预定比例交替连接，并且在小波神经元和S形神经元的环形结构内存在两者双向连接的情形，此外，对比文件2也未涉及动态池中神经元的连接权重的问题，因此，对比文件2没有给出区别特征（2）的技术启示，此外，对比文件1虽然公开了小波回声状态网络模型，然而该模型的储备池中均是小波神经元，对比文件1也仅公开了储备池的内部矩阵为稀疏矩阵，因而对比文件1没有给出区别特征（2）的技术启示。上述区别特征（2）整体上也不是本领域公知常识，本领域技术人员在对比文件1的基础上结合对比文件2和本领域公知常识得出权利要求1的方案是非显而易见的。并且基于区别特征（2），权利要求1的预测方法所使用的回声状态网络模型中小波神经元和S形神经元的连接方式得以简化和固定，使得权利要求1的预测方法的预测速度和准确度得以提高，获得了有益的技术效果。因此，权利要求1相对于对比文件1和对比文件2以及公知常识的结合具备创造性。
2.2.2权利要求2-10具备创造性，符合专利法第22条第3款的规定。
权利要求2-5属于权利要求1的从属权利要求，在其引用的权利要求具备创造性的情况下，权利要求2-5也具备创造性。
权利要求6-10的装置与权利要求1-5的方法相对应，基于相同的理由，权利要求6-10也具备创造性。
至于权利要求1-10中是否存在其他问题有待于原审查部门进一步审查。
3.针对驳回决定和前置审查相关意见的评述。
对于驳回决定和前置审查的相关意见，合议组认为：（1）虽然权利要求1中对动态池中神经元的拓扑结构的改进属于对神经网络模型本身的改进，但是将上述模型应用于网络流量数据的预测之中体现了网络模型与具体应用领域的结合，这种结合体现了自然规律的利用，其解决了自然规律利用过程中出现的技术问题，采用了利用自然规律的技术手段，并获得了体现自然规律的技术效果。因而权利要求1的方案属于专利法第2条第2款规定的技术方案。（2）权利要求1基于对回声状态网络模型的改进的预测方法使得小波神经元和S形神经元的连接方式得以简化和固定，提高了预测速度和准确度，相对于对比文件1和对比文件2以及本领域公知常识的结合具备创造性（具体参见前述评述）。
三、决定
撤销国家知识产权局于2018年10月10日对本申请作出的驳回决定。由国家知识产权局原审查部门以下述文本为基础继续进行审批程序：
复审请求人于2019年01月25日提交的权利要求1-10；申请日2013年08月28日提交的说明书第1-139段，说明书附图1-5，说明书摘要和摘要附图。
如对本复审决定不服,根据专利法第41条第2款的规定，请求人可自收到本复审决定之日起三个月内向北京知识产权法院起诉。
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
