深度学习的五个方面

心已赠人 2022-07-14 07:59 227阅读 0赞

下面具体阐述一下深度学习能力的五个分类。

### C ###

C级别作者的定义是Classification Only，可以理解为只能做分类。涉及到的系统包含全链接神经网络（FCN）、卷积网络（CNN）以及它们的各种组合。这些系统采用高维向量作为输入并实现单个结果，通常是输入向量的一个分类。你可以把这些系统当作是无状态函数，这意味着当前的行为仅仅是输入的一个函数。生成模型也是热门研究领域中的一员，也归于此类。简而言之，这些系统本身都是相当有能力的。

### CM ###

CM是Classification with Memory的缩写，理解成在分类的基础之上进行记忆。该级别包括与C级网络合并的存储器元件，例如LSTM，其中存储器单元被嵌入在LSTM节点内部。其它变体则是来自DeepMind的神经图灵机（NMT）和可微分神经计算机（DNC），它们在计算时都处于维护状态。

### CK ###

CK即是Classification with Knowledge的缩写，即可以形成自己的知识系统。该级别与CM级别有点类似，但并不是原始存储器，C级网络能够访问的信息是符号知识库。实际上，我发现了三种符号集成，一种是转移学习方法、一种是自上而下方法、最后一种是自下而上的方法。第一种主要是作为正则化矩阵的符号系统；第二种方法处于层次结构的顶部，具有在底部由神经表示构成的符号元素；最后一种则与第二种方法相反，其中C级网络实际上被附加在了符号知识库上。

### CIK ###

CIK是Classification with Imperfect Knowledge缩写，可以对不完整的知识库进行分类。该级别系统建立在CK之上，但是能对不完整信息进行推理。该级别的典型例子是AlphaGo和扑克系统，这些系统可以通过对自身模拟来训练自己。

### CCIK ###

CCIK的全称是Collaborative Classification with Imperfect Knowledge，即可以对不完整的知识库进行分类并且可以互相协作。这个级别与“心理理论”非常类似，实际上，我们有多种代理神经网络组合来解决问题，这些系统旨在实现多个目标。实际上，我们在对抗网络上做过这个原始版本，通过执行泛化的竞争鉴别器和生成网络将这个概念进一步扩展到游戏理论驱动的网络，能够执行战略和战术解决多个目标。

每个级别都有其不同的功能产生，例如，C级系统只能够预测anti-causal关系，CM拥有非常好的翻译能力，CIK级别系统能够进行战略游戏。