Node Classification on Graphs with Few-Shot Novel Labels via Meta Transformed Network Embedding

https://arxiv.org/pdf/2007.02914

https://github.com/llan-ml/MetaTNE

Node Classification on Graphs with Few-Shot Novel Labels via Meta Transformed Network Embedding,NIPS,2020

总结:最大的创新点就是嵌入转换函数,利用自注意力机制对节点嵌入进行调整使其task-specific。针对小样本设置还是利用元学习思想,学习不同类别间统一的内在模式,提高目标任务上的分类准确度。

目前图上的小样本问题大多都是针对有标签节点数量较少,且基本都是利用元学习思想来做,可以尝试着用小样本学习中的其他方法比如基于生成等等。另外可以探索一下关系或者属性在小样本场景下该如何做。

阅读更多...

Graph Meta Learning via Local Subgraphs

https://arxiv.org/pdf/2006.07889

https://github.com/mims-harvard/G-Meta

Graph Meta Learning via Local Subgraphs ,NIPS,2020

总结:本文算法上没有太大的创新,将MAML拓展到图学习领域,基于度量学习判别样本标签。

  1. 在元任务上学习一个GNN参数,将其代入目标任务的GNN中进行微调
  2. 使用子图学习每个节点的嵌入,利用局部子图实现元学习(这块理论证明比较充分)

还有一点就是文章故事讲的很好,完整的定义了图上的元学习以及常见的三种类型的元学习任务,然后提出了可以同时适用这三种类型问题的模型,而其他模型通常只能解决其中一种。

阅读更多...

网络嵌入综述

https://link.springer.com/article/10.1007/s00521-020-04908-5

Network representation learning: a systematic literature review

1.概述

1.1 背景

Data Representation:用一系列符号或者数字也就是特征向量来描述某个对象,它能反映所描述对象的特征、结构以及分布信息。一个好的数据表示通常能大大减小数据的体量,同时保持原始数据的基本特征以及对噪声的鲁棒性。表示学习近些年来在模式识别和机器学习领域是一个非常重要的研究热点,在很多顶级期刊会议,如TPAMI、TNNLS、TKDE、KDD、NIPS、ICML、AAAI、IJCAI以及ICLR等,都有很多相关文章。

表示学习可以直接从原始低维感知数据中学习到高维抽象特征,这更有利于后续的数据分析和处理。深度学习是表示学习的一种典型方法,它能自动提取适当的特征或者从数据中获取到对个级别的表示。深度学习技术已经成功应用在语音识别、信号处理、图像识别、对象识别等领域,尤其是在自然语言处理领域。

在表示学习的浪潮中,网络表示学习(又称网络嵌入)也在蓬勃发展。因为从网络数据中提取结构信息的传统方法通常取决于拓扑统计信息、聚合系数或者设计精良的人工特征,这带来了很多弊端。因此受成功应用在NLP领域的表示学习的启发,网络表示学习旨在从给定网络数据中学习到低维向量空间中的一些特征,但是编码了各种列结构和语义信息。获取到数据向量表示后,可以通过现成的机器学习方法直接解决网络挖掘问题。网络表示学习已经被证明可用于许多数据挖掘和机器学习任务,比如链路预测、节点分类、网络重构、推荐、可视化以及社区发现等等。下图展示了2010年~2020年网络表示相关论文数量:

阅读更多...

SpringBoot自动配置原理

我们知道SpringBoot是Spring的一种便携式使用方式,可以达到开箱即用的效果,避免了原生Spring中那些繁杂的配置工作。那么SpringBoot是如何实现自动配置功能的呢?

这还要从启动类注解@SpringBootApplication说起。

我们知道@SpringBootApplication是一个组合注解,主要由三个注解组成:

  • SpringBootConfiguration注解 表示这是SpringBoot的配置类
  • @ComponentScan 开启组件扫描
  • @EnableAutoConfiguration这个注解的作用就是让SpringBoot开启自动配置
阅读更多...
  • Copyrights © 2021-2022 Yin Peng
  • 引擎: Hexo   |  主题:修改自 Ayer
  • 访问人数: | 浏览次数:

请我喝杯咖啡吧~

支付宝
微信