0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于图神经网络的图异常值检测库介绍

TigerGraph 来源:TigerGraph 作者:Yingtong Dou 2022-12-08 10:34 次阅读

文章具体介绍了图神经网络的基本机制,以及图上无监督节点异常值检测的概念和方法。同时他还分享了在这方面的一些发现和想法。最后,我们将介绍一个基于 GNN 的图异常值检测库 (PyGOD) 及其与 TigerGraph机器学习工作台的集成。

图神经网络 (GNN)

我们先简单了解一下现在热门的图神经网络 (GNN),这已经成为图数据挖掘的一种主导且强大的工具。与图像数据的 CNN 相似,GNN 是一种神经网络,旨在对图结构进行编码并通过迭代聚合其邻居的嵌入来学习节点的嵌入 (见图 1)。大多数 GNN 都持有同源性假设,即相连的节点是相似的;因此,聚合邻居的信息将有助于学习信息量更大的中心节点表示。中心节点表示可用于节点分类、链接预测和异常值检测 (OD) 等下游任务。

ed7d2b2c-761e-11ed-8abf-dac502259ad0.png

图1:图神经网络

图上的异常值

异常值是与其余数据显著不同的样本。作为数据挖掘研究的主流方向,异常值检测在行业中也至关重要。现实世界数据中的异常值通常表示欺诈行为、系统错误、网络入侵或网络故障。这些异常值可能导致重大的财务损失和安全问题。

除了传统表格数据中的异常值外,图模型还可以提高异常值检测的性能,特别是当数据实例具有共同的属性和接近性时。社交平台的机器人账户单个看可能没什么问题(如图 2 所示),但它的转发行为密集相连,从图的角度来看容易发现其中的异常。

ed9d5d0c-761e-11ed-8abf-dac502259ad0.png

图2:图上的异常值

在图异常值检测中,以前的文献已经定义并研究了两种典型的异常值类型。(1) 结构异常值是指密集相连的节点,相反则是稀疏连接的常规节点,例如前面提到的社交网络问题(图 2 所示)。(2) 上下文异常值是其属性与相邻节点明显不同的节点。它的定义与经典的基于接近度的异常值检测方法中的异常值假设相似。上下文异常值描绘了与图中邻居不同的节点,例如计算机网络中的受损设备。

edd2aa8e-761e-11ed-8abf-dac502259ad0.png

图3:两种典型的异常值类型

基于 GNN 的节点异常值检测

在 GNN 取得进展之前,大家就已经利用矩阵分解、密度聚类和关系学习方法来编码图信息并识别异常值。其他异常值检测方法大家可以参考文中链接(https://arxiv.org/abs/1404.4679)。

回到 GNN,在获得节点表示之后,GNN 会使用不同的损失函数(目标函数)进行优化,用于不同的任务。例如,使用交叉熵损失来优化 GNN 用于节点分类任务。

对于节点异常值检测,常规做法是将 GNNs 集成到自动编码器中,将 GNN 用作编码器和解码器。这种神经网络架构称为图自动编码器(简称:GAE)。与香草自编码器一样,GAE 通过重建图数据来编码图信息,即重建节点特征和边。在异常值检测方面,GAE 可用于编码正常图信息,具有高重构误差的节点将表明其异常程度。图4就是使用 GAE 进行节点异常值检测的第一种模型。

edf8ca7a-761e-11ed-8abf-dac502259ad0.png

图4:The OD framework of DOMINANT (SDM’ 19)

需要注意的是,使用 GAE 进行异常值检测对图数据有两个隐含假设:(1)异常值仅占据少量数据,而大部分数据是正常的;(2)正常数据具有共同的属性和结构特征。在此假设下,GAE 可以用来检测结构和上下文异常值,近两年来也已经有了许多 GAE 的变体。

基准测试的发现

接下来,跟大家分享一些基于 GNN 的节点异常值检测方法进行基准测试的一些发现:

1. 许多现有的基于 GNN 的异常值检测方法都是基于合成异常值的相对朴素的假设来开发的;因此,许多方法在检测有机异常值时效果并不理想。有机异常值通常非常复杂,其分布也可能多种多样。但是,我们的基准测试表明,如果有机异常值遵循预定义的异常类型,则基于 GNN 的异常值检测方法将是有效的。

2. 和大多数深度学习方法一样,基于 GNN 的异常值检测方法在小图中效果都不是最优的。与此同时,大多数基于 GNN 的异常值检测方法在拥有数千万个节点的大图中都不具有可伸缩性。

3. 无监督的基于 GNN 的异常值检测方法的性能严重依赖于超参数,而在无监督学习中的超参数调整仍然是机器学习研究和实践中的挑战。

4. 大多数基于 GNN 的异常值检测方法更倾向于特定类型的异常值。平衡和优化每种异常值类型的检测性能并不容易。同时,在预期中没有方法具有一致的性能或者在不同的数据集上优于其他方法。

基于图的异常值检测指南

基于上述发现,由于其可扩展性约束,我们认为基于 GNN 的异常值检测与工业应用之间仍存在差距。开发基于 GNN 的自动化、可扩展和任务导向的异常值检测方法将是一个具有发展潜力的方向。至于到底是应用基于 GNN 的异常值检测或基于图的异常值检测,作者也给出了应用指南(图5),以方便从业者参考。我们简单跟大家分享几点,例如,是否采用图?可以看异常实体是否具有共同的特性,异常实体是否具有集群行为,还有就是成本与效益之间的权衡。而是否采用GNN?则需要考虑基础设施,功能可用性和功能类型,还有与其他模块和任务集成。具体指南图大家可以关注我们的微信公众号查看正文。

ee0fe76e-761e-11ed-8abf-dac502259ad0.png

图5:基于图的异常值检测指南

从上述指南中,作者强调了数据探索分析和精确问题定义对于应用基于图的异常值检测是至关重要的。

PyGOD 和TigerGraph ML Workbench

最后,作者还跟大家介绍了 PyGOD,这是一个与图异常值检测基准测试一起开发的 Python 库。该库基于 PyTorch 和 PyTorch Geometric (PyG) 开发,其 API 样式遵循流行的机器学习库 scikit-learn,可以很容易地使用五行代码检测图中的异常点:

ee3ace16-761e-11ed-8abf-dac502259ad0.png

PyGOD是一个不断发展的Python库,旨在涵盖更多的检测功能和更高的可扩展性。TigerGraph ML Workbench能够将图数据从TigerGraph DB转换为PyG数据对象,因此PyGOD可以在TigerGraph中轻松安装和测试。

ee6ad408-761e-11ed-8abf-dac502259ad0.png

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4771

    浏览量

    100739
  • 机器学习
    +关注

    关注

    66

    文章

    8411

    浏览量

    132595

原文标题:Vol. 38 基于图神经网络的图异常值检测:简介

文章出处:【微信号:TigerGraph,微信公众号:TigerGraph】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    LSTM神经网络的训练数据准备方法

    : 一、数据收集与清洗 数据收集 : 根据LSTM神经网络的应用场景(如时间序列预测、自然语言处理等),收集相关的时间序列数据或文本数据。 数据可以来自数据、日志文件、传感器读数、用户行为记录等多种来源。 数据清洗 : 去除数据中的噪声和
    的头像 发表于 11-13 10:08 511次阅读

    BP神经网络和人工神经网络的区别

    BP神经网络和人工神经网络(Artificial Neural Networks,简称ANNs)之间的关系与区别,是神经网络领域中一个基础且重要的话题。本文将从定义、结构、算法、应用及未来发展等多个方面,详细阐述BP
    的头像 发表于 07-10 15:20 1032次阅读

    基于神经网络的全息生成算法

    全息生成威廉希尔官方网站 作为光学与计算机科学交叉领域的重要研究方向,近年来随着神经网络威廉希尔官方网站 的飞速发展,取得了显著进展。基于神经网络的全息生成算法,以其强大的非线性拟合能力和高效的计算性能,为全
    的头像 发表于 07-09 15:54 453次阅读

    rnn是递归神经网络还是循环神经网络

    RNN(Recurrent Neural Network)是循环神经网络,而非递归神经网络。循环神经网络是一种具有时间序列特性的神经网络,能够处理序列数据,具有记忆功能。以下是关于循环
    的头像 发表于 07-05 09:52 563次阅读

    递归神经网络是循环神经网络

    递归神经网络(Recurrent Neural Network,简称RNN)和循环神经网络(Recurrent Neural Network,简称RNN)实际上是同一个概念,只是不同的翻译方式
    的头像 发表于 07-04 14:54 743次阅读

    反向传播神经网络和bp神经网络的区别

    反向传播神经网络(Backpropagation Neural Network,简称BP神经网络)是一种多层前馈神经网络,它通过反向传播算法来调整网络中的权重和偏置,以达到最小化误差的
    的头像 发表于 07-03 11:00 793次阅读

    bp神经网络和卷积神经网络区别是什么

    BP神经网络(Backpropagation Neural Network)和卷积神经网络(Convolutional Neural Network,简称CNN)是两种不同类型的人工神经网络,它们在
    的头像 发表于 07-03 10:12 1167次阅读

    卷积神经网络的一般步骤是什么

    数据预处理、构建网络结构、前向传播、反向传播、参数更新、模型评估和应用等环节。 数据预处理 数据预处理是卷积神经网络训练的第一步,主要包括数据清洗、数据增强、归一化等操作。 1.1 数据清洗 数据清洗是指去除数据集中的噪声、异常值
    的头像 发表于 07-03 09:11 1088次阅读

    卷积神经网络的原理是什么

    卷积神经网络(Convolutional Neural Network,简称CNN)是一种深度学习模型,广泛应用于图像识别、语音识别、自然语言处理等领域。本文将详细介绍卷积神经网络的原理,包括其
    的头像 发表于 07-02 14:44 639次阅读

    卷积神经网络和bp神经网络的区别

    卷积神经网络(Convolutional Neural Networks,简称CNN)和BP神经网络(Backpropagation Neural Networks,简称BPNN)是两种
    的头像 发表于 07-02 14:24 3727次阅读

    建立神经网络模型的三个步骤

    建立神经网络模型是一个复杂的过程,涉及到多个步骤和细节。以下是对建立神经网络模型的三个主要步骤的介绍: 第一步:数据准备 1.1 数据收集 数据是神经网络的基础。首先,你需要收集足够的
    的头像 发表于 07-02 11:20 910次阅读

    人工神经网络的工作原理是什么

    和学习。本文将详细介绍人工神经网络的工作原理,包括其基本概念、结构、学习算法和应用领域。 基本概念 1.1 神经神经元是人工神经网络的基
    的头像 发表于 07-02 10:06 1186次阅读

    神经网络架构有哪些

    、语音识别、自然语言处理等多个领域。本文将对几种主要的神经网络架构进行详细介绍,包括前馈神经网络、循环神经网络、卷积神经网络、生成对抗
    的头像 发表于 07-01 14:16 698次阅读

    利用深度循环神经网络对心电降噪

    具体的软硬件实现点击 http://mcu-ai.com/ MCU-AI威廉希尔官方网站 网页_MCU-AI 我们提出了一种利用由长短期记忆 (LSTM) 单元构建的深度循环神经网络来降 噪心电信号 (ECG
    发表于 05-15 14:42

    了解如何使用PyTorch构建神经网络

    神经网络直接应用于数据集,您可以训练它们以预测节点、边缘和与相关的任务。它用于和节点分类、链路预测、
    发表于 02-21 12:19 757次阅读
    了解如何使用PyTorch构建<b class='flag-5'>图</b><b class='flag-5'>神经网络</b>