本文参考自 图机器学习入门
今天不谈AI具体应用,我们来学一学图机器学习。尝试靠一文,带你入门图机器学习。
我们首先会学习什么是图,为什么使用图,以及如何最佳地表示图。然后我们简要介绍大家如何在图数据上学习,从神经网络以前的方法到现在广为人知的图神经网络(Graph Neural Network,GNN)。最后,我们也将一窥图数据上的Transformers世界。
什么是图?本质上讲,图描述着由关系相互链接起来的实体。
现实中很多图的例子,包括我现在正在做的社交网络(微信,以及任何链接论文和作者的引用网络)、知识图谱(UML图,百科全书,以及那些页面之间有超链接的网站)、被表示成句法树的句子、3D网格,甚至是蜘蛛网。因此,图真的无处不在。
图(或网络)中的实体称为 节点 (或顶点),它们之间的连接称为 边 (或链接)。举个例子,在社交网络中,节点是用户,而边是他(她)们之间的连接关系;在分子中,节点是原子,而边是它们之间的分子键。
可以存在不止一种类型的节点或边的图称为 异构图 ,比如,引用网络的节点有论文和作者两种类型,含有多种关系类型的XML图的边是多类型地。异构图不仅能由其 ...
我们将要探索的
节点嵌入方法: DeepWalk, Node2Vec
图神经网络: GCN, GraphSAGE, GAT…
图变换器
知识图谱与推理: TransE, BetaE
图生成模型: GraphRNN
三维图: 分子结构
大规模图处理
在生物医药、科学、技术领域的应用
我们经常遇到的一个典型例子就是异构图。异构图定义为:G = (V, E, R, T)
其中:
节点及节点类型 vi ∈ V
带关系类型的边 (vi, r, vj) ∈ E
节点类型映射函数 T(vi)
关系类型 r ∈ R
节点和边都可以具有属性/特征
简单的说,异构图是节点类型不同或关系类型不同的图。而这种结构在现实世界中非常常见,例如:
社交网络中的用户、帖子、评论等不同类型的节点
知识图谱中的实体和关系
推荐系统中的用户、物品、类别等多种节点类型
选择合适的图表示方法选择一个合适的图表示方法决定着我们是否能够顺利使用网络,如果不能很好的表示出其原本具有的信息,那对其相关的训练也会产生误差。
无向图 vs 有向图顾名思义,无向图的边没有方向,而有向图的边有方向。
二分图二分图 ...
图神经网络
未读这里有什么本系列基于斯坦福大学CS224W课程,包含知识点与colab作业。
本系列内容由亚里士原创!
官网课程链接CS224W: Machine Learning with Graphs
我们永远在路上。
小芷掰掰手指,心里数了数,自己已经15天没有成功过了。
太阳扑向操场上女孩子大大的眼,似乎想要把她吞进那红得发紫的日冕层。小芷不服,硬是睁开眼,和它对视。眼睛发酸,不听指令自己锁掉了眼皮。
“我是怎么了?”小芷不知道。可是她不知道别人可更不知道了。谁会去关心一个闲来无事就躺操场的、安安静静的孩子呢。
小芷光知道,自己苦苦练半年的排球,却被只练了两个月的好朋友轻轻打败;小芷光知道,自己努力了一学期学的课,却给了她一个不堪入目的成绩;小芷光知道,自己精心写出的歌,却在互联网上无人问津,还被顺带骂了几句。
小芷捋了捋自己的头发,乱的。
小芷揉了揉自己的眼睛,酸的。
小芷擦了擦自己的小鞋子,脏的。
“幸好妈妈看不到我,不然又要骂我了!”小芷庆幸。“这么不爱干净,一心都在你那奇奇怪怪又多样的爱好上!”母亲熟悉的话冲向小女孩,她赶忙摇头,“不要!不要!”小芷强迫自己不再回忆。自己也已经十七岁了诶。
操场上的脚步声错综复杂,扰乱着小女孩的思绪。“我也好久没跑了,天天来操场,却不跑步,上次跑步还是一个月前了诶。”小芷侧过身,背对太阳。太阳和小女孩做出了一个梯形的阴影。
“要不,跑一下?”小芷试探着问自 ...
一页书,敬自己,敬过往,敬你朋友,也许你正在网络搜索,无意间发现了我们的网站,也许你正处迷茫,不知道如何继续自己的生活。
停下来,喝杯茶,我们一起聊聊,感悟人生,聊天聊地。
关于这个网站这里有AI公众号 亚里士AI说 精神的传承,本人也是该公众号作者,我会在这里分享:
莫名其妙的心理感悟
完整细腻的AI理论
突发奇想的文学创作
And so on…
作者是谁?正如网站显示的,作者是亚里士多章,目前正在大学攻读AI领域。
大学所得成就
AI专业排名 Rank 1
数学建模领域深耕,获奖有:
“高教社杯”全国大学生数学建模竞赛 国家二等奖
“电工杯”数学建模竞赛 国家一等奖
本校数学建模竞赛一等奖
还在探索的:
asc竞赛
算法竞赛
数据挖掘
童话创作
写在最后
千里之行,始于足下
这是一个起点,希望能在这里:
见证我们的成长
记录我们的故事
存档我们的知识
欢迎常来做客,让我们一起探索AI的奇妙世界~
如果你也对AI感兴趣,欢迎:
收藏本站常来看看
一起探讨技术与生活
期待与你相遇! ❤️
机器学习基础
未读监督学习模型的定义监督学习模型就是将一个或多个输入转化为一个或多个输出的方式。比如,我们可以将某部二手丰田普锐斯的车龄和行驶里程作为输入,预估的车辆价格则是输出。
相当于改变参数,然后可以形成一个正确函数进行预测。
举例:easy-tensorflow中实现的神经网络训练底层就是这个原理,结果一定数量训练将随机生成的梯度往正确梯度上改变,最后实现正确预测。
生成模型与判别模型的区别
生成 (Generative) 模型与判别 (Discriminative) 模型
判别模型就像一个熟练的图片分类员,看到图片就能快速判断
生成模型就像一个画家,了解狗的特征,可以画出各种狗的图片
模型 y = f[x, ϕ] 属于判别模型。这类模型基于实际测量的数据 x 来预测输出 y。另一种方法是构建生成模型 x = g[y, ϕ],在这种模型中,实际测量的数据 x 被看作是输出 y 的函数。
虽然生成模型的缺点是它们不直接预测 y,但它们的优势在于能够融入关于数据生成方式的先验知识。比如,如果我们要预测图像 x 中汽车的三维位置和方向 y,我们可以在函数 x = ...