知识图谱系列 知识图谱预训练综述30页汇报ppt免费获取
本文介绍六篇有关知识图谱预训练的优秀论文 ， 大致上可分为两类 ， 生成学习模型和对比学习模型 。 其中GPT-GNN模型是生成学习模型 ， 模型灵感来源于自然语言处理中的GPT模型；GCC ， GraphCL ， DGI ， InfoGraph和Multi-View这五篇属于对比学习模型 。 30页完整汇报ppt获取请关注公众号【AI机器学习与知识图谱】回复关键字：知识图谱预训练
文章图片
一、背景知识图谱预训练作用：图神经网络(GNNs)已被证明是建模图结构数据的强大工具 。 然而 ， 训练GNN模型通常需要大量的特定任务的标记数据 ， 而获取这些数据往往非常昂贵 。 利用自监督GNN模型对未标记图谱数据进行预训练是减少标记工作的一种有效方法 ， 然后将预训练学习到的模型可用在只有少量标签图谱数据的下游任务 。 ContrastiveLearning对比学习：自监督学习方案常用的两种方式 ， 一种是生成式学习 ， 另一种就是对比学习 。 对比学习主要利用了样本间的约束信息构造辅助任务 ， 通过构建正样本和负样本 ， 然后度量正负样本的距离进行自监督学习 。 对比学习的关键就在于如何合理定义正负样本 ， 也是难点所在 。
GenerativeLearning生成式学习：生成式方法以自编码器为代表 ， 在自编码器中对数据样本编码成特征再解码重构 ， 以此来学习样本的特征表达 。
二、PAPERPPT
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
文章图片
- 魅族20系列电源适配器通过认证
- 手机同质化一直非常的严重|小米13系列好评满满，骁龙8gen2比苹果a16更强
- AMD的RX7900系列显卡昨晚解禁了|RX 7900赢回一波 4K视频生产力终于超越RTX4090
- 12月13日消息|小米13系列手机明日开售售价4599元
- 雷军宣布小米13系列将很快登陆全球市场：国外用户激动坏了在中国市场发布后|雷军宣布小米13系列很快登陆全球市场：国外用户激动坏了
- 小米|双尺寸旗舰对标苹果！小米13系列明日开售：3999元起
- RX|AMD RX 7900系列非公版必然要涨价：玩家要失望了
- vivos16系列三款机型将搭载exynos1080、天玑8
- 在小米13系列&MIUI14新品发布会上|立减200元：小米soundpro音箱2台套装狂促开启
- RX|最贵9999元！AMD RX 7900系列太少买不到？厂商正补库存