科学文献信息量巨大,使得手动阅读所有出版物变得不切实际,而高通量技术产生的数据也未能充分利用。自动化知识发现(Automated knowledge discovery,AKD)通过自动化数据分析和假设生成帮助应对这一挑战。知识图谱(knowledge graphs,KGs)作为一种强大的数据结构,整合异构数据并支持AKD,通过图算法推断实体之间的潜在关系。

img

这篇发表在《Nature Machine Intelligence*》的文章,介绍了一种利用知识图谱整合生物医学研究数据的方法,特别是通过构建名为iKraph*的大规模KG来应对科学文献的快速增长。该KG整合了PubMed摘要、40个公共数据库以及高通量基因组数据,显著提高了信息提取的准确性和全面性。作者还开发了一种基于概率的推理方法,用于识别间接因果关系,并成功应用于COVID-19药物再利用,识别出大量候选药物,其中部分得到了临床试验的支持。

iKraph的构建:方法创新与数据整合

美国国立卫生研究院(NIH)的国家转化科学促进中心组织了LitCoin自然语言处理(NLP)挑战赛。在LitCoin NLP挑战赛数据集中,标注了六种常见的生物实体类型:疾病、基因和蛋白质、化合物、物种、遗传变异和细胞系。还标注了八种实体关系类型:关联、结合、比较、转化、共治疗、药物相互作用、正相关和负相关。文章团队参加了挑战赛并获得了第一名,这篇文章介绍了该团队挑战赛中所采用的方法。

该团队使用最初为LitCoin NLP挑战赛开发的管道处理了2023年5月之前的所有PubMed摘要,构建了一个大规模KG,即iKraph。在构建iKraph的过程中,处理了超过3400万篇PubMed摘要,生成了10,686,927个唯一实体和30,758,640个唯一关系。

另外开发了一个模型,通过确定LitCoin数据集中每个关系的源实体和目标实体来预测相关关系的方向。添加这种方向信息将相关性转化为潜在的因果关系,使得能够构建一个有向KG用于知识发现应用。

有了方向信息,就可以通过简单的推理推断间接连接实体之间的关系。为此,团队设计了probabilistic semantic reasoning(PSR)算法。PSR能够在有限的计算资源下对所有药物和疾病进行全对全的药物再利用,并允许高效更新新推断的关系。例如,每天可以处理新发表的PubMed文章以提取发现并生成假设,以便及时传播。相比之下,大多数机器学习方法难以达到这种效率和可解释性水平。

应用案例:从COVID-19到复杂疾病的药物再利用

应用1:COVID-19药物再利用
利用PSR算法对2020年3月至2023年5月期间的COVID-19进行了实时药物再利用研究,从iKraph中识别了近600至1200种候选药物,其中前2个月确定的药物中有三分之一后来被验证为有效或潜在治疗方法。通过每月评估,检查了再利用药物是否被PubMed文献或临床试验验证,结果显示第一年验证药物数量激增,随后逐月下降,表明大多数药物与早期评估一致。在当前时间范围内的再利用研究中,前50种药物中的大多数已有研究支持其与COVID-19的相关性,且每种关系均有多篇文献支持。这些结果突显了iKraph在实时识别特定疾病候选药物方面的强大能力,并展示了其在药物再利用研究中的全面性和高效性。

应用2:囊性纤维化药物再利用
利用PSR算法揭示了1985年至2022年间药物与囊性纤维化之间的间接关系,自1990年代初以来每年至少识别出50种潜在再利用药物。通过计算召回率和观察阳性率,发现再利用药物的中位验证时间为9.4年,其中许多药物在文献中出现后2到33年才被验证。假设实验验证平均需要2年,iKraph有望将验证时间从9年缩短至2年,从而显著加速囊性纤维化治疗的药物再利用和验证。这些发现突显了iKraph在加速药物发现和验证方面的潜力。

应用3:十种疾病和十种处方药
为了评估方法的通用性,将药物再利用扩展到十种缺乏满意治疗的疾病和十种常用处方药。通过PSR算法,识别了大量候选药物,并计算了召回率和观察阳性率。结果显示,疾病再利用的平均召回率为0.76,药物再利用的平均召回率为0.86。许多再利用的适应症在PubMed摘要中未与任何治疗相关,表明这些广泛使用的药物可能填补某些疾病的治疗空白。进一步分析显示,基于PubMed的预测在大多数再利用药物或疾病中表现出更高的F1分数,突显了PubMed信息量的优势。这些发现证明了iKraph与PSR算法在识别候选药物方面的强大能力和广泛适用性。

噪声处理与未来优化

iKraph是如何处理低质量论文中的噪声信息。方法是通过多篇论文聚合关系的概率(例如A和B之间的关系)(下图)。每篇论文为特定关系分配一个概率,这些概率被组合形成总体评分。提及关系的论文越多,最终概率越高,从而降低噪声的影响。低质量证据的关系通常出现在较少的论文中,导致评分较低。

img
药物再利用策略和验证方法概述

然而,虽然这种方法为处理噪声数据提供了坚实的基础,但未来的改进可能包括根据期刊影响因子、引用次数和发表日期等因素对论文进行加权。整合这些指标与之前研究中的方法一致,这些研究表明作者多样性、机构独立性和发表密度等特征可以预测科学主张的稳健性和可重复性。整合这些指标可以通过赋予高质量来源更多权重来进一步优化评分。此外,发表日期可以用于平衡新旧研究结果的相关性,确保最新和最具影响力的研究在最终概率中发挥更重要的作用。这种整体方法将帮助iKraph在抵御错误信息的同时,通过自适应加权不断提高预测的准确性。

iKraph与大型语言模型(LLMs)的协同潜力

近年来,大型语言模型(LLMs)的出现通过微调LLMs在信息提取方面取得了显著进展。利用现代LLMs的能力可以实现范式转变。通过最初生成有限的高质量标注数据,可以训练出在更大文本数据集上达到人类水平精度的信息提取模型。这种方法可以在不牺牲数据质量的情况下显著扩展公共数据库的覆盖范围。

尽管LLMs在理解和生成自然语言方面展示了卓越的能力,但它们并非没有缺点。一个显著的局限性是其固定的知识截止日期,这限制了它们对最新发展的了解。此外,在生物医学研究中,精度至关重要,仅依赖LLMs回答特定问题可能会因知识库有限而导致不准确。

此外,LLMs倾向于生成虽然表达流畅但可能缺乏事实准确性的文本,这引发了对LLMs生成答案真实性的担忧,需要验证机制和生成更有依据的结果,可能需要适当的引用。将iKraph等KG与LLMs结合可以有效缓解这些局限性。为此,该团队正在积极开发一个结合iKraph与开源LLM的综合问答系统。总之,iKraph为更有效和高效的信息检索和AKD提供了强大的支持。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐