外部生物医学资源有助于许多生物医学研究,例如测量医学相似性等


外部生物医学资源有助于许多生物医学研究,例如测量医学相似性等


文章图片


外部生物医学资源有助于许多生物医学研究,例如测量医学相似性等


文章图片


外部生物医学资源有助于许多生物医学研究,例如测量医学相似性等


文章图片


与骨架长短期记忆相比 , 科学家通过整合常规单词信息和语法信息 , 构建了一个具有三个通道的基于依赖的长短期记忆 。 最后 , 在最大之后 , 将通道的所有输出连接起来进行分类 。 在上一节中 , 科学家们讨论了注意力机制在自然语言处理中的优势 。 接下来 , 科学家们介绍所有基于注意力的有效递归神经网络模型 。 提出了基于注意力的长短期记忆 , 将注意力机制应用于嵌入 。

科学家利用两个向量来学习句子中每个单词相对于给定药物的相关权重 。 然后 , 将原始词嵌入与相关因子相乘 , 得到面向药物的词嵌入 。 最后 , 包括词嵌入、位置嵌入和词性嵌入 , 这些向量被连接成一个向量作为输入嵌入 。 其他操作与传统的Bi长短期记忆相同 。 科学家证明了A最短依赖路径-长短期记忆的不同结构 。 此药物-药物相互作用提取模型利用从最短依赖路径派生的依赖语法信息 。

【外部生物医学资源有助于许多生物医学研究,例如测量医学相似性等】最短依赖路径可以过滤掉许多不太重要的词 , 以将重要词保留在两个药物实体之间的依存句法图上;因此 , 它在处理复杂而长的句子时特别有价值 。 最短依赖路径的示例对于关系分类非常有用 。 该模型还使用了类似于长短期记忆的实体注意机制 , 对句子序列和最短依赖路径进行操作 。 此外 , 基本结构是一个分层的长短期记忆 , 包含顶层长短期记忆和底层长短期记忆 。 底部的长短期记忆从最短依赖路径和三个子序列中学习特征表示 。

顶层长短期记忆旨在整合两个药物实体、三个子序列和最短依赖路径的表示以获得语义信息科学家提供了另一个使用注意力层提取药物-药物相互作用的例子 。 命名为2ATT-递归神经网络 。 如递归神经网络表示这个递归神经网络模型有两个层 。 词注意层计算每个词对分类的重要性 , 但它只从给定实例中学习特征 。 有必要利用其他相关句子来捕获药物的特征 , 因为具有相同两个药物实体的句子可能包含相关信息 。

实验结果证明 , 使用两个注意力层在一定程度上提高了性能周等人假设生物医学句子通常包含许多药物实体并且总是冗长的 。 他们的模型中提出了一种位置感知注意机制 , 它将单词与目标实体的相对位置信息与Bi长短期记忆层的隐藏状态相结合 。 此外 , 使用了多任务学习框架:任务一是预测两种药物是否可以相互作用;任务二是一个多类分类问题 , 用于区分药物-药物相互作用的真实类型 。

为一项任务学到的知识可以提高另一项学习性能 。 提出的联合AB-长短期记忆模型 。 解决药物-药物相互作用提取任务的联合模型 。 重要的是 , 仅在整个序列上使用一个最优向量可能会影响分类结果 。 与最大池不同 , 注意力池是一种注意力机制 , 专注于相关的语义信息 。 因此 , 它同时应用了最大池化和注意力池化 , 并且有两个独立的部分 , 每个部分都有一个通用的长短期记忆结构 , 应用两种不同的池化操作来计算不同的最优向量 。

最后 , 全连接层使用结合两个不同向量的最终特征向量进行分类 。 很明显 , 外部生物医学资源有助于许多生物医学研究 , 例如测量医学相似性和表示医学概念 。 许多药物-药物相互作用提取的相关研究也利用一些外部资源来提高性能 , 然而 , 提取方法使用的这些资源不能快速更新 , 因为它们来自一些延迟的信息源 。 首先使用了用户生成的内容 , 其中包含大量有价值的信息并且可以及时更新 。

    推荐阅读