1.4 结束语
随着深度学习研究的进一步深入,如何 有效利用大量存在的先验知识,进而降低 模型对于大规模标注样本的依赖,逐渐成 为主流的研究方向之一。知识图谱的表示学习为这一方向的探索奠定了必要的基础。 近期出现的将知识融合入深度神经网络模 型的一些开创性工作也颇具启发性;但总 体而言,当前的深度学习模型使用先验知 识的手段仍然十分有限,学术界在这一方 向的探索上仍然面临巨大的挑战。这些挑 战主要体现在两个方面:
(1)如何获取各类知识的高质量连 续化表示。当前知识图谱的表示学习, 不管是基于怎样的学习原则,都不可避 免地产生语义损失。符号化的知识一旦 向量化后,大量的语义信息被丢弃,只 能表达十分模糊的语义相似关系。如何 为知识图谱习得高质量的连续化表示仍 然是个开放问题。
(2)如何在深度学习模型中融合常识 知识。大量的实际任务(诸如对话、问答、 阅读理解等等)需要机器理解常识。常识 知识的稀缺严重阻碍了通用人工智能的发 展。如何将常识引入到深度学习模型将是 未来人工智能研究领域的重大挑战,同时 也是重大机遇。