一文 Get 汽車(chē)知識(shí)的語(yǔ)義網(wǎng)絡(luò)及圖譜構(gòu)建（2）

問(wèn)題1：?jiǎn)蝹€(gè)領(lǐng)域內(nèi)，?檔內(nèi)容和格式多樣，需要?量的標(biāo)注數(shù)據(jù)，成本?。問(wèn)題2：領(lǐng)域之間遷移的效果不夠好，跨領(lǐng)域的可規(guī)模化拓展的代價(jià)?。關(guān)鍵點(diǎn)：模型基本都是針對(duì)特定?業(yè)特定場(chǎng)景，換?個(gè)場(chǎng)景，效果會(huì)出現(xiàn)明顯下降。解決思路：Pre-train + Finetune的范式。預(yù)訓(xùn)練：重量級(jí)底座讓模型“?多識(shí)?”，充分利??規(guī)模多?業(yè)的?標(biāo)?檔，訓(xùn)練?個(gè)統(tǒng)?的預(yù)訓(xùn)練底座，增強(qiáng)模型對(duì)各類(lèi)?檔的表示和理解能?；微調(diào)：輕量級(jí)?檔結(jié)構(gòu)化算法。在預(yù)訓(xùn)練基礎(chǔ)上，構(gòu)建輕量級(jí)的?向?檔結(jié)構(gòu)化的算法，降低標(biāo)注成本。基于??本的預(yù)訓(xùn)練?法，大多都沒(méi)有考慮?檔特性，如空間（Spartial）、視覺(jué)（Visual）等信息。并且基于?本設(shè)計(jì)的PretrainTask，整體是針對(duì)純?本進(jìn)?的設(shè)計(jì)，?沒(méi)有針對(duì)?檔的邏輯結(jié)構(gòu)設(shè)計(jì)。針對(duì)該問(wèn)題這里介紹一種??檔預(yù)訓(xùn)練模型DocBert[3]，DocBert模型設(shè)計(jì)。使??規(guī)模（百萬(wàn)級(jí)）?標(biāo)注?檔數(shù)據(jù)進(jìn)?預(yù)訓(xùn)練，基于?檔的?本語(yǔ)義（Text）、版?信息（Layout）、視覺(jué)特征（Visual）構(gòu)建?監(jiān)督學(xué)習(xí)任務(wù)，使模型更好地理解?檔語(yǔ)義和結(jié)構(gòu)信息。Layout-Aware MLM：在Mask語(yǔ)?模型中考慮?本的位置、字體??信息，實(shí)現(xiàn)?檔布局感知的語(yǔ)義理解。Text-Image Alignment：融合?檔視覺(jué)特征，重建圖像中被Mask的?字，幫助模型學(xué)習(xí)?本、版?、圖像不同模態(tài)間的對(duì)?關(guān)系。Title Permutation：以?監(jiān)督的?式構(gòu)建標(biāo)題重建任務(wù)，增強(qiáng)模型對(duì)?檔邏輯結(jié)構(gòu)的理解能?。Sparse Transformer Layers：?Sparse Attention的?法，增強(qiáng)模型對(duì)??檔的處理能力（見(jiàn)下圖）。挖掘概念，興趣詞標(biāo)簽，關(guān)聯(lián)到車(chē)系、實(shí)體除了結(jié)構(gòu)化和非結(jié)構(gòu)化文本中獲取三元組，我們還挖掘物料所包含的分類(lèi)、概念標(biāo)簽和興趣關(guān)鍵詞標(biāo)簽，并建立物料和車(chē)實(shí)體之間的關(guān)聯(lián)，為汽車(chē)知識(shí)圖譜帶來(lái)新的知識(shí)。下面從分類(lèi)、概念標(biāo)簽、興趣詞標(biāo)簽來(lái)介紹汽車(chē)之家所做的內(nèi)容理解部分工作以及思考。分類(lèi)體系作為內(nèi)容刻畫(huà)的基礎(chǔ)，對(duì)物料進(jìn)行粗粒度的劃分?；谌斯ざx的方式建立統(tǒng)一的內(nèi)容體系，通過(guò)AI模型進(jìn)行進(jìn)一步劃分。在分類(lèi)方法上，我們采用了主動(dòng)學(xué)習(xí)的方式，對(duì)比較難分的數(shù)據(jù)進(jìn)行標(biāo)注，同時(shí)采用數(shù)據(jù)增強(qiáng)、對(duì)抗訓(xùn)練，以及關(guān)鍵詞融合等方法提高分類(lèi)的效果，分類(lèi)算法流程見(jiàn)下圖。概念標(biāo)簽粒度介于分類(lèi)和興趣詞標(biāo)簽之間，比分類(lèi)粒度更細(xì)，同時(shí)比興趣詞對(duì)于興趣點(diǎn)刻畫(huà)更加完整。我們建立了車(chē)視野、人視野、內(nèi)容視野三個(gè)維度，豐富了標(biāo)簽維度，細(xì)化了標(biāo)簽粒度。豐富且具體的物料標(biāo)簽，更加方便搜索推薦基于標(biāo)簽的模型優(yōu)化，且可用于標(biāo)簽外展起到吸引用戶(hù)及二次引流等作用。概念標(biāo)簽的挖掘，結(jié)合在query等重要數(shù)據(jù)上采用機(jī)器挖掘的方式，對(duì)概括性進(jìn)行分析，通過(guò)人工review，拿到概念標(biāo)簽集合，采用多標(biāo)簽?zāi)Ｐ头诸?lèi)。

興趣詞標(biāo)簽是最細(xì)粒度的標(biāo)簽，映射為用戶(hù)興趣，根據(jù)不同用戶(hù)興趣偏好可以更好的進(jìn)行個(gè)性化推薦。關(guān)鍵詞的挖掘采用多種興趣詞挖掘相結(jié)合的方式，包括Keybert提取關(guān)鍵子串，并結(jié)合TextRank、PositionRank、singlerank、TopicRank、MultipartiteRank等句法分析多種方法，產(chǎn)生興趣詞候選。最后，通過(guò)聚類(lèi)+人工的方式生成最終版高質(zhì)量興趣標(biāo)簽。

對(duì)于不同粒度的標(biāo)簽還是在物料層面，我們需要把標(biāo)簽和車(chē)建立起關(guān)聯(lián)。首先，我們分別計(jì)算出標(biāo)題\文章的所屬標(biāo)簽，然后識(shí)別出標(biāo)題\文章內(nèi)的實(shí)體，得到若干標(biāo)簽—實(shí)體偽標(biāo)簽，最后根據(jù)大量語(yǔ)料，共現(xiàn)概率高的標(biāo)簽就會(huì)標(biāo)記為該實(shí)體的標(biāo)簽。通過(guò)以上三個(gè)任務(wù)，我們獲得了豐富且海量的標(biāo)簽。對(duì)車(chē)系、實(shí)體關(guān)聯(lián)上這些標(biāo)簽，會(huì)極大豐富我們的汽車(chē)圖譜，建立了媒體和用戶(hù)的關(guān)注車(chē)標(biāo)簽。人效提升為了實(shí)現(xiàn)更好的模型效果，獲得更大規(guī)模的訓(xùn)練樣本，解決標(biāo)注成本高和標(biāo)注周期長(zhǎng)成為亟待解決的問(wèn)題。首先，我們使用半監(jiān)督學(xué)習(xí)，利用海量未標(biāo)注數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練。之后采用主動(dòng)學(xué)習(xí)方式，最大化標(biāo)注數(shù)據(jù)的價(jià)值，迭代選擇高信息量樣本進(jìn)行標(biāo)注。最后利用遠(yuǎn)程監(jiān)督，發(fā)揮已有知識(shí)的價(jià)值，發(fā)覺(jué)任務(wù)之間的相關(guān)性。知識(shí)入庫(kù)知識(shí)圖譜中的知識(shí)是通過(guò)RDF結(jié)構(gòu)來(lái)進(jìn)行表示的，其基本單元是事實(shí)。每個(gè)事實(shí)是一個(gè)三元組(S, P, O)，在實(shí)際系統(tǒng)中，按照存儲(chǔ)方式的不同，知識(shí)圖譜的存儲(chǔ)可以分為基于RDF表結(jié)構(gòu)的存儲(chǔ)和基于屬性圖結(jié)構(gòu)的存儲(chǔ)。圖庫(kù)更多是采用屬性圖結(jié)構(gòu)的存儲(chǔ)，常見(jiàn)的存儲(chǔ)系統(tǒng)有Neo4j、JanusGraph、OritentDB、InfoGrid等。圖數(shù)據(jù)庫(kù)選擇通過(guò) JanusGraph[4] 與 Neo4J、ArangoDB、OrientDB 這幾種主流圖數(shù)據(jù)庫(kù)的對(duì)比，我們最終選擇JanusGraph 作為項(xiàng)目的圖數(shù)據(jù)庫(kù)，之所以選擇 JanusGraph，主要有以下原因：

• 基于 Apache 2 許可協(xié)議開(kāi)放源碼，開(kāi)放性好；

• 支持使用 Hadoop 框架進(jìn)行全局圖分析和批量圖處理；

• 支持很大的并發(fā)事務(wù)處理和圖操作處理。通過(guò)添加機(jī)器橫向擴(kuò)展 JanusGraph 的事務(wù) 處理能力，可以完成毫秒級(jí)別相應(yīng)和大圖的復(fù)雜查詢(xún)；

• 原生支持 Apache TinkerPop 描述的當(dāng)前流行的屬性圖數(shù)據(jù)模型；

• 原生支持圖遍歷語(yǔ)言 Gremlin。

下圖是主流圖數(shù)據(jù)庫(kù)對(duì)比。JanusGraph數(shù)據(jù)存儲(chǔ)模型了解Janusgraph存儲(chǔ)數(shù)據(jù)的方式，有助于我們更好的利用該圖庫(kù)。JanusGraph 以鄰接列表格式存儲(chǔ)圖形，這意味著圖形存儲(chǔ)為頂點(diǎn)及其鄰接列表的集合。頂點(diǎn)的鄰接列表包含頂點(diǎn)的所有入射邊（和屬性）。
JanusGraph 將每個(gè)鄰接列表作為一行存儲(chǔ)在底層存儲(chǔ)后端中。（64 位）頂點(diǎn) ID（JanusGraph 唯一分配給每個(gè)頂點(diǎn)）是指向包含頂點(diǎn)鄰接列表的行的鍵。每個(gè)邊和屬性都存儲(chǔ)為行中的一個(gè)單獨(dú)的單元格，允許有效的插入和刪除。因此，特定存儲(chǔ)后端中每行允許的最大單元數(shù)也是 JanusGraph 可以針對(duì)該后端支持的頂點(diǎn)的最大度數(shù)。如果存儲(chǔ)后端支持 key-order，則鄰接表將按頂點(diǎn) id 排序，JanusGraph 可以分配頂點(diǎn) id，以便對(duì)圖進(jìn)行有效分區(qū)。分配 id 使得經(jīng)常共同訪問(wèn)的頂點(diǎn)具有絕對(duì)差異小的 id。
知識(shí)圖譜在推薦中的應(yīng)用汽車(chē)領(lǐng)域擁有專(zhuān)業(yè)參數(shù)劃分和多領(lǐng)域技術(shù)，同時(shí)延伸到社會(huì)、科技、娛樂(lè)等多個(gè)方面，知識(shí)圖譜在汽車(chē)推薦中提供了內(nèi)容之外豐富的知識(shí)信息，在推薦中起到了十分重要的作用，在汽車(chē)的看、買(mǎi)、用等不同場(chǎng)景都能帶來(lái)明顯的效果提升。在看車(chē)場(chǎng)景中，低頻用戶(hù)對(duì)應(yīng)的點(diǎn)擊行為少，可能導(dǎo)致內(nèi)容推薦效果差等問(wèn)題，此時(shí)可通過(guò)圖譜引入額外信息（相似用戶(hù)群組、車(chē)系屬性標(biāo)簽等），使用跨域知識(shí)增強(qiáng)改善數(shù)據(jù)稀疏性問(wèn)題。在買(mǎi)車(chē)場(chǎng)景中，通過(guò)顯式的知識(shí)展示、路徑召回，以及解釋理由生成，直觀地告訴用戶(hù)推薦他某款車(chē)的理由，以及召回對(duì)應(yīng)的汽車(chē)類(lèi)資訊。在用車(chē)場(chǎng)景中，通過(guò)用戶(hù)的看車(chē)及購(gòu)買(mǎi)行為，從汽車(chē)保養(yǎng)、維修、用車(chē)成本等方面有效提升用戶(hù)的用車(chē)體驗(yàn)。本章基于汽車(chē)的不同應(yīng)用場(chǎng)景，從KG在推薦系統(tǒng)中冷啟、理由、排序等方面，介紹推薦可用的相關(guān)技術(shù)，為圖譜及下游應(yīng)用的實(shí)踐提供了思路。知識(shí)圖譜在推薦冷啟動(dòng)中的應(yīng)用知識(shí)圖譜能夠從user-item交互中建模KG中隱藏的高階關(guān)系，很好地解決了因用戶(hù)調(diào)用有限數(shù)量的行為而導(dǎo)致的數(shù)據(jù)稀疏性，進(jìn)而可以應(yīng)用在解決冷啟動(dòng)的問(wèn)題上。Sang 等[5]提出了一種雙通道神經(jīng)交互的方法，稱(chēng)為知識(shí)圖增強(qiáng)的殘差遞歸神經(jīng)協(xié)同過(guò)濾（KGNCF-RRN），該方法利用KG上下文的長(zhǎng)期關(guān)系依賴(lài)性和用戶(hù)項(xiàng)交互進(jìn)行推薦。Du Y等[6]提出了一種新的基于元學(xué)習(xí)框架的冷啟問(wèn)題解決方案MetaKG，包括collaborative-aware meta learner和knowledge-aware meta learner，捕捉用戶(hù)的偏好和實(shí)體冷啟動(dòng)知識(shí)。在兩個(gè)learner的指導(dǎo)下，MetaKG可以有效地捕捉到高階的協(xié)作關(guān)系和語(yǔ)義表示，輕松適應(yīng)冷啟動(dòng)場(chǎng)景。此外，作者還設(shè)計(jì)了一種自適應(yīng)任務(wù)，可以自適應(yīng)地選擇KG信息進(jìn)行學(xué)習(xí)，以防止模型被噪聲信息干擾，MetaKG架構(gòu)如下圖所示。知識(shí)圖譜在推薦理由生成中的應(yīng)用推薦理由能提高推薦系統(tǒng)的可解釋性，讓用戶(hù)理解生成推薦結(jié)果的計(jì)算過(guò)程，同時(shí)也可以解釋item受歡迎的原因。例如，我們?cè)谕扑]一篇新車(chē)導(dǎo)購(gòu)的文章時(shí)， 使用“粉色系的歐拉外觀非常好看，落地才十萬(wàn)，你要不要看看？”，或者是“粉色的特斯拉很適合小姐姐開(kāi)，真是又美又颯！”，這樣類(lèi)似朋友間的敘述，會(huì)有效提升用戶(hù)的閱讀體驗(yàn)。早期的可解釋推薦主要以模板為主，模板好處是保證高可讀性和準(zhǔn)確率，但需要人工整理，且泛化性不高，給人一種重復(fù)的感覺(jué)。后來(lái)發(fā)展成不需要預(yù)設(shè)的free-form形式。在知識(shí)圖譜上，以其中一條高分路徑作為解釋向用戶(hù)展示。對(duì)應(yīng)的基于user-item知識(shí)圖譜的路徑推理建模方法有多種，例如具有代表性的KPRN[7]和ECR[8]等，該類(lèi)模型主要思想是通過(guò)用戶(hù)的歷史行為，尋找一條item評(píng)分最高的最優(yōu)路徑。例如下圖，通過(guò)用戶(hù)的“居住地”和“偏好”，可以得到更為形象的汽車(chē)推薦理由：“同在長(zhǎng)沙，和你一樣喜歡小螞蟻的李先生點(diǎn)贊了這篇文章”。知識(shí)圖譜在推薦排序中的應(yīng)用KG可以通過(guò)給item用不同的屬性進(jìn)行鏈接，建立user-item之間的interaction，將uesr-item graph和KG結(jié)合成一張大圖，可以捕獲item之間的高階聯(lián)系。傳統(tǒng)的推薦方法是將問(wèn)題建模為一個(gè)監(jiān)督學(xué)習(xí)任務(wù)，這種方式會(huì)忽略item之間的內(nèi)在聯(lián)系（例如凱美瑞和雅閣的競(jìng)品關(guān)系），并且無(wú)法從user行為中獲取協(xié)同信號(hào)。下面介紹兩篇KG應(yīng)用在推薦排序的論文。Wang[9]等人設(shè)計(jì)了KGAT算法（見(jiàn)下圖），首先利用GNN迭代對(duì)embedding進(jìn)行傳播、更新，從而能夠快速捕捉高階聯(lián)系。其次，在aggregation時(shí)使用attention機(jī)制，傳播過(guò)程中學(xué)習(xí)到每個(gè)neighbor的weight，反應(yīng)高階聯(lián)系的重要程度。最后，通過(guò)N階傳播更新得到user-item的N個(gè)隱式表示，不同layer表示不同階數(shù)的連接信息。KGAT可以捕捉更豐富、不特定的高階聯(lián)系。Zhang[10]等人提出RippleNet模型（見(jiàn)下圖），其關(guān)鍵思想是興趣傳播：RippleNet將用戶(hù)的歷史興趣作為KG中的種子集合(seed set)，然后沿著KG的連接向外擴(kuò)展用戶(hù)興趣，形成用戶(hù)在KG上的興趣分布。RippleNet最大的優(yōu)勢(shì)在于它可以自動(dòng)地挖掘從用戶(hù)歷史點(diǎn)擊過(guò)的物品到候選物品的可能路徑，不需要任何人工設(shè)計(jì)元路徑或元圖。
總結(jié)綜上，我們主要圍繞推薦介紹了圖譜構(gòu)建詳細(xì)流程，對(duì)其中的困難和挑戰(zhàn)做出了分析。同時(shí)也綜述了很多重要的工作，以及給出了具體的解決方案，思路以及建議。最后介紹了知識(shí)圖譜的應(yīng)用，特別是推薦領(lǐng)域中冷起、可解釋性、召回排序等方面，介紹了知識(shí)圖譜的作用與使用。（注：文中數(shù)據(jù)來(lái)源為汽車(chē)之家網(wǎng)站）引用[1] Kim S，Oh S G．Extracting and Applying Evaluation Criteria for Ontology Quality Assessment［J］．Library Hi Tech，2019.[2] Protege: https://protegewiki.stanford.edu[3] DocBert，[1] Adhikari A ,  Ram A ,  Tang R , et al. DocBERT: BERT for Document Classification[J].  2019.[4] JanusGraph，https://docs.janusgraph.org/[5] Sang L, Xu M, Qian S, et al. Knowledge graph enhanced neural collaborative filtering with residual recurrent network[J]. Neurocomputing, 2021, 454: 417-429.[6] Du Y ,  Zhu X ,  Chen L , et al. MetaKG: Meta-learning on Knowledge Graph for Cold-start Recommendation[J]. arXiv e-prints, 2022.[7] X.Wang, D.Wang, C. Xu, X. He, Y. Cao, and T. Chua, “Explainable reasoning over knowledge graphs for recommendation,” in AAAI, 2019, pp. 5329–5336[8] Chen Z ,  Wang X ,  Xie X , et al. Towards Explainable Conversational Recommendation[C]// Twenty-Ninth International Joint Conference on Artificial Intelligence and Seventeenth Pacific Rim International Conference on Artificial Intelligence {IJCAI-PRICAI-20. 2020.[9] Wang X ,  He X ,  Cao Y , et al. KGAT: Knowledge Graph Attention Network for Recommendation[J]. ACM, 2019.[10] Wang H ,  Zhang F ,  Wang J , et al. RippleNet: Propagating User Preferences on the Knowledge Graph for Recommender Systems[J]. ACM, 2018.