雷鋒網(wǎng) (公眾號(hào)：雷鋒網(wǎng)) AI 科技評(píng)論按：實(shí)際上，號(hào)稱「美版知乎」的?Quora 也已經(jīng)大量引入了機(jī)器學(xué)習(xí)技術(shù)，而 Quora 的工程師們則喜歡把自己研究機(jī)器學(xué)習(xí)、產(chǎn)出技術(shù)方案的過(guò)程戲稱為「煉丹」，如今他們也想對(duì)外分享他們的經(jīng)驗(yàn)和成果，開(kāi)始做一系列「機(jī)器學(xué)習(xí)煉丹之旅」的技術(shù)博客。日前，他們發(fā)出了該系列博客的第一篇—— 《使用 Alchemy 做特征工程》（「Feature Engineering at Quora with Alchemy」），作者為? Quora 的兩位工程師? Kornél Csernai? 和? Naran Bayanbat 。雷鋒網(wǎng) AI 科技評(píng)論編譯如下。

概述

一直以來(lái)，Quora 都致力于拉近人們和有益知識(shí)的距離。這意味著，我們需要不斷增加知識(shí)的采集，并對(duì)知識(shí)進(jìn)行評(píng)估，還要知道怎樣高效地對(duì)它們進(jìn)行排序和分類。現(xiàn)在，Quora 的重點(diǎn)便是通過(guò)問(wèn)答來(lái)實(shí)現(xiàn)這些目標(biāo)：讀者在網(wǎng)站上尋找相關(guān)的內(nèi)容，提問(wèn)者尋找有用的答案，而我們就是從他們的提問(wèn)中提取出正確問(wèn)題的答復(fù)者。其次，我們也需要考慮檢測(cè)并刪掉違規(guī)的內(nèi)容，以及識(shí)別出重復(fù)的問(wèn)題。而為了實(shí)現(xiàn)這些目標(biāo)，我們重點(diǎn)倚靠機(jī)器學(xué)習(xí)技術(shù)。

首先讓我們來(lái)看一個(gè)典型的案例：Quora 的 Home Feed 功能。在這個(gè)最簡(jiǎn)單的功能中，系統(tǒng)會(huì)根據(jù)我們認(rèn)為特定用戶可能重視的上下文中的一系列特征，對(duì)候選 post? 進(jìn)行排序。之后，這些計(jì)算了得分的輸入就會(huì)形成一個(gè)基本的漏斗（funnel）。

一個(gè)強(qiáng)大的特征能夠明顯提升產(chǎn)品的質(zhì)量，因此快速迭代模型特征非常重要。隨著 Quora 網(wǎng)站上機(jī)器學(xué)習(xí)工程師數(shù)量日益增多，用來(lái)支持產(chǎn)品中各類應(yīng)用程序的獨(dú)一無(wú)二的特征工程框架的數(shù)量也在增多。這種增長(zhǎng)自然也帶來(lái)了一些挑戰(zhàn)：

• 一如既往地，更多的框架意味著更多碎片（fragmentation）、更多冗余（redundancy），以及給我們的工程團(tuán)隊(duì)帶來(lái)更重的維護(hù)負(fù)擔(dān)。各個(gè)團(tuán)隊(duì)的開(kāi)發(fā)人員正在創(chuàng)建不同的系統(tǒng)來(lái)應(yīng)對(duì)同一個(gè)技術(shù)挑戰(zhàn)，并且無(wú)法跨多個(gè)應(yīng)用程序重復(fù)利用特征。

• 對(duì)于一個(gè)典型的機(jī)器學(xué)習(xí)應(yīng)用程序來(lái)說(shuō)，針對(duì)每個(gè)問(wèn)題都有成百上千篇候選 post，而每篇候選 post 中又可以提取出數(shù)百個(gè)特征。同一時(shí)間，多個(gè)產(chǎn)品服務(wù)又必須要實(shí)時(shí)響應(yīng)，且響應(yīng)的時(shí)間不能超過(guò)幾百毫秒。這就意味著，特征提取受限于時(shí)間很緊的速度、計(jì)算以及記憶局限。我們其中的一些框架難以應(yīng)對(duì)這些局限，也無(wú)法成功從日復(fù)一日的特征開(kāi)發(fā)中將系統(tǒng)所面臨的挑戰(zhàn)抽象化。
  

高水平的設(shè)計(jì)

為了應(yīng)對(duì)上述所有的挑戰(zhàn)，我們?yōu)樘卣魈崛￠_(kāi)發(fā)了一個(gè)高性能、規(guī)模化、無(wú)國(guó)界的服務(wù)——Alchemy，它可以泛化到 Quora 上所有的機(jī)器學(xué)習(xí)相關(guān)應(yīng)用程序。

在這 Feed 功能的案例以及相似的應(yīng)用程序中，這就意味著將特征提取這一步驟單獨(dú)分離出來(lái)作為該網(wǎng)站的一項(xiàng)服務(wù)。

之前：

之后：

Alchemy 使用應(yīng)用程序類型（如 Feed 功能）和目標(biāo)列表（如候選 post），就能為它們各自返回一個(gè)數(shù)值化的、經(jīng)過(guò)分類的特征向量。假設(shè)將特征組織成邏輯組（每個(gè)邏輯組表示為一個(gè)類別）的形式，這種形式具有數(shù)據(jù)依賴關(guān)系（data dependencies），例如一個(gè)問(wèn)題所對(duì)應(yīng)的答案數(shù)量。之后，應(yīng)用程序就會(huì)確定應(yīng)該提取哪個(gè)特征組、

來(lái)自應(yīng)用程序的請(qǐng)求會(huì)實(shí)時(shí)排列，并且在某些情況下，源于不同期工作的請(qǐng)求也會(huì)進(jìn)行排隊(duì)。每個(gè)請(qǐng)求包含了需要評(píng)估特征的請(qǐng)求類型以及候選列表（同時(shí)，相應(yīng)的應(yīng)用程序會(huì)定義每個(gè)特征列表）。之后，Alchemy 檢索并組織任一必要的數(shù)據(jù)，并最終平行計(jì)算出每個(gè)目標(biāo)的特征。

數(shù)據(jù)存儲(chǔ)

Alchemy 使用 HBase 作為它的存儲(chǔ)層，不過(guò)它也可以輕易地進(jìn)行擴(kuò)展來(lái)支持其他的存儲(chǔ)庫(kù)。為了讓查詢更加高效，我們采用了多個(gè)緩沖層（HBase 頂部的 Memcache 以及 Memcache 頂部的一個(gè)內(nèi)存 LRU cache）。我們的數(shù)據(jù)由 Thrift 目標(biāo)組成，它們可以直接存儲(chǔ)于內(nèi)存 cache，以及以二進(jìn)制形式（binary serialized format）存儲(chǔ)于 HBase 和 Memcache。

由于高速緩沖器存儲(chǔ)的值會(huì)變得陳舊，我們就需要讓 Alchemy 知道何時(shí)需要從?ground truth?中舍棄掉一些值。這項(xiàng)操作可以通過(guò)這種方式實(shí)現(xiàn)：從應(yīng)用程序端寫(xiě)入 Kafka 隊(duì)列并從 Alchemy 端上的這一隊(duì)列中讀取值。 該隊(duì)列包含 table、 key 以及值信息，因此 Alchem 可以在內(nèi)存緩沖器中用新的值來(lái)取代舊的值。

性能

實(shí)現(xiàn) Alchemy 的第一個(gè)版本后，我們投入了大量精力來(lái)提高該服務(wù)的性能。為了讓 Alchemy 變得更加快速，我們采用 C++語(yǔ)言將其寫(xiě)成了一個(gè)單獨(dú)的服務(wù)，這與將特征提取器嵌入 web 應(yīng)用程序的代碼中的做法相反。這樣做的原因在于：

• C++ 是一個(gè)低水平的編程語(yǔ)言，它通常可以比用 Python 寫(xiě)的應(yīng)用程序運(yùn)行得更快。

• 針對(duì)每個(gè)問(wèn)題，我們都會(huì)發(fā)送成百上千篇候選 post 進(jìn)行評(píng)估，代碼在候選級(jí)別上就能輕松實(shí)現(xiàn)并行。而在 Python 中，代碼很難在一個(gè)過(guò)程內(nèi)實(shí)現(xiàn)并行。

• 將 Alchemy 寫(xiě)成一個(gè)單獨(dú)的服務(wù)，我們就能夠在存儲(chǔ)器中存儲(chǔ)大量反序列化的目標(biāo)，從而巨大地減少數(shù)據(jù)檢索的延遲（latency），然而這些在 web 應(yīng)用程序代碼中通常是無(wú)法實(shí)現(xiàn)的。

除了決定采用這些設(shè)計(jì)，我們還 profile 了代碼以找到并消除熱點(diǎn)。此外，我們還不斷審查了大量的度量標(biāo)準(zhǔn)，以了解當(dāng)這些熱點(diǎn)出現(xiàn)時(shí)的速度回歸（speed regression）源。

（是的，當(dāng)為單個(gè)特征提取編寫(xiě)代碼時(shí)，選擇采用 C++ 可能會(huì)降低開(kāi)發(fā)速度。然而，我們認(rèn)為 C++ 所帶來(lái)的優(yōu)勢(shì)要遠(yuǎn)大于這一損失，因?yàn)闄C(jī)器學(xué)習(xí)工程師在使用 Alchemy 時(shí)不再需要擔(dān)心性能優(yōu)化問(wèn)題。）

遷移和未來(lái)工作規(guī)劃

到目前為止，我們對(duì) Alchemy 所做的所有遷移（?migration）都帶來(lái)了積極的結(jié)果。對(duì)于我們的在線預(yù)測(cè)系統(tǒng)，請(qǐng)求延遲得到改善之后，我們就有了更多的空間去嘗試那些比較花時(shí)間、計(jì)算成本比較高的特征。此外，我們可以對(duì)更多候選 post 進(jìn)行排序，從而提供更好的用戶體驗(yàn)。使用 Alchemy 還讓我們能夠繼續(xù)維護(hù)以前耗費(fèi)過(guò)多時(shí)間去維護(hù)的離線系統(tǒng)（其中的一些離線系統(tǒng)已經(jīng)被我們?cè)诰€遷移了）。總的來(lái)說(shuō)，我們已經(jīng)能夠看到，工程師可以更頻繁地啟動(dòng)特征并迭代他們的模型。

這些遷移還帶來(lái)了許多觀點(diǎn)、反饋和特征請(qǐng)求，它們都將以實(shí)質(zhì)性的方式積極為我們的路線圖提供信息。舉一個(gè)小例子，我們開(kāi)始對(duì)目標(biāo) ID 的請(qǐng)求進(jìn)行分區(qū)以實(shí)現(xiàn)更好的緩存利用率。

至于未來(lái)的工作規(guī)劃，我們可能會(huì)增加 Python 的綁定，以便工程師和數(shù)據(jù)科學(xué)家可以更廣泛地使用該系統(tǒng)。我們還會(huì)識(shí)別特征之間的依賴關(guān)系，構(gòu)建特征圖并異步計(jì)算出特征和數(shù)據(jù)的依賴關(guān)系。一個(gè)靈活的異步數(shù)據(jù)檢索抽象，會(huì)讓訪問(wèn)多個(gè)數(shù)據(jù)的存儲(chǔ)變得更加容易。所有這些改進(jìn)都可以將機(jī)器學(xué)習(xí)工程師的負(fù)擔(dān)轉(zhuǎn)移出去，從而使他們可以更專注于開(kāi)發(fā)出色的機(jī)器學(xué)習(xí)模型。

結(jié)論

一旦 Alchemy 能夠結(jié)合大量的應(yīng)用程序，它的投資回報(bào)率是非常高的。系統(tǒng)特征提取做得更好，也意味著它的排序也做得更好。

所有人都說(shuō)，增長(zhǎng)是一個(gè)伴隨著挑戰(zhàn)的好事。弄清楚如何明智地控制這種增長(zhǎng)以減少低效率和冗余，是值得從多個(gè)維度深入思考的事情，并且這種增長(zhǎng)可能會(huì)帶來(lái)很大的收益。

via： https://engineering.quora.com/Feature-Engineering-at-Quora-with-Alchemy ?雷鋒網(wǎng) AI 科技評(píng)論編譯

。