昨日,百度搜索團(tuán)隊(duì)工程師發(fā)布文章表示,百度已經(jīng)抽調(diào)大量人員組成原創(chuàng)項(xiàng)目組,致力構(gòu)建原創(chuàng)環(huán)境,推動(dòng)中文互聯(lián)網(wǎng)的前進(jìn)。同時(shí),百度披露了原創(chuàng)識(shí)別系統(tǒng)-“起源”算法的部分細(xì)節(jié)。
據(jù)百度工程師稱,百度原創(chuàng)識(shí)別系統(tǒng),在百度大數(shù)據(jù)的云計(jì)算平臺(tái)上開(kāi)展,能夠快速實(shí)現(xiàn)對(duì)全部中文互聯(lián)網(wǎng)網(wǎng)頁(yè)的重復(fù)聚合和鏈接指向關(guān)系分析。首先,通過(guò)內(nèi)容相似程度來(lái)聚合采集和原創(chuàng),將相似網(wǎng)頁(yè)聚合在一起作為原創(chuàng)識(shí)別的候選集合;其次,對(duì)原創(chuàng)候選集合,通過(guò)作者、發(fā)布時(shí)間、鏈接指向、用戶評(píng)論、作者和站點(diǎn)的歷史原創(chuàng)情況、轉(zhuǎn)發(fā)軌跡等上百種因素來(lái)識(shí)別判斷出原創(chuàng)網(wǎng)頁(yè);最后,通過(guò)價(jià)值分析系統(tǒng)判斷該原創(chuàng)內(nèi)容的價(jià)值高低進(jìn)而適當(dāng)?shù)闹笇?dǎo)最終排序。
同時(shí)LEE表示,通過(guò)實(shí)驗(yàn)以及真實(shí)線上數(shù)據(jù),百度原創(chuàng)識(shí)別“起源”算法已經(jīng)取得了一定的進(jìn)展,在新聞、資訊等領(lǐng)域解決了絕大部分問(wèn)題。
百度站長(zhǎng)平臺(tái)發(fā)布的全文內(nèi)容如下:談?wù)勗瓌?chuàng)項(xiàng)目那點(diǎn)事
一、搜索引擎為什么要重視原創(chuàng)
1.1 采集泛濫化
來(lái)自百度的一項(xiàng)調(diào)查顯示,超過(guò)80%的新聞和資訊等都在被人工轉(zhuǎn)載或機(jī)器采集,從傳統(tǒng)媒體的報(bào)紙到娛樂(lè)網(wǎng)站花邊消息、從游戲攻略到產(chǎn)品評(píng)測(cè),甚至高校圖書(shū)館發(fā)的催還通知都有站點(diǎn)在做機(jī)器采集?梢哉f(shuō),優(yōu)質(zhì)原創(chuàng)內(nèi)容是被包圍在采集的汪洋大海中之一粟,搜索引擎在海中淘粟,是既艱難又具有挑戰(zhàn)性的事情。
1.2 提高搜索用戶體驗(yàn)
數(shù)字化降低了傳播成本,工具化降低了采集成本,機(jī)器采集行為混淆內(nèi)容來(lái)源降低內(nèi)容質(zhì)量。采集過(guò)程中,出于無(wú)意或有意,導(dǎo)致采集網(wǎng)頁(yè)內(nèi)容殘缺不全,格式錯(cuò)亂或附加垃圾等問(wèn)題層出不窮,這已經(jīng)嚴(yán)重影響了搜索結(jié)果的質(zhì)量和用戶體驗(yàn)。搜索引擎重視原創(chuàng)的根本原因是為了提高用戶體驗(yàn),這里講的原創(chuàng)為優(yōu)質(zhì)原創(chuàng)內(nèi)容。
1.3 鼓勵(lì)原創(chuàng)作者和文章
轉(zhuǎn)載和采集,分流了優(yōu)質(zhì)原創(chuàng)站點(diǎn)的流量,不再具屬原創(chuàng)作者的名稱,會(huì)直接影響到優(yōu)質(zhì)原創(chuàng)站長(zhǎng)和作者的收益。長(zhǎng)期看會(huì)影響原創(chuàng)者的積極性,不利于創(chuàng)新,不利于新的優(yōu)質(zhì)內(nèi)容產(chǎn)生。鼓勵(lì)優(yōu)質(zhì)原創(chuàng),鼓勵(lì)創(chuàng)新,給予原創(chuàng)站點(diǎn)和作者合理的流量,從而促進(jìn)互聯(lián)網(wǎng)內(nèi)容的繁榮,理應(yīng)是搜索引擎的一個(gè)重要任務(wù)。
二、采集很狡詐,識(shí)別原創(chuàng)很艱難
2.1 采集冒充原創(chuàng),篡改關(guān)鍵信息
當(dāng)前,大量的網(wǎng)站批量采集原創(chuàng)內(nèi)容后,用人工或機(jī)器的方法,篡改作者、發(fā)布時(shí)間和來(lái)源等關(guān)鍵信息,冒充原創(chuàng)。此類冒充原創(chuàng)是需要搜索引擎識(shí)別出來(lái)予以適當(dāng)調(diào)整的。
2.2 內(nèi)容生成器,制造偽原創(chuàng)
利用自動(dòng)文章生成器等工具,“獨(dú)創(chuàng)”一篇文章,然后安一個(gè)吸引眼球的title,現(xiàn)在的成本也低得很,而且一定具有獨(dú)創(chuàng)性。然而,原創(chuàng)是要具有社會(huì)共識(shí)價(jià)值的,而不是胡亂制造一篇根本不通的垃圾就能算做有價(jià)值的優(yōu)質(zhì)原創(chuàng)內(nèi)容。內(nèi)容雖然獨(dú)特,但是不具社會(huì)共識(shí)價(jià)值,此類偽原創(chuàng)是搜索引擎需要重點(diǎn)識(shí)別出來(lái)并予以打擊的。
2.3 網(wǎng)頁(yè)差異化,結(jié)構(gòu)化信息提取困難
不同的站點(diǎn)結(jié)構(gòu)化差異比較大,html標(biāo)簽的含義和分布也不同,因此提取關(guān)鍵信息如標(biāo)題、作者和時(shí)間的難易程度差別也比較大。做到既提得全,又提得準(zhǔn),還要最及時(shí),在當(dāng)前的中文互聯(lián)網(wǎng)規(guī)模下實(shí)屬不易,這部分將需要搜索引擎與站長(zhǎng)配合好才會(huì)更順暢的運(yùn)行,站長(zhǎng)們?nèi)绻酶逦慕Y(jié)構(gòu)告知搜索引擎網(wǎng)頁(yè)的布局,將使搜索引擎高效地提取原創(chuàng)相關(guān)的信息。
三、百度識(shí)別原創(chuàng)之路如何走?
3.1 成立原創(chuàng)項(xiàng)目組,打持久戰(zhàn)
面對(duì)挑戰(zhàn),為了提高搜索引擎用戶體驗(yàn)、為了使優(yōu)質(zhì)原創(chuàng)者原創(chuàng)網(wǎng)站得到應(yīng)有的收益、為了推動(dòng)中文互聯(lián)網(wǎng)的前進(jìn),我們抽調(diào)大量人員組成原創(chuàng)項(xiàng)目組:技術(shù)、產(chǎn)品、運(yùn)營(yíng)、法務(wù)等等,這不是臨時(shí)組織不是1個(gè)月2個(gè)月的項(xiàng)目,我們做好了打持久戰(zhàn)的準(zhǔn)備。
3.2 原創(chuàng)識(shí)別“起源”算法
互聯(lián)網(wǎng)動(dòng)輒上百億、上千億的網(wǎng)頁(yè),從中挖掘原創(chuàng)內(nèi)容,可以說(shuō)是大海撈針,千頭萬(wàn)緒。我們的原創(chuàng)識(shí)別系統(tǒng),在百度大數(shù)據(jù)的云計(jì)算平臺(tái)上開(kāi)展,能夠快速實(shí)現(xiàn)對(duì)全部中文互聯(lián)網(wǎng)網(wǎng)頁(yè)的重復(fù)聚合和鏈接指向關(guān)系分析。首先,通過(guò)內(nèi)容相似程度來(lái)聚合采集和原創(chuàng),將相似網(wǎng)頁(yè)聚合在一起作為原創(chuàng)識(shí)別的候選集合;其次,對(duì)原創(chuàng)候選集合,通過(guò)作者、發(fā)布時(shí)間、鏈接指向、用戶評(píng)論、作者和站點(diǎn)的歷史原創(chuàng)情況、轉(zhuǎn)發(fā)軌跡等上百種因素來(lái)識(shí)別判斷出原創(chuàng)網(wǎng)頁(yè);最后,通過(guò)價(jià)值分析系統(tǒng)判斷該原創(chuàng)內(nèi)容的價(jià)值高低進(jìn)而適當(dāng)?shù)闹笇?dǎo)最終排序。
目前,通過(guò)我們的實(shí)驗(yàn)以及真實(shí)線上數(shù)據(jù),“起源”算法已經(jīng)取得了一定的進(jìn)展,在新聞、資訊等領(lǐng)域解決了絕大部分問(wèn)題。當(dāng)然,其他領(lǐng)域還有更多的原創(chuàng)問(wèn)題等待“起源”去解決,我們堅(jiān)定的走著。
3.3 原創(chuàng)星火計(jì)劃
我們一直致力于原創(chuàng)內(nèi)容的識(shí)別和排序算法調(diào)整,但在當(dāng)前互聯(lián)網(wǎng)環(huán)境下,快速識(shí)別原創(chuàng)解決原創(chuàng)問(wèn)題確實(shí)面臨著很大的挑戰(zhàn),計(jì)算數(shù)據(jù)規(guī)模龐大,面對(duì)的采集方式層出不窮,不同站點(diǎn)的建站方式和模版差異巨大,內(nèi)容提取復(fù)雜等等問(wèn)題。這些因素都會(huì)影響原創(chuàng)算法識(shí)別,甚至導(dǎo)致判斷出錯(cuò)。這時(shí)候就需要百度和站長(zhǎng)共同努力來(lái)維護(hù)互聯(lián)網(wǎng)的生態(tài)環(huán)境,站長(zhǎng)推薦原創(chuàng)內(nèi)容,搜索引擎通過(guò)一定的判斷后優(yōu)待原創(chuàng)內(nèi)容,共同推進(jìn)生態(tài)的改善,鼓勵(lì)原創(chuàng),這就是“原創(chuàng)星火計(jì)劃”,旨在快速解決當(dāng)前面臨的嚴(yán)重問(wèn)題。另外,站長(zhǎng)對(duì)原創(chuàng)內(nèi)容的推薦,將應(yīng)用于“起源”算法,進(jìn)而幫助百度發(fā)現(xiàn)算法的不足,不斷改進(jìn),用更加智能的識(shí)別算法自動(dòng)識(shí)別原創(chuàng)內(nèi)容。
目前,原創(chuàng)星火計(jì)劃也取得了初步的效果,作者展示等等,并且在排序及流量上也取得了合理的提升。
最后,原創(chuàng)是生態(tài)問(wèn)題,需要長(zhǎng)期的改善,我們將持續(xù)投入,與站長(zhǎng)攜手推動(dòng)互聯(lián)網(wǎng)生態(tài)的進(jìn)步;原創(chuàng)是環(huán)境問(wèn)題,需要大家來(lái)共同維護(hù),站長(zhǎng)們多做原創(chuàng),多推薦原創(chuàng),百度將持續(xù)努力改進(jìn)排序算法,鼓勵(lì)原創(chuàng)內(nèi)容,為原創(chuàng)作者、原創(chuàng)站點(diǎn)提供合理的排序和流量。
江西省上饒市廣信區(qū)三清山中大道588號(hào)7棟5號(hào)
電話:0793-8313026 7094119
傳真:0793-8313026
手機(jī):18079306668 13576325382 曾
郵箱:174216168@qq.com
QQ:174216168
Copyright © 2008-2019 (srlrcm.cn) 獵人傳媒. All Rights Reserved.
贛ICP備08101270號(hào)-1 百度統(tǒng)計(jì)