楼(lou)上说(shuo)的很多,我补充一(yi)下,正(zheng)确的应该叫网(wang)络蜘蛛,又称(cheng)爬(pa)虫,本质是搜索引擎派(pai)出的一(yi)个(ge)执行(hang)抓取任(ren)务的程(cheng)序蜘蛛池的本质是(shi)大量的网站互相(xiang)链接(jie),每个(ge)站单(dan)独产(chan)生大量(liang)的内(nei)容(rong)吸引蜘蛛来爬(pa),几千个网站互链时,可(ke)以想象(xiang)蜘蛛的链接
Copyright © 2023-2024