楼上说(shuo)的很多(duo),我(wo)补(bu)充一下,正(zheng)确的应该(gai)叫网络蜘蛛,又(you)称爬(pa)虫,本质是搜索引擎派(pai)出(chu)的一个执行抓取任务的程序蜘蛛池的本质是大量(liang)的(de)网站互相链接(jie),每个站(zhan)单(dan)独产生大量(liang)的(de)内(nei)容(rong)吸(xi)引蜘蛛来爬,几千个(ge)网(wang)站(zhan)互链时,可以想象蜘蛛的(de)链接(jie)
Copyright © 2008-2018