在面對網(wǎng)頁的阻攔后,如果我們想繼續(xù)收集一些數(shù)據(jù)的話,比較常見的辦法是改變我們請求訪問的地址,這就涉及到了地址的切換。對于剛?cè)腴T的python新手來說,如何切換ip有一 定的難度,畢竟很多人都沒有學習中都沒有嘗試過。所以小編整理了有關(guān)面對python反爬蟲的切換方法,具體內(nèi)容在接下來的內(nèi)容中進行展示,想要學習的小伙伴可以跟著一起看看。
調(diào)試開多少個線程,多長時間撥號切換IP一次最優(yōu)。每個網(wǎng)站對短時間內(nèi)訪問次數(shù)的屏蔽策略不一樣,這需要實際測試,找出抓取效率最大化的時間點。先開一個線程,一直抓取到IP被屏蔽,記錄下抓取耗時,總抓取次數(shù),和成功抓取次數(shù)。 再開2個線程,重復上面步驟,記錄抓取耗時,總的和成功的抓取次數(shù)。再開4個線程,重復上面步驟。整理成一個表格如下,下圖是我抓天眼查時,統(tǒng)計抓取極限和細節(jié)調(diào)優(yōu)的表格
從上圖比較可以看出,當有6個線程時,是比較好的情況。耗時6秒,成功抓取80-110次。
開多少個線程調(diào)試出來了,那多久撥號一次呢?
從上面的圖片看到,貌似每隔6秒撥號是一個不錯的選擇?梢赃@樣做,但是我選了另一個度量單位,就是每總抓取120次就重新?lián)芴枴槭裁催@樣選呢?從上圖也能看到,基本抓到120次左右就會被屏蔽,每隔6秒撥號其實誤差比較大,因為網(wǎng)絡(luò)延遲等各種問題,導致6秒內(nèi)可能抓100次,也可能抓120次。
下一篇: 沒有了
初級會計職稱中級會計職稱經(jīng)濟師注冊會計師證券從業(yè)銀行從業(yè)會計實操統(tǒng)計師審計師高級會計師基金從業(yè)資格稅務(wù)師資產(chǎn)評估師國際內(nèi)審師ACCA/CAT價格鑒證師統(tǒng)計資格從業(yè)
一級建造師二級建造師消防工程師造價工程師土建職稱房地產(chǎn)經(jīng)紀人公路檢測工程師建筑八大員注冊建筑師二級造價師監(jiān)理工程師咨詢工程師房地產(chǎn)估價師 城鄉(xiāng)規(guī)劃師結(jié)構(gòu)工程師巖土工程師安全工程師設(shè)備監(jiān)理師環(huán)境影響評價土地登記代理公路造價師公路監(jiān)理師化工工程師暖通工程師給排水工程師計量工程師
人力資源考試教師資格考試出版專業(yè)資格健康管理師導游考試社會工作者司法考試職稱計算機營養(yǎng)師心理咨詢師育嬰師事業(yè)單位教師招聘公務(wù)員公選考試招警考試選調(diào)生村官
執(zhí)業(yè)藥師執(zhí)業(yè)醫(yī)師衛(wèi)生資格考試衛(wèi)生高級職稱護士資格證初級護師主管護師住院醫(yī)師臨床執(zhí)業(yè)醫(yī)師臨床助理醫(yī)師中醫(yī)執(zhí)業(yè)醫(yī)師中醫(yī)助理醫(yī)師中西醫(yī)醫(yī)師中西醫(yī)助理口腔執(zhí)業(yè)醫(yī)師口腔助理醫(yī)師公共衛(wèi)生醫(yī)師公衛(wèi)助理醫(yī)師實踐技能內(nèi)科主治醫(yī)師外科主治醫(yī)師中醫(yī)內(nèi)科主治兒科主治醫(yī)師婦產(chǎn)科醫(yī)師西藥士/師中藥士/師臨床檢驗技師臨床醫(yī)學理論中醫(yī)理論