- 相關(guān)推薦
PHP Curl多線程原理詳解
給各位介紹一下Curl多線程實(shí)例與原理。不對(duì)之處請(qǐng)指教
相信許多人對(duì)php手冊(cè)中語(yǔ)焉不詳?shù)腸url_multi一族的函數(shù)頭疼不已，它們文檔少，給的例子 更是簡(jiǎn)單的讓你無(wú)從借鑒，我也曾經(jīng)找了許多網(wǎng)頁(yè)，都沒(méi)見(jiàn)一個(gè)完整的應(yīng)用例子。
curl_multi_add_handle
curl_multi_close
curl_multi_exec
curl_multi_getcontent
curl_multi_info_read
curl_multi_init
curl_multi_remove_handle
curl_multi_select
一般來(lái)說(shuō)，想到要用這些函數(shù)時(shí)，目的顯然應(yīng)該是要同時(shí)請(qǐng)求多個(gè)url，而不是一個(gè)一個(gè)依次請(qǐng)求，否則不如自己循環(huán)去調(diào)curl_exec好了。
步驟總結(jié)如下：
第一步：調(diào)用curl_multi_init
第二步：循環(huán)調(diào)用curl_multi_add_handle
這一步需要注意的是，curl_multi_add_handle的第二個(gè)參數(shù)是由curl_init而來(lái)的子handle。
第三步：持續(xù)調(diào)用curl_multi_exec
第四步：根據(jù)需要循環(huán)調(diào)用curl_multi_getcontent獲取結(jié)果
第五步：調(diào)用curl_multi_remove_handle，并為每個(gè)字handle調(diào)用curl_close
第六步：調(diào)用curl_multi_close
這里有PHP手冊(cè)上的例子：
復(fù)制代碼 代碼如下:
<?php
// 創(chuàng)建一對(duì)cURL資源
$ch1 = curl_init();
$ch2 = curl_init();
// 設(shè)置URL和相應(yīng)的選項(xiàng)
curl_setopt($ch1, CURLOPT_URL, "/");
curl_setopt($ch1, CURLOPT_HEADER, 0);
curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/");
curl_setopt($ch2, CURLOPT_HEADER, 0);
// 創(chuàng)建批處理cURL句柄
$mh = curl_multi_init();
// 增加2個(gè)句柄
curl_multi_add_handle($mh,$ch1);
curl_multi_add_handle($mh,$ch2);
$active = null;
// 執(zhí)行批處理句柄
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
while ($active && $mrc == CURLM_OK) {
if (curl_multi_select($mh) != -1) {
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
}
}
// 關(guān)閉全部句柄
curl_multi_remove_handle($mh, $ch1);
curl_multi_remove_handle($mh, $ch2);
curl_multi_close($mh);
?>
整個(gè)使用過(guò)程差不多就是這樣，但是，這個(gè)簡(jiǎn)單代碼有個(gè)致命弱點(diǎn)，就是在do循環(huán)的那段，在整個(gè)url請(qǐng)求期間是個(gè)死循環(huán)，它會(huì)輕易導(dǎo)致CPU占用100%。
現(xiàn)在我們來(lái)改進(jìn)它，這里要用到一個(gè)幾乎沒(méi)有任何文檔的函數(shù)curl_multi_select了，雖然C的curl庫(kù)對(duì)select有說(shuō)明，但是，php里的接口和用法確與C中有不同。
把上面do的那段改成下面這樣：
復(fù)制代碼 代碼如下:
do {
$mrc = curl_multi_exec($mh,$active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
while ($active and $mrc == CURLM_OK) {
if (curl_multi_select($mh) != -1) {
do {
$mrc = curl_multi_exec($mh, $active);
} while ($mrc == CURLM_CALL_MULTI_PERFORM);
}
}
因?yàn)?active要等全部url數(shù)據(jù)接受完畢才變成false，所以這里用到了curl_multi_exec的返回值判斷是否還有數(shù)據(jù)，當(dāng)有數(shù)據(jù)的時(shí)候就不停調(diào)用curl_multi_exec，暫時(shí)沒(méi)有數(shù)據(jù)就進(jìn)入select階段，新數(shù)據(jù)一來(lái)就可以被喚醒繼續(xù)執(zhí)行。這里的好處就是CPU的無(wú)謂消耗沒(méi)有了。
另外：還有一些細(xì)節(jié)的地方可能有時(shí)候要遇到：
控制每一個(gè)請(qǐng)求的超時(shí)時(shí)間，在curl_multi_add_handle之前通過(guò)curl_setopt去做：
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
判斷是否超時(shí)了或者其他錯(cuò)誤，在curl_multi_getcontent之前用：curl_error($conn[$i]);
本類(lèi)的特點(diǎn)：
運(yùn)行非常穩(wěn)定。
設(shè)置一個(gè)并發(fā)就會(huì)始終以這個(gè)并發(fā)數(shù)進(jìn)行工作，即使通過(guò)回調(diào)函數(shù)添加任務(wù)也不影響。
CPU占用極低，絕大部分CPU消耗在用戶(hù)的回調(diào)函數(shù)上。
內(nèi)存利用率高，任務(wù)數(shù)量較多（15W個(gè)任務(wù)占用內(nèi)存會(huì)超過(guò)256M）可以使用回調(diào)函數(shù)添加任務(wù)，個(gè)數(shù)自定。
能夠最大限度的占用帶寬。
鏈?zhǔn)饺蝿?wù)，比如一個(gè)任務(wù)需要從多個(gè)不同的地址采集數(shù)據(jù)，可以通過(guò)回調(diào)一氣呵成。
能夠?qū)URL錯(cuò)誤進(jìn)行多次嘗試，次數(shù)自定（大并發(fā)一開(kāi)始容易產(chǎn)生CURL錯(cuò)誤，網(wǎng)絡(luò)狀況或?qū)Ψ椒⻊?wù)器穩(wěn)定性也有可能產(chǎn)生CURL錯(cuò)誤）。
回調(diào)函數(shù)相當(dāng)靈活，可以多種類(lèi)型任務(wù)同時(shí)進(jìn)行（比如下載文件，抓取網(wǎng)頁(yè)，分析404可以在一個(gè)PHP進(jìn)程中同時(shí)進(jìn)行）。
可以非常容易的定制任務(wù)類(lèi)型，比如檢查404，獲取redirect的最后url等。
可以設(shè)置緩存，挑戰(zhàn)產(chǎn)品節(jié)操。
不足：
不能充分利用多核CPU（可以開(kāi)多個(gè)進(jìn)程解決，需要自己處理任務(wù)分割等邏輯）。
最大并發(fā)500（或512？），經(jīng)過(guò)測(cè)試是CURL 內(nèi)部限制，超過(guò)最大并發(fā)會(huì)導(dǎo)致總是返回失敗。
目前沒(méi)有斷點(diǎn)續(xù)傳功能。
目前任務(wù)是原子性的，不能對(duì)一個(gè)大文件分為幾部分分別開(kāi)線程下載。
【PHP Curl多線程原理詳解】相關(guān)文章：
PHP中curl的使用實(shí)例07-31
PHP的cURL庫(kù)有效地抓網(wǎng)頁(yè)的技巧08-08
php多進(jìn)程編程詳解201706-04
探討PHP函數(shù)的實(shí)現(xiàn)原理及性能07-07
sun認(rèn)證考試經(jīng)驗(yàn)：多線程的幾種實(shí)現(xiàn)方法詳解01-22
關(guān)于深入PHP內(nèi)存相關(guān)的功能特性詳解09-02
關(guān)于php堆排序?qū)崿F(xiàn)原理與應(yīng)用方法10-09
ATX電源工作原理以及檢修詳解09-13