- 相關(guān)推薦
PHP的cURL庫有效地抓網(wǎng)頁(yè)的技巧
PHP獨特的語(yǔ)法混合了C、Java、Perl以及PHP自創(chuàng )的語(yǔ)法。它可以比CGI或者Perl更快速地執行動(dòng)態(tài)網(wǎng)頁(yè)。用PHP做出的動(dòng)態(tài)頁(yè)面與其他的編程語(yǔ)言相比,PHP是將程序嵌入到HTML文檔中去執行,執行效率比完全生成HTML標記的CGI要高許多;PHP還可以執行編譯后代碼,編譯可以達到加密和優(yōu)化代碼運行,使代碼運行更快。以下是小編為大家搜索整理PHP的cURL庫有效地抓網(wǎng)頁(yè),希望能給大家帶來(lái)幫助!更多精彩內容請及時(shí)關(guān)注我們應屆畢業(yè)生考試網(wǎng)!
啟用 cURL 設置
首先,我們得先要確定我們的PHP是否開(kāi)啟了這個(gè)庫,你可以通過(guò)使用php_info()函數來(lái)得到這一信息。
phpinfo();
?>
如果你可以在網(wǎng)頁(yè)上看到下面的輸出,那么表示cURL庫已被開(kāi)啟。
如果你看到的話(huà),那么你需要設置你的PHP并開(kāi)啟這個(gè)庫。如果你是在Windows平臺下,那么非常簡(jiǎn)單,你需要改一改你的php.ini文件的設置,找到php_curl.dll,并取消前面的分號注釋就行了。如下所示:
//取消下在的注釋
extension=php_curl.dll
如果你是在Linux下面,那么,你需要重新編譯你的PHP了,編輯時(shí),你需要打開(kāi)編譯參數——在configure命令上加上“–with-curl” 參數。
一個(gè)小示例
如果一切就緒,下面是一個(gè)小例程:
// 初始化一個(gè) cURL 對象
$curl = curl_init();
// 設置你需要抓取的URL
curl_setopt($curl, CURLOPT_URL, 'http://cocre.com');
// 設置header
curl_setopt($curl, CURLOPT_HEADER, 1);
// 設置cURL 參數,要求結果保存到字符串中還是輸出到屏幕上。
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
// 運行cURL,請求網(wǎng)頁(yè)
$data = curl_exec($curl);
// 關(guān)閉URL請求
curl_close($curl);
// 顯示獲得的數據
var_dump($data);
?>
如何POST數據
上面是抓取網(wǎng)頁(yè)的代碼,下面則是向某個(gè)網(wǎng)頁(yè)POST數據。假設我們有一個(gè)處理表單的網(wǎng)址http://www.example.com/sendSMS.php,其可以接受兩個(gè)表單域,一個(gè)是電話(huà)號碼,一個(gè)是短信內容。
$phoneNumber = '13912345678';
$message = 'This message was generated by curl and php';
$curlPost = 'pNUMBER=' . urlencode($phoneNumber) . '&MESSAGE=' . urlencode($message) . '&SUBMIT=Send';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com/sendSMS.php');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
$data = curl_exec();curl_close($ch);
?>
從上面的程序我們可以看到,使用CURLOPT_POST設置HTTP協(xié)議的POST方法,而不是GET方法,然后以CURLOPT_POSTFIELDS設置POST的數據。
關(guān)于代理服務(wù)器
下面是一個(gè)如何使用代理服務(wù)器的示例。請注意其中高亮的代碼,代碼很簡(jiǎn)單,我就不用多說(shuō)了。
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_HEADER, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
$data = curl_exec();curl_close($ch);
?>
關(guān)于SSL和Cookie
關(guān)于SSL也就是HTTPS協(xié)議,你只需要把CURLOPT_URL連接中的http://變成https://就可以了。當然,還有一個(gè)參數叫CURLOPT_SSL_VERIFYHOST可以設置為驗證站點(diǎn)。
關(guān)于Cookie,你需要了解下面三個(gè)參數:
CURLOPT_COOKIE,在當面的會(huì )話(huà)中設置一個(gè)cookie
CURLOPT_COOKIEJAR,當會(huì )話(huà)結束的時(shí)候保存一個(gè)Cookie
CURLOPT_COOKIEFILE,Cookie的文件。
HTTP服務(wù)器認證
最后,我們來(lái)看一看HTTP服務(wù)器認證的情況。
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
curl_setopt(CURLOPT_USERPWD, '[username]:[password]')
$data = curl_exec();
curl_close($ch);
?>
【PHP的cURL庫有效地抓網(wǎng)頁(yè)的技巧】相關(guān)文章:
php的curl學(xué)習總結07-08
PHP curl之操作實(shí)例01-14
PHP中CURL的幾個(gè)經(jīng)典應用08-12
php使用curl檢測網(wǎng)頁(yè)是否被百度收錄的示例06-12
php的curl模擬post請求的例子12-17
php的curl實(shí)現get和post的代碼07-07
php中的curl使用入門(mén)教程06-20