PHP的cURL庫有效地抓網頁的技巧大綱

PHP獨特的語法混合了C、Java、Perl以及PHP自創的語法。它可以比CGI或者Perl更快速地執行動態網頁。用PHP做出的動態頁面與其他的編程語言相比,PHP是將程序嵌入到HTML文檔中去執行,執行效率比完全生成HTML標記的CGI要高許多;PHP還可以執行編譯後代碼,編譯可以達到加密和優化代碼運行,使代碼運行更快。

PHP的cURL庫有效地抓網頁的技巧大綱

啓用 cURL 設置

首先,我們得先要確定我們的PHP是否開啓了這個庫,你可以通過使用php_info()函數來得到這一信息。

phpinfo();

?>

如果你可以在網頁上看到下面的`輸出,那麼表示cURL庫已被開啓。

如果你看到的話,那麼你需要設置你的PHP並開啓這個庫。如果你是在Windows平臺下,那麼非常簡單,你需要改一改你的文件的設置,找到php_,並取消前面的分號註釋就行了。如下所示:

//取消下在的註釋

extension=php_

如果你是在Linux下面,那麼,你需要重新編譯你的PHP了,編輯時,你需要打開編譯參數——在configure命令上加上“–with-curl” 參數。

一個小示例

如果一切就緒,下面是一個小例程:

// 初始化一個 cURL 對象

$curl = curl_init();

// 設置你需要抓取的URL

curl_setopt($curl, CURLOPT_URL, );

// 設置header

curl_setopt($curl, CURLOPT_HEADER, 1);

// 設置cURL 參數,要求結果保存到字符串中還是輸出到屏幕上。

curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);

// 運行cURL,請求網頁

$data = curl_exec($curl);

// 關閉URL請求

curl_close($curl);

// 顯示獲得的數據

var_dump($data);

?>

如何POST數據

上面是抓取網頁的代碼,下面則是向某個網頁POST數據。假設我們有一個處理表單的網址,其可以接受兩個表單域,一個是電話號碼,一個是短信內容。

$phoneNumber = 13912345678;

$message = This message was generated by curl and php;

$curlPost = pNUMBER= . urlencode($phoneNumber) . &MESSAGE= . urlencode($message) . &SUBMIT=Send;

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, );

curl_setopt($ch, CURLOPT_HEADER, 1);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($ch, CURLOPT_POST, 1);

curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);

$data = curl_exec();curl_close($ch);

?>

從上面的程序我們可以看到,使用CURLOPT_POST設置HTTP協議的POST方法,而不是GET方法,然後以CURLOPT_POSTFIELDS設置POST的數據。

關於代理服務

下面是一個如何使用代理服務器的示例。請注意其中高亮的代碼,代碼很簡單,我就不用多說了。

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, );

curl_setopt($ch, CURLOPT_HEADER, 1);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);

curl_setopt($ch, CURLOPT_PROXY, );

curl_setopt($ch, CURLOPT_PROXYUSERPWD, user:password);

$data = curl_exec();curl_clos