如何用PHP做网络爬虫

其实用PHP来爬会非常方便，主要是PHP的正则表达式功能在搜集页面连接方面很方便，另外PHP的fopen、file_get_contents以及libcur的函数非常方便的下载网页内容。

创新互联建站-云计算及IDC服务提供商，涵盖公有云、IDC机房租用、资阳服务器托管、等保安全、私有云建设等企业级互联网基础服务，欢迎咨询：18980820575

具体处理方式就是建立就一个任务队列，往队列里面插入一些种子任务和可以开始爬行，爬行的过程就是循环的从队列里面提取一个URL，打开后获取连接插入队列中，进行相关的保存。队列可以使用数组实现。

当然PHP作为但线程的东西，慢慢爬还是可以，怕的就是有的URL打不开，会死在那里。

如何用php 编写网络爬虫

php不太适合用来写网络爬虫,因为几乎没有现成的框架,或者成熟的下载机制,也不太适合做并发处理.

下载页面的话除了一个curl,就是file_get_contents,或者curl_multi来做并发请求.curl可以代理端口,虚假ip,带cookie,带header请求目标页面,下载完成之后解析页面可以用queryList来解析html.写法类似jQuery.

提供给你我之前写的类:curl.php  希望可以帮到你.

QueryList.php和phpQuery.php由于文件太大了,没办法贴上来

?php

class Http {

public function curlRequest($url, $postData = '', $timeOut = 10, $httpHeader = array()) {

$handle = curl_init ();

curl_setopt ( $handle, CURLOPT_URL, $url );

if ($httpHeader) {

curl_setopt($handle, CURLOPT_HTTPHEADER, $httpHeader);

}

curl_setopt ( $handle, CURLOPT_RETURNTRANSFER, true );

curl_setopt ( $handle, CURLOPT_HEADER, 0 );                                                                curl_setopt ( $handle, CURLOPT_TIMEOUT, $timeOut );

curl_setopt ( $handle, CURLOPT_FOLLOWLOCATION, 1 );

curl_setopt ( $handle, CURLOPT_SSL_VERIFYPEER, false );

curl_setopt ( $handle, CURLOPT_SSL_VERIFYHOST, false );

curl_setopt ( $handle, CURLOPT_USERAGENT, 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.93 Safari/537.36');        curl_setopt ( $handle, CURLOPT_ENCODING, 'gzip,deflate,sdch');

if (! empty ( $postData )) {

curl_setopt ( $handle, CURLOPT_POST, 1 );

curl_setopt ( $handle, CURLOPT_POSTFIELDS, $postData);

}

$result['response'] = curl_exec ( $handle );

$result['httpStatus'] = curl_getinfo ( $handle, CURLINFO_HTTP_CODE );

$result['fullInfo'] = curl_getinfo ( $handle );

$result['errorMsg'] = '';

$result['errorNo'] = 0;

if (curl_errno($handle)) {

$result['errorMsg'] = curl_error($handle);

$result['errorNo'] = curl_errno($handle);

}

curl_close ( $handle );

return $result;

}

}

?

你好，我如何用php来实现网络爬虫呢？具体一点

以下是访问某音乐网站，并获取其歌曲名等数组的示例，你可以参考：

?php

header('Content-type:text/html;charset=utf-8');

$doc = file_get_contents('');

$pa = '{MSL\((.*)\);}';

preg_match_all($pa,$doc,$r);

for($i=0;$icount($r[1]);$i++)

{

$r1 = explode(', ',$r[1][$i]);

echo '歌曲标题：'. iconv('gb2312','utf-8',$r1[0]) .' 歌曲ID：'.$r1[1].'br/';

}

?

PHP爬虫和基于命令行的Python爬虫有什么差别

php和python 写爬虫采集一些简单的都可以，但是相对来说python更好，更方便，有很多现成的库和方法支持直接解析网站，剖析你需要的数据，而php需要你大部分正则匹配，麻烦。

分享文章：爬虫数据库php 爬虫数据库抓取与修改
分享URL：http://myzitong.com/article/doihoeg.html