PHP爬虫(2)DOM处理
摘要:在PHP爬虫(1)中详细了介绍了CURL抓取HTML数据的技术。采集数据处理也是爬虫技术中非常重要的部分。处理HTML数据可以用字符串查找,也可以利用正则表达式,但采用Dom处理是最高级的方法。
现在我们要抓取中国军网首页“军媒要闻要论”第一条内容,
通过浏览器工具查看网页元素,通过console获取数据。通过下图我们可以看到,在浏览器中我们可以方便调用Jquery的dom查找函数,轻松找到数据,PHP中是否也有这样的工具可以很方便的处理DOM?
在github上查找php dom parse,我们找到sunra/php-simple-html-dom-parser,使用用户还挺多的。下面我们介绍如何使用PhpDomParse组件,分别介绍直接引用、composer、ThinkPhp中如何使用。
1.直接引用
首选下载组件文件夹,在当前工程目录中执行
git clone https://github.com/sunra/php-simple-html-dom-parser.git
此时,工程目录下就会多出php-simpple-html-dom-parser文件夹,文件夹目录如下图
引用HtmlDomParaer.php
<?php include "./php-simple-html-dom-parser/Src/Sunra/PhpSimple/HtmlDomParser.php"; use Sunra\PhpSimple\HtmlDomParser; $url = "http://www.81.cn"; $dom = HtmlDomParser::file_get_html( $url ); $u = $dom->find("#JMYWYL dt",0); $title = $u ->find('a',0); echo $title->innertext; ?>
2.Composer调用方法
在工程目录下安装Composer.phar,创建composer.json文件,
{ "require": { "sunra/php-simple-html-dom-parser": "v1.5.0" } }
运行,php compose.phar install
Composer会根据composer.json内容,下载需要的文件,安装成功之后,工程文件夹如下,
代码如下,系统会自动加载\Sunra\PhpSimple\HtmlDomParse
<?php require __DIR__ . '/vendor/autoload.php'; $url = "http://www.81.cn"; $dom = \Sunra\PhpSimple\HtmlDomParser::file_get_html( $url ); $u = $dom->find("#JMYWYL dt",0); $title = $u ->find('a',0); echo $title->innertext; ?>
3、thinkphp框架
笔者日常也是使用TP框架的,也许有的读者没在TP中引入其他框架。TP提供了进入框架的机制,我们将Sunra文件夹放在“安装路径–>ThinkPHP->Library->Vendor”目录中,结构如下图所示,
工程代码如下
class IndexController extends Controller { public function index(){ } public function dom() { Vendor('Sunra.PhpSimple.HtmlDomParser'); $url = "http://www.81.cn"; //$dom = \Sunra\PhpSimple\HtmlDomParser::file_get_html( $url ); $dom =file_get_html( $url ); $u = $dom->find("#JMYWYL dt",0); $title = $u ->find('a',0); echo $title->innertext; } }
附录
php composer.phar install,出现下列错误,
SSL3_GET_SERVER_CERTIFICATE:certificate verify failed
解决办法,
(1)wget http://curl.haxx.se/ca/cacert.pem
(2)修改php.ini,添加
openssl.cafile=”/opt/lampp/cacert.pem”