PHP实现简单爬虫的方法

本文实例讲述了PHP实现简单爬虫的方法。分享给大家供大家参考。具体如下：

<?php/** * 爬虫程序 -- 原型 * * 从给定的url获取html内容 *  * @param string $url  * @return string  */function _getUrlContent($url) {  $handle = fopen($url, "r");  if ($handle) {    $content = stream_get_contents($handle, 1024 * 1024);    return $content;  } else {    return false;  } } /** * 从html内容中筛选链接 *  * @param string $web_content  * @return array  */function _filterUrl($web_content) {  $reg_tag_a = '/<[a|A].*?href=[/'/"]{0,1}([^>/'/"/ ]*).*?>/';  $result = preg_match_all($reg_tag_a, $web_content, $match_result);  if ($result) {    return $match_result[1];  } } /** * 修正相对路径 *  * @param string $base_url  * @param array $url_list  * @return array  */function _reviseUrl($base_url, $url_list) {  $url_info = parse_url($base_url);  $base_url = $url_info["scheme"] . '://';  if ($url_info["user"] && $url_info["pass"]) {    $base_url .= $url_info["user"] . ":" . $url_info["pass"] . "@";  }   $base_url .= $url_info["host"];  if ($url_info["port"]) {    $base_url .= ":" . $url_info["port"];  }   $base_url .= $url_info["path"];  print_r($base_url);  if (is_array($url_list)) {    foreach ($url_list as $url_item) {      if (preg_match('/^http/', $url_item)) {        // 已经是完整的url        $result[] = $url_item;      } else {        // 不完整的url        $real_url = $base_url . '/' . $url_item;        $result[] = $real_url;      }     }     return $result;  } else {    return;  } } /** * 爬虫 *  * @param string $url  * @return array  */function crawler($url) {  $content = _getUrlContent($url);  if ($content) {    $url_list = _reviseUrl($url, _filterUrl($content));    if ($url_list) {      return $url_list;    } else {      return ;    }   } else {    return ;  } } /** * 测试用主程序 */function main() {  $current_url = "http://hao123.com/"; //初始url  $fp_puts = fopen("url.txt", "ab"); //记录url列表  $fp_gets = fopen("url.txt", "r"); //保存url列表  do {    $result_url_arr = crawler($current_url);    if ($result_url_arr) {      foreach ($result_url_arr as $url) {        fputs($fp_puts, $url . "/r/n");      }     }   } while ($current_url = fgets($fp_gets, 1024)); //不断获得url} main();?>

希望本文所述对大家的php程序设计有所帮助。