php获取网页内容的几个方法

PHP获取网页内容的几种方法

方法1: 用file_get_contents以get方式获取内容

<?php

 $url='http://www.domain.com/?para=123';

 $html= file_get_contents($url);

 echo$html;

方法2:用file_get_contents函数,以post方式获取url

<?php

 $url= 'http://www.domain.com/test.php?id=123';
 $data= array('foo'=> 'bar');
 $data= http_build_query($data);
 $opts= array(
         'http'=> array(
        'method'=> 'POST',
        'header'=>"Content-type: application/x-www-form-urlencoded\r\n" .
        "Content-Length: " . strlen($data) . "\r\n",
        'content'=> $data
));
$ctx= stream_context_create($opts);
$html= @file_get_contents($url,'',$ctx);

# 如果需要再传递cookie数据,则把

 'header'=>"Content-type: application/x-www-form-urlencoded\r\n" .

 "Content-Length: " . strlen($data) . "\r\n",

# 修改为

 'header'=>"Content-type: application/x-www-form-urlencoded\r\n" .

 "Content-Length: " . strlen($data) . "\r\n"."cookie:cookie1=c1;cookie2=c2\r\n";

# 即可

方法3: 用fopen打开url, 以get方式获取内容

<?php
$fp= fopen($url,'r');
$header= stream_get_meta_data($fp);//获取报头信息
while(!feof($fp)) {
   $result.= fgets($fp, 1024);
}
 echo"url header: {$header} <br>":
 echo"url body: $result";
 fclose($fp);
 ?>

方法4: 用fopen打开url, 以post方式获取内容

<?php
$data = ['foo2' => 'bar2', 'foo3' => 'bar3'];
$data = http_build_query($data);

$opts = [
    'http' => [
        'method' => 'POST',
        'header' => "Content-type: application/x-www-form-urlencoded\r\nCookie:cook1=c3;cook2=c4\r\n" .
            "Content-Length: " . strlen($data) . "\r\n",
        'content' => $data,
    ],
];

$context = stream_context_create($opts);
$html = fopen('http://www.test.com/zzzz.php?id=i3&id2=i4', 'rb', false, $context);
$w = fread($html, 1024);
echo $w;
?>

方法5:用fsockopen函数打开url,以get方式获取完整的数据,包括header和body

<?php
functionget_url ($url,$cookie=false)
{
$url= parse_url($url);
$query= $url[path]."?".$url[query];
echo"Query:".$query;
$fp= fsockopen($url[host],$url[port]?$url[port]:80 , $errno,$errstr, 30);
if(!$fp) {
    returnfalse;
}else{
    $request= "GET $query HTTP/1.1\r\n";
    $request.= "Host: $url[host]\r\n";
    $request.= "Connection: Close\r\n";
    if($cookie)$request.="Cookie:   $cookie\n";
    $request.="\r\n";
    fwrite($fp,$request);
    while(!@feof($fp)) {
        $result.= @fgets($fp, 1024);
    }
    fclose($fp);
    return$result;
}
}
//获取url的html部分,去掉header
functionGetUrlHTML($url,$cookie=false)
{
$rowdata= get_url($url,$cookie);
if($rowdata)
{
    $body=stristr($rowdata,"\r\n\r\n");
    $body=substr($body,4,strlen($body));
    return$body;
}

   returnfalse;
}
?>

方法6:用fsockopen函数打开url,以POST方式获取完整的数据,包括header和body

<?php
functionHTTP_Post($URL,$data,$cookie,$referrer="")
{

// parsing the given URL
$URL_Info=parse_url($URL);

// Building referrer
if($referrer=="")// if not given use this script as referrer
$referrer="111";

// making string from $data
foreach($dataas $key=>$value)
$values[]="$key=".urlencode($value);
$data_string=implode("&",$values);

// Find out which port is needed - if not given use standard (=80)
if(!isset($URL_Info["port"]))
$URL_Info["port"]=80;

// building POST-request:
$request.="POST ".$URL_Info["path"]." HTTP/1.1\n";
$request.="Host: ".$URL_Info["host"]."\n";
$request.="Referer: $referer\n";
$request.="Content-type: application/x-www-form-urlencoded\n";
$request.="Content-length: ".strlen($data_string)."\n";
$request.="Connection: close\n";

$request.="Cookie:   $cookie\n";

$request.="\n";
$request.=$data_string."\n";

$fp= fsockopen($URL_Info["host"],$URL_Info["port"]);
fputs($fp,$request);
while(!feof($fp)) {
$result.= fgets($fp, 1024);
}
fclose($fp);

return$result;
}
?>

方法7:使用curl库,使用curl库之前,可能需要查看一下php.ini是否已经打开了curl扩展

<?php

$ch= curl_init();
$timeout= 5;
curl_setopt ($ch, CURLOPT_URL, 'http://www.domain.com/');
curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$file_contents= curl_exec($ch);
curl_close($ch);
echo$file_contents;
?> 

php获得网页源代码抓取网页内容的几种方法

这里收集了3种利用php获得网页源代码抓取网页内容的方法,我们可以根据实际需要选用。

1、使用file_get_contents获得网页源代码

这个方法最常用,只需要两行代码即可,非常简单方便。

参考代码:

<?php
$fh= file_get_contents('http://www.webkaka.com/');
echo $fh;
?>

2、使用fopen获得网页源代码

这个方法用的人也不少,不过代码有点多。

参考代码:

<?php

$fh = fopen('http://www.webkaka.com/', 'r');
if($fh){
    while(!feof($fh)) {
        echo fgets($fh);
    }
}
?>

3、使用curl获得网页源代码

使用curl获得网页源代码的做法,往往是需要更高要求的人使用,例如当你需要在抓取网页内容的同时,得到网页header信息,还有ENCODING编码的使用,USERAGENT的使用等等。

参考代码一:

<?php

// 创建一个新cURL资源
$ch = curl_init();
// 设置URL和相应的选项
curl_setopt($ch, CURLOPT_URL, "http://www.webkaka.com/");
curl_setopt($ch, CURLOPT_HEADER, false);
// 抓取URL并把它传递给浏览器
$data = curl_exec($ch);
echo $data;
//关闭cURL资源,并且释放系统资源
curl_close($ch);
?>

参考代码二:

<?php
$szUrl = "http://www.webkaka.com/";
$UserAgent = 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; SLCC1; .NET CLR 2.0.50727; .NET CLR 3.0.04506; .NET CLR 3.5.21022; .NET CLR 1.0.3705; .NET CLR 1.1.4322)';
$curl = curl_init();
curl_setopt($curl, CURLOPT_URL, $szUrl);
curl_setopt($curl, CURLOPT_HEADER, 0);  //0表示不输出Header,1表示输出
curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, false);
curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, false);
curl_setopt($curl, CURLOPT_ENCODING, '');
curl_setopt($curl, CURLOPT_USERAGENT, $UserAgent);
curl_setopt($curl, CURLOPT_FOLLOWLOCATION, 1);
$data = curl_exec($curl);
echo $data;
//echo curl_errno($curl); //返回0时表示程序执行成功 [](http://www.webkaka.com/tutorial/php/2012/101721/)[如何从curl_errno返回值获取错误信息](http://www.webkaka.com/tutorial/php/2012/101721/)
exit();
?>

上例里使用了几个 curl_setopt() 参数的定义,HEADERENCODINGUSERAGENT等,可以参考这里 参考查看更多参数及用途。

需要注意的是,在使用 curl_init() 之前,你需要做下 php.ini 的安全设置,否则该函数不能执行。可以参考下这篇文章解决IIS运行PHP出现Call to undefined function curl_init()的问题进行设置。

导读:fopen()和file_get_contents()打开URL获得网页内容的用法区别

Tags: php fopen file_get_contents curl
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,117评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,328评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,839评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,007评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,384评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,629评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,880评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,593评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,313评论 1 243
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,575评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,066评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,392评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,052评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,082评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,844评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,662评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,575评论 2 270

推荐阅读更多精彩内容

  • 在还没有接触curl的时候,相信大家在获取网页内容的时,使用得最多的一个函数就是:file_get_content...
    四月不见阅读 1,803评论 7 39
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,100评论 18 139
  • cURL是一个利用URL语法规定来传输文件和数据的工具,支持很多协议和选项,如HTTP、FTP、TELNET等,能...
    司马东阳阅读 1,401评论 0 6
  • 原文地址:PHPcURL库函数抓取页面内容(转)作者:巴克 cURL是一个利用URL语法规定来传输文件和数据的工具...
    司马东阳阅读 1,141评论 0 3
  • 举国购物的双十一过去了,他们的单身狂欢也过去了。留下的,是送出去的钱,等待的货。以及,依旧孤独的心。 日子依...
    橘子园地阅读 186评论 0 0