PHP抓取及分析網(wǎng)頁(yè)的方法詳解，php抓取分析詳解_PHP教程
Jul 12, 2016 am 08:53 AM
PHP抓取及分析網(wǎng)頁(yè)的方法詳解，php抓取分析詳解
本文實(shí)例講述了PHP抓取及分析網(wǎng)頁(yè)的方法。分享給大家供大家參考，具體如下：
抓取和分析一個(gè)文件是非常簡(jiǎn)單的事。這個(gè)教程將通過(guò)一個(gè)例子帶領(lǐng)你一步一步地去實(shí)現(xiàn)它。讓我們開(kāi)始吧！
首先，我首必須決定我們將抓取的URL地址?？梢酝ㄟ^(guò)在腳本中設(shè)定或通過(guò)$QUERY_STRING傳遞。為了簡(jiǎn)單起見(jiàn)，讓我們將變量直接設(shè)在腳本中。
<?php $url = 'http://www.php.net'; ?>
第二步，我們抓取指定文件，并且通過(guò)file()函數(shù)將它存在一個(gè)數(shù)組里。
<?php $url = 'http://www.php.net'; $lines_array = file($url); ?>
好了，現(xiàn)在在數(shù)組里已經(jīng)有了文件了。但是，我們想分析的文本可能不全在一行里面。為了解決這個(gè)文件，我們可以簡(jiǎn)單地將數(shù)組$lines_array轉(zhuǎn)化成一個(gè)字符串。我們可以使用implode(x,y)函數(shù)來(lái)實(shí)現(xiàn)它。如果在后面你想用explode(將字符串變量數(shù)組)，將x設(shè)成"|"或"!"或其它類(lèi)似的分隔符可能會(huì)更好。但是出于我們的目的，最好將x設(shè)成空格。y是另一個(gè)必要的參數(shù)，因?yàn)樗悄阆胗胕mplode()處理的數(shù)組。
<?php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array);
?>
現(xiàn)在，抓取工作就做完了，下面該進(jìn)行分析了。出于這個(gè)例子的目的，我們想得到在
到之間的所有東西。為了分析出字符串，我們還需要叫做正規(guī)表達(dá)式的東西。
<?php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array);
eregi("<head>(.*)</head>", $lines_string, $head);
?>
讓我們看一下代碼。正如你所見(jiàn)，eregi()函數(shù)按下面的格式執(zhí)行：
eregi("<head>(.*)</head>", $lines_string, $head);
"(.*)"表示所有東西，可以解釋為，"分析在
和間的所以東西"。$lines_string是我們正在分析的字符串，$head是分析后的結(jié)果存放的數(shù)組。最后，我們可以輸數(shù)據(jù)。因?yàn)閮H在
和間存在一個(gè)實(shí)例，我們可以安全的假設(shè)數(shù)組中僅存在著一個(gè)元素，而且就是我們想要的。讓我們把它打印出來(lái)吧。
<?php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array); eregi("<head>(.*)</head>", $lines_string, $head);
echo $head[0];
?>
這就是全部的代碼了。
<?php
//獲取所有內(nèi)容url保存到文件
function get_index ( $save_file , $prefix = "index_" ){
$count = 68 ;
$i = 1 ;
if ( file_exists ( $save_file )) @ unlink ( $save_file );
$fp = fopen ( $save_file , "a+" ) or die( "Open " . $save_file . " failed" );
while( $i < $count ){
$url = $prefix . $i . ".htm" ;
echo "Get " . $url . "..." ;
$url_str = get_content_url ( get_url ( $url ));
echo " OK/n" ;
fwrite ( $fp , $url_str );
++ $i ;
}
fclose ( $fp );
}
//獲取目標(biāo)多媒體對(duì)象
function get_object ( $url_file , $save_file , $split = "|--:**:--|" ){
if (! file_exists ( $url_file )) die( $url_file . " not exist" );
$file_arr = file ( $url_file );
if (! is_array ( $file_arr ) || empty( $file_arr )) die( $url_file . " not content" );
$url_arr = array_unique ( $file_arr );
if ( file_exists ( $save_file )) @ unlink ( $save_file );
$fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" );
foreach( $url_arr as $url ){
if (empty( $url )) continue;
echo "Get " . $url . "..." ;
$html_str = get_url ( $url );
echo $html_str ;
echo $url ;
exit;
$obj_str = get_content_object ( $html_str );
echo " OK/n" ;
fwrite ( $fp , $obj_str );
}
fclose ( $fp );
}
//遍歷目錄獲取文件內(nèi)容
function get_dir ( $save_file , $dir ){
$dp = opendir ( $dir );
if ( file_exists ( $save_file )) @ unlink ( $save_file );
$fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" );
while(( $file = readdir ( $dp )) != false ){
if ( $file != "." && $file != ".." ){
echo "Read file " . $file . "..." ;
$file_content = file_get_contents ( $dir . $file );
$obj_str = get_content_object ( $file_content );
echo " OK/n" ;
fwrite ( $fp , $obj_str );
}
}
fclose ( $fp );
}
//獲取指定url內(nèi)容
function get_url ( $url ){
$reg = '/^http:////[^//].+$/' ;
if (! preg_match ( $reg , $url )) die( $url . " invalid" );
$fp = fopen ( $url , "r" ) or die( "Open url: " . $url . " failed." );
while( $fc = fread ( $fp , 8192 )){
$content .= $fc ;
}
fclose ( $fp );
if (empty( $content )){
die( "Get url: " . $url . " content failed." );
}
return $content ;
}
//使用socket獲取指定網(wǎng)頁(yè)
function get_content_by_socket ( $url , $host ){
$fp = fsockopen ( $host , 80 ) or die( "Open " . $url . " failed" );
$header = "GET /" . $url . " HTTP/1.1/r/n" ;
$header .= "Accept: */*/r/n" ;
$header .= "Accept-Language: zh-cn/r/n" ;
$header .= "Accept-Encoding: gzip, deflate/r/n" ;
$header .= "User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Maxthon; InfoPath.1; .NET CLR 2.0.50727)/r/n" ;
$header .= "Host: " . $host . "/r/n" ;
$header .= "Connection: Keep-Alive/r/n" ;
//$header .= "Cookie: cnzz02=2; rtime=1; ltime=1148456424859; cnzz_eid=56601755-/r/n/r/n";
$header .= "Connection: Close/r/n/r/n" ;
fwrite ( $fp , $header );
while (! feof ( $fp )) {
$contents .= fgets ( $fp , 8192 );
}
fclose ( $fp );
return $contents ;
}
//獲取指定內(nèi)容里的url
function get_content_url ( $host_url , $file_contents ){
//$reg = '/^(#|<a href="http://lib.csdn.net/base/18" class='replace_word' title="JavaScript知識(shí)庫(kù)" target='_blank' style='color:#df3434; font-weight:bold;'>JavaScript</a>.*?|ftp:////.+|http:////.+|.*?href.*?|play.*?|index.*?|.*?asp)+$/i';
//$reg = '/^(down.*?/.html|/d+_/d+/.htm.*?)$/i';
$rex = "/([hH][rR][eE][Ff])/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*/i" ;
$reg = '/^(down.*?/.html)$/i' ;
preg_match_all ( $rex , $file_contents , $r );
$result = "" ; //array();
foreach( $r as $c ){
if ( is_array ( $c )){
foreach( $c as $d ){
if ( preg_match ( $reg , $d )){ $result .= $host_url . $d . "/n" ; }
}
}
}
return $result ;
}
//獲取指定內(nèi)容中的多媒體文件
function get_content_object ( $str , $split = "|--:**:--|" ){
$regx = "/href/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*(.*?<//b>)/i" ;
preg_match_all ( $regx , $str , $result );
if ( count ( $result ) == 3 ){
$result [ 2 ] = str_replace ( "多媒體： " , "" , $result [ 2 ]);
$result [ 2 ] = str_replace ( " " , "" , $result [ 2 ]);
$result = $result [ 1 ][ 0 ] . $split . $result [ 2 ][ 0 ] . "/n" ;
}
return $result ;
}
?>
更多關(guān)于PHP相關(guān)內(nèi)容感興趣的讀者可查看本站專(zhuān)題：《php正則表達(dá)式用法總結(jié)》、《PHP+ajax技巧與應(yīng)用小結(jié)》、《PHP運(yùn)算與運(yùn)算符用法總結(jié)》、《PHP網(wǎng)絡(luò)編程技巧總結(jié)》、《PHP基本語(yǔ)法入門(mén)教程》、《php操作office文檔技巧總結(jié)(包括word,excel,access,ppt)》、《php日期與時(shí)間用法總結(jié)》、《php面向?qū)ο蟪绦蛟O(shè)計(jì)入門(mén)教程》、《php字符串(string)用法總結(jié)》、《php+mysql數(shù)據(jù)庫(kù)操作入門(mén)教程》及《php常見(jiàn)數(shù)據(jù)庫(kù)操作技巧匯總》
希望本文所述對(duì)大家PHP程序設(shè)計(jì)有所幫助。
熱AI工具
Undress AI Tool
免費(fèi)脫衣服圖片
Undresser.AI Undress
人工智能驅(qū)動(dòng)的應(yīng)用程序，用于創(chuàng)建逼真的裸體照片
AI Clothes Remover
用于從照片中去除衣服的在線人工智能工具。
Clothoff.io
AI脫衣機(jī)
Video Face Swap
使用我們完全免費(fèi)的人工智能換臉工具輕松在任何視頻中換臉！
熱門(mén)文章
熱工具
記事本++7.3.1
好用且免費(fèi)的代碼編輯器
SublimeText3漢化版
中文版，非常好用
禪工作室 13.0.1
功能強(qiáng)大的PHP集成開(kāi)發(fā)環(huán)境
Dreamweaver CS6
視覺(jué)化網(wǎng)頁(yè)開(kāi)發(fā)工具
SublimeText3 Mac版
神級(jí)代碼編輯軟件(SublimeText3)
熱門(mén)話題
如何在PHP中獲取當(dāng)前的會(huì)話ID？
Jul 13, 2025 am 03:02 AM
在PHP中獲取當(dāng)前會(huì)話ID的方法是使用session_id()函數(shù)，但必須先調(diào)用session_start()才能成功獲取。1.調(diào)用session_start()啟動(dòng)會(huì)話；2.使用session_id()讀取會(huì)話ID，輸出類(lèi)似abc123def456ghi789的字符串；3.若返回為空，檢查是否遺漏session_start()、用戶(hù)是否首次訪問(wèn)或會(huì)話是否被銷(xiāo)毀；4.會(huì)話ID可用于日志記錄、安全驗(yàn)證和跨請(qǐng)求通信，但需注意安全性。確保正確開(kāi)啟會(huì)話后即可順利獲取ID。
php從字符串獲取子字符串
Jul 13, 2025 am 02:59 AM
要從PHP字符串中提取子字符串，可使用substr()函數(shù)，其語(yǔ)法為substr(string$string,int$start,?int$length=null)，若未指定長(zhǎng)度則截取至末尾；處理多字節(jié)字符如中文時(shí)應(yīng)使用mb_substr()函數(shù)以避免亂碼；若需根據(jù)特定分隔符截取字符串，可使用explode()或結(jié)合strpos()與substr()實(shí)現(xiàn)，例如提取文件名擴(kuò)展名或域名。
如何將字符串分為PHP中的數(shù)組
Jul 13, 2025 am 02:59 AM
在PHP中，最常用的方法是使用explode()函數(shù)將字符串拆分為數(shù)組。該函數(shù)通過(guò)指定的分隔符將字符串分割成多個(gè)部分并返回?cái)?shù)組，語(yǔ)法為explode(separator,string,limit)，其中separator為分隔符，string為原字符串，limit為可選參數(shù)控制最大分割數(shù)量。例如$str="apple,banana,orange";$arr=explode(",",$str);結(jié)果為["apple","bana
JavaScript數(shù)據(jù)類(lèi)型：原始與參考
Jul 13, 2025 am 02:43 AM
JavaScript的數(shù)據(jù)類(lèi)型分為原始類(lèi)型和引用類(lèi)型。原始類(lèi)型包括string、number、boolean、null、undefined和symbol，其值不可變且賦值時(shí)復(fù)制副本，因此互不影響；引用類(lèi)型如對(duì)象、數(shù)組和函數(shù)存儲(chǔ)的是內(nèi)存地址，指向同一對(duì)象的變量會(huì)相互影響。判斷類(lèi)型可用typeof和instanceof，但需注意typeofnull的歷史問(wèn)題。理解這兩類(lèi)差異有助于編寫(xiě)更穩(wěn)定可靠的代碼。
在C中使用std :: Chrono
Jul 15, 2025 am 01:30 AM
std::chrono在C 中用于處理時(shí)間，包括獲取當(dāng)前時(shí)間、測(cè)量執(zhí)行時(shí)間、操作時(shí)間點(diǎn)與持續(xù)時(shí)間及格式化解析時(shí)間。1.獲取當(dāng)前時(shí)間使用std::chrono::system_clock::now()，可轉(zhuǎn)換為可讀字符串但系統(tǒng)時(shí)鐘可能不單調(diào)；2.測(cè)量執(zhí)行時(shí)間應(yīng)使用std::chrono::steady_clock以確保單調(diào)性，并通過(guò)duration_cast轉(zhuǎn)換為毫秒、秒等單位；3.時(shí)間點(diǎn)(time_point)和持續(xù)時(shí)間(duration)可相互操作，但需注意單位兼容性和時(shí)鐘紀(jì)元(epoch)
如何將會(huì)話變量傳遞給PHP中的另一頁(yè)？
Jul 13, 2025 am 02:39 AM
在PHP中，要將一個(gè)會(huì)話變量傳到另一個(gè)頁(yè)面，關(guān)鍵在于正確開(kāi)啟會(huì)話并使用相同的$_SESSION鍵名。1.每個(gè)頁(yè)面使用session變量前必須調(diào)用session_start()，且放在腳本最前面；2.在第一個(gè)頁(yè)面設(shè)置session變量如$_SESSION['username']='JohnDoe'；3.在另一頁(yè)面同樣調(diào)用session_start()后通過(guò)相同鍵名訪問(wèn)變量；4.確保每個(gè)頁(yè)面都調(diào)用session_start()、避免提前輸出內(nèi)容、檢查服務(wù)器上session存儲(chǔ)路徑可寫(xiě)；5.使用ses
PHP如何處理環(huán)境變量？
Jul 14, 2025 am 03:01 AM
toAccessenvironmentVariablesInphp，useGetenv（）或$ _envsuperglobal.1.getEnv（'var_name'）retievesSpecificvariable.2。$ _ en v ['var_name'] accessesvariablesifvariables_orderInphp.iniincludes“ e” .setVariablesViaCliWithvar = vualitephpscript.php，inapach
