当前位置: 首页 > 编程语言 > 其它 > 正文

用Perl抓取网页和提交表格

时间:2017-03-03

这里简单介绍一下用Perl来实现抓取网页的源代码,以及用POST的方法来提交表格,并返回结果。难的讲不来,讲讲简单的。

这里讲到的Perl模块有:

useLWP::Simple;useLWP::UserAgent;用Perldoc查看详细的用法。

1,用Perl抓取网页

如果只是要拿到某个网页,那使用LWP::Simple里的函数是最简单的。通过调用get($url)函数,就可以得到相关网址的内容。

my$url='http://freshair.npr.org/dayFA.cfm?todayDate=current'

useLWP::Simple;
my$content=get$url;
die"Couldn'tget$url"unlessdefined$content;

#$content里是网页内容,下面是对此内容作些分析:

if($content=~m/jazz/i){

print"They'retalkingaboutjazztodayonFreshAir!\n";
}else{
print"FreshAirisapparentlyjazzlesstoday.\n";
}

非常简单易懂。拿网页内容是容易的,难的是用正则过滤需要的内容。

2,通过POST提交表格

部分HTML表格使用HTMLPOST向服务器提交数据,在这里你可以这样:

$response=$browser->post($url,

[
formkey1=>value1,
formkey2=>value2,
...
],
);

实例分析:例如在http://www.enzim.hu/hmmtop/html/submit.html)提交一段序列并返回结果,用Perl来实现。代码如下:

#!/usr/bin/Perl

useLWP::UserAgent;
my$browser=LWP::UserAgent->new;
$protein="MSSSTPFDPYALSEHDEERPQNVQSKSRTAELQAEIDDTVGIMRDNINKVAERGERLTSI";
my$SUSUI_URL="http://www.enzim.hu/hmmtop/server/hmmtop.cgi";
my$response=$browser->post($SUSUI_URL,['if'=>$protein,]);
if($response->is_success){
 print$response->content;
}else{
 print"Badluckthistime\n";
}

通过分析http://www.enzim.hu/hmmtop/html/submit.html的页面可知,这个要提交的input只有一个,就是name="if"。$protein就是要提交的序列。$response->content就是返回结果。