asp 小偷采集程序原理与常用函数方法
程序员文章站
2022-06-24 16:24:24
用采集程序的优点有：无须维护网站，因为采集程序中的数据来自其他网站，它将随着该网站的更新而更新；可以节省服务器资源，一般采集程序就几个文件，所有网页内容都是来自其他网站。缺...
用采集程序的优点有：无须维护网站，因为采集程序中的数据来自其他网站，它将随着该网站的更新而更新；可以节省服务器资源，一般采集程序就几个文件，所有网页内容都是来自其他网站。缺点有：
不稳定，如果目标网站出错，程序也会出错，而且，如果目标网站进行升级维护，那么采集程序也要进行相应修改；速度，因为是远程调用，速度和在本地服务器上读取数据比起来，肯定要慢一些。
一、事例
下面就xmlhttp在asp中的应用做个简单说明
<%
'常用函数
'1、输入url目标网页地址，返回值gethttppage是目标网页的html代码
function gethttppage(url)
dim http
set http=server.createobject("msxml2.xmlhttp")
http.open "get",url,false
http.send()
if http.readystate<>4 then
exit function
end if
gethttppage=bytestobstr(http.responsebody,"gb2312")
set http=nothing
if err.number<>0 then err.clear
end function
'2、转换乱玛，直接用xmlhttp调用有中文字符的网页得到的将是乱玛，可以通过adodb.stream组件进行转换
function bytestobstr(body)
dim objstream
set objstream = server.createobject("adodb.stream")
objstream.type = 1
objstream.mode =3
objstream.open
objstream.write body
objstream.position = 0
objstream.type = 2
objstream.charset = "gb2312" '转换原来默认的utf-8编码转换成gb2312编码，否则直接用xmlhttp组件调用有中文字符的网页得到的将是乱码
bytestobstr = objstream.readtext
objstream.close
set objstream = nothing
end function
'下面试着调用http://www.google的html内容
dim url,html
url="http://www.google";
html = gethttppage(url)
response.write html
%>
二、几个常用的函数
instr 函数
描述 返回某字符（string2）串在另一字符串（string1）中第一次出现的位置。
语法 instr(string1, string2)
例如：
dim searchstring, searchchar
searchstring ="http://www.google" ' 要在其中搜索的字符串。
searchchar = "blue1000" ' 搜索 "blue1000"。
mybk = instr(searchstring, searchchar) ' 返回 8
'如果找不到则返回“0”，例如：
searchchar = "bk"
mybk = instr(searchstring, searchchar) ' 返回 0
mid 函数
描述: 从字符串中返回指定数目的字符。
语法 mid(string, start, over)
例如：
dim mybk
mybk = mid("我们的bk(www.google)设计", 7, 12) '截取字符串"我们的bk(www.google)设计"第7个字符以后的12个字符'此时mybk的值就变成了"www.google"
replace 函数
dim searchstring, searchchar
searchstring ="我们的bk设计是一个网站建设资源网站" ' 要在其中搜索的字符串。
searchstring =replace(searchstring,"bk设计","www.google")'此时searchstring的值就变成了"我们的www.google是一个网站建设资源网站"
三、截取指定区域的html代码
例如我只想获取以下html代码中"<td>"和"</td>"之间的的文字部分:
<html>
<title>bk(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="content">bk(www.google)谷歌搜索引擎是个资源多多的站点……</td></tr>
</table>
</body>
</html>
<%
……
dim strbk,start,over,rsbk
strbk=gethttppage(网页的地址)
start=instr(strbk,"<td id=""content"">") '此处的作用是获取字符串开始地方的定位。这里要有人问了:原来的代码是<td id="content">,怎么你这里调用的是<td id=""content"">啊?答案:asp中（准确的说是vbscript中是用两个双引号来表示一个双引号的，因为双引号对于程序来说是个敏感字符。） over=instr(strbk,"…</td></tr>")'此处的作用是获取字符串结束地方的定位。'这里又要有人问了:( :程序调用html代码干吗前面多出来3个点点"…"啊？答：提示：上面一行也有一个</td></tr>，如果这里用</td></tr>来定位的话，程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。 rsbk=mid(strbk,start,over-start) '此处的作用是取出strbk中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了；over-start是为了计算出开始位置和结束位置之间的距离，也就是字符数。
response.write(rsbk) '最后输出程序获取的内容
%>
不要高兴的太早，当你运行的时候，你会发现页面的html代码有错误，为什么呢？因为你获取的html代码是：<td id="content">bk(www.google)谷歌搜索引擎是个资源多多的站点…
看到了吧？有残缺的html代码啊！怎么办呢？start=instr(strbk,"<td id=""content"">")这个语句获取的是"<td id="content">"在
strbk中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="content">后面的那个字符.
好的,程序将改成这样:
<%
……
dim strbk,start,over,rsbk
strbk=gethttppage(网页的地址)
start=instr(strbk,"<td id=""content"">") + 17
over=instr(strbk,"…</td></tr>") '这里你也可以减去七(-7)把3个点去掉
rsbk=mid(strbk,start,over-start)
response.write(rsbk)
%>
这样就ok了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~
四、删掉或修改获取的字符
将rsbk中的"bk(www.google)"换成"bk":
rsbk=replace(rsbk,"bk(www.google)","bk")
或者直接把"(www.google)"删掉:
rsbk=replace(rsbk,"(www.google)","")
好了,现在rsbk就变成了:"bk谷歌搜索引擎是个资源多多的站点……"了.但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?
不稳定，如果目标网站出错，程序也会出错，而且，如果目标网站进行升级维护，那么采集程序也要进行相应修改；速度，因为是远程调用，速度和在本地服务器上读取数据比起来，肯定要慢一些。
一、事例
下面就xmlhttp在asp中的应用做个简单说明
复制代码 代码如下:
<%
'常用函数
'1、输入url目标网页地址，返回值gethttppage是目标网页的html代码
function gethttppage(url)
dim http
set http=server.createobject("msxml2.xmlhttp")
http.open "get",url,false
http.send()
if http.readystate<>4 then
exit function
end if
gethttppage=bytestobstr(http.responsebody,"gb2312")
set http=nothing
if err.number<>0 then err.clear
end function
'2、转换乱玛，直接用xmlhttp调用有中文字符的网页得到的将是乱玛，可以通过adodb.stream组件进行转换
function bytestobstr(body)
dim objstream
set objstream = server.createobject("adodb.stream")
objstream.type = 1
objstream.mode =3
objstream.open
objstream.write body
objstream.position = 0
objstream.type = 2
objstream.charset = "gb2312" '转换原来默认的utf-8编码转换成gb2312编码，否则直接用xmlhttp组件调用有中文字符的网页得到的将是乱码
bytestobstr = objstream.readtext
objstream.close
set objstream = nothing
end function
'下面试着调用http://www.google的html内容
dim url,html
url="http://www.google";
html = gethttppage(url)
response.write html
%>
二、几个常用的函数
instr 函数
描述 返回某字符（string2）串在另一字符串（string1）中第一次出现的位置。
语法 instr(string1, string2)
例如：
dim searchstring, searchchar
searchstring ="http://www.google" ' 要在其中搜索的字符串。
searchchar = "blue1000" ' 搜索 "blue1000"。
mybk = instr(searchstring, searchchar) ' 返回 8
'如果找不到则返回“0”，例如：
searchchar = "bk"
mybk = instr(searchstring, searchchar) ' 返回 0
mid 函数
描述: 从字符串中返回指定数目的字符。
语法 mid(string, start, over)
例如：
dim mybk
mybk = mid("我们的bk(www.google)设计", 7, 12) '截取字符串"我们的bk(www.google)设计"第7个字符以后的12个字符'此时mybk的值就变成了"www.google"
replace 函数
dim searchstring, searchchar
searchstring ="我们的bk设计是一个网站建设资源网站" ' 要在其中搜索的字符串。
searchstring =replace(searchstring,"bk设计","www.google")'此时searchstring的值就变成了"我们的www.google是一个网站建设资源网站"
三、截取指定区域的html代码
例如我只想获取以下html代码中"<td>"和"</td>"之间的的文字部分:
<html>
<title>bk(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="content">bk(www.google)谷歌搜索引擎是个资源多多的站点……</td></tr>
</table>
</body>
</html>
<%
……
dim strbk,start,over,rsbk
strbk=gethttppage(网页的地址)
start=instr(strbk,"<td id=""content"">") '此处的作用是获取字符串开始地方的定位。这里要有人问了:原来的代码是<td id="content">,怎么你这里调用的是<td id=""content"">啊?答案:asp中（准确的说是vbscript中是用两个双引号来表示一个双引号的，因为双引号对于程序来说是个敏感字符。） over=instr(strbk,"…</td></tr>")'此处的作用是获取字符串结束地方的定位。'这里又要有人问了:( :程序调用html代码干吗前面多出来3个点点"…"啊？答：提示：上面一行也有一个</td></tr>，如果这里用</td></tr>来定位的话，程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。 rsbk=mid(strbk,start,over-start) '此处的作用是取出strbk中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了；over-start是为了计算出开始位置和结束位置之间的距离，也就是字符数。
response.write(rsbk) '最后输出程序获取的内容
%>
不要高兴的太早，当你运行的时候，你会发现页面的html代码有错误，为什么呢？因为你获取的html代码是：<td id="content">bk(www.google)谷歌搜索引擎是个资源多多的站点…
看到了吧？有残缺的html代码啊！怎么办呢？start=instr(strbk,"<td id=""content"">")这个语句获取的是"<td id="content">"在
strbk中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="content">后面的那个字符.
好的,程序将改成这样:
<%
……
dim strbk,start,over,rsbk
strbk=gethttppage(网页的地址)
start=instr(strbk,"<td id=""content"">") + 17
over=instr(strbk,"…</td></tr>") '这里你也可以减去七(-7)把3个点去掉
rsbk=mid(strbk,start,over-start)
response.write(rsbk)
%>
这样就ok了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~
四、删掉或修改获取的字符
将rsbk中的"bk(www.google)"换成"bk":
rsbk=replace(rsbk,"bk(www.google)","bk")
或者直接把"(www.google)"删掉:
rsbk=replace(rsbk,"(www.google)","")
好了,现在rsbk就变成了:"bk谷歌搜索引擎是个资源多多的站点……"了.但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?