欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  后端开发

搜索引擎是怎么搜到站内信息?

程序员文章站 2022-04-16 11:12:36
...
我看有的电影网站比如A电影站里面的abc资源在A站里面的搜索栏可以搜到 但是现在通过百度直接搜abc就可以搜出来A站里面的abc的资源 不必再去A站里面搜索abc资源 这个是怎么实现的呢?

回复内容:

我看有的电影网站比如A电影站里面的abc资源在A站里面的搜索栏可以搜到 但是现在通过百度直接搜abc就可以搜出来A站里面的abc的资源 不必再去A站里面搜索abc资源 这个是怎么实现的呢?

如果站内的内容搜索引擎都搜不到,那搜索引擎将没有东西可搜。

一切链接,凡是与之相关上下游链接已被收录,且该链接的网站主没有通过robots.txt文件声明禁止搜索引擎收录,那理论上都应该被搜索引擎搜到。

网络爬虫

不断的爬,需要大量的服务器,大量的计算