伪装成Google Bot突破收费网站页面
来源:est's blog
为什么有的网站能够被Google搜索到,点击链接进去以后却显示“未注册”、“还不是会员”呢?这是一种网站专门针对对搜索引擎优化的技术。
那么我们也可以伪装成搜索引擎来进入这些页面。我们需要的是修改浏览器的User-Agent值。下面以Internet Explorer为例说明:
把下列代码保存为 ua.reg,双击导入到注册表中:
Windows Registry Editor Version 5.00
[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Internet Settings\5.0\User Agent]
@="Googlebot/2.1"
"Compatible"="+http://www.googlebot.com/bot.html"
这样我们就可以突破一些被封锁的收费内容页面了。Firefox用户可以去下载一个名字为 Agent-Switcher的插件,把User-Agent修改成 Googlebot/2.1 (http://www.googlebot.com/bot.html) 就行了。
保存。以后试试看