Spider陷阱

在http://www.webdesignerdepot.com/上看到一篇关于数据的文章，有几张图觉得挺有意思
这张图很形象的说明了搜索引擎的Spider在抓取网页时，一些不友好的元素会对其形成较坏的影响（说明：如有解释误，勿怪）：

1. orphan Pages；Spider是根据链接抓取网页，没有链接的网页，自然使spider抓取困难。
2. Unfriendly SEO-CMS System；CMS对SEO不友好的话，会对spider形成一定的干扰，比如js、ajax、链接分布、frame结构等等。
3. Bad server Configuration；如阻止搜索引擎spider访问、302重定向、访问权限等等，以及服务器的稳定性，都有可能对spider造成致命的打击。
4. Cloaking；比如隐藏文字、没有任何内外链的网页，都会使spider出现问题。
5. Session Based Coding；URL根据访问者的cookie随机变换、html代码中大量的字符，这些session闯下的祸，对于一个不依赖SEO的网站来说可能没什么，但是对于一个基于SEO的网页来说可是致命的。
6. 没有处理错误页面；如404跳转等