web scraper 抓取网页数据的几个常见问题
如果你想抓取数据，又懒得写代码了，可以试试 web scraper 抓取数据。
如果你在使用 web scraper 抓取数据，很有可能碰到如下问题中的一个或者多个，而这些问题可能直接将你计划打乱，甚至让你放弃 web scraper 。
下面列出几种你可能会碰到的问题，并说明解决方案。
1、有时候我们想选择某个链接，但是鼠标点击就出触发页面跳转，如何处理?
在我们选择页面元素的时候，勾选 “Enable key”，然后鼠标滑到要选择的元素上，按下 S 键。
另外，勾选“Enable key” 后会出现三个字母，分别是 S、P、C，按 S 就是选择当前元素，按 P 就是选择当前元素的父元素，按 C 就是选择当前元素的子元素，当前元素指的是鼠标所在的元素。
2、分页数据或者滚动加载的数据，不能完全抓取，例如知乎和 twitter 等？
出现这种问题大部分是因为网络问题，数据还没来得及加载，web scraper 就开始解析数据，但是因为没有及时加载，导致 web scrpaer 误认为已经抓取完毕。
所以适当的调大 delay 的大小，延长等待时间，让数据有足够的时间加载。默认的 delay 是 2000，也就是 2 秒，可以根据网速调整。
但是，当数据量比较大的时候，出现数据抓取不完全的情况也是常有的。因为只要有一次翻页或者一次下拉加载没有在 delay 的时间内加载完成，那么抓取就结束了。
3、抓取的数据顺序和网页上的顺序不一致？
web scraper 默认就是无序的，可以安装 CouchDB 来保证数据的有序性。
或者采用其他变通的方式，我们最后会将数据导出到 CSV 格式，CSV 用 Excel 打开之后，可以按照某一列来排序，例如我们抓取微博数据的时候将发布时间抓取下来，然后再 Excel 中按照发布时间排序，或者知乎上的数据按照点赞数排序。
4、有些页面元素通过 web scraper 提供的 selector 选择器没办法选中？
造成这种情况的原因可能是因为网站页面本身不符合网页布局规范，或者你想要的数据是动态的，例如鼠标滑过才会显示的元素等，遇到这些情况就要借助其他方法了。
其实通过鼠标操作选择元素，最后就是为了找到元素对应的 xpath。xpath 对应到网页上来解释，就是定位某元素的路径，通过元素的种类、唯一标识、样式名称，配合上下级关系来找到某个元素或某一类元素。
如果你没有遇到这个问题，那就没有必要了解 xpath，等到遇到了问题再动手去学一下就可以。
这里只是说了几个使用 web scraper 的过程中常见的问题，如果你还遇到了其他的问题，可以在文章下面留言。
原文地址：web scraper 抓取网页数据的几个常见问题
本文内容仅供个人学习、研究或参考使用，不构成任何形式的决策建议、专业指导或法律依据。未经授权，禁止任何单位或个人以商业售卖、虚假宣传、侵权传播等非学习研究目的使用本文内容。如需分享或转载，请保留原文来源信息，不得篡改、删减内容或侵犯相关权益。感谢您的理解与支持！
