(图片来自互联网)
如果一个人想学习爬虫技术，我会首先推荐他学会使用httpbin！
httpbin(官网|github)是一个很不错测试工具，你可以放心大胆的黑他，而不用担心他报复你。他有点像一个蜜罐，时刻等待着你的光临，然后根据你的请求，给你返回你想要的东西
相同推荐
类似这种能够很方便调试接口的还有很多，但是无疑还是httpbin最好用。
如何使用
使用你擅长的语言，与它的接口互动。
接口
简单例子
import requests
s = requests.Session()
print s.get('http://httpbin.org/ip').text
print s.get('http://httpbin.org/get').json()
print s.post('http://httpbin.org/post', {'key':'value'},headers={'user-agent':'LAOGAO'}).text
print s.get('http://httpbin.org/status/404').status_code
print s.get('http://httpbin.org/html').text
print s.get('http://httpbin.org/deny').text
技巧
httpbin给我们提供了很多HTTP基本的操作，如果你的APP组问你要接口，你手头又很忙，怎么办？当然是用httpbin按照接口文档先给他们快速写几个丢过去。
部署
httpbin使用flask编写，可以参考使用nginx + uWSGI运行flask程序，不过在此老高又学会了一种新的方法 – 使用gunicorn运行flask。
gunicorn又是一个 Python WSGI HTTP Server for UNIX!
# 如果已经安装PIP，请忽略此步骤
cd ~ && wget -O - "https://bootstrap.pypa.io/get-pip.py" | python
# 安装httpbin
pip install httpbin
# 安装服务器软件gunicorn
pip install gunicorn
# 运行httpbin，在8000端口
gunicorn -b :8000 httpbin:app
# [2015-06-27 03:16:52 +0000] [18568] [INFO] Starting gunicorn 19.3.0
# [2015-06-27 03:16:52 +0000] [18568] [INFO] Listening at: http://0.0.0.0:8000 (18568)
# [2015-06-27 03:16:52 +0000] [18568] [INFO] Using worker: sync
# [2015-06-27 03:16:52 +0000] [18573] [INFO] Booting worker with pid: 18573
接下来访问你的IP:8000，不出意外，你就能看到与官网一样的功能了！
使用文档
使用PHPSTORM RESTful调试
在 Tools | Test RESTful 中可以找到Test RESTful工具，可以方便的调试接口。
