这篇文章主要介绍了python爬虫框架中有哪些模块，具有一定借鉴价值，需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。
在柳北等地区，都构建了全面的区域性战略布局，加强发展的系统性、市场前瞻性、产品创新能力，以专注、极致的服务理念，为客户提供成都做网站、成都网站设计、成都外贸网站建设 网站设计制作按需开发网站,公司网站建设,企业网站建设,成都品牌网站建设,网络营销推广,成都外贸网站建设,柳北网站建设费用合理。
1、Python标准库——urllib模块
功能：打开URL和http协议之类
实例代码：
#coding:utf-8
import urllib.request
import time
import platform
#清屏函数(无关紧要 可以不写)
def clear():
print(u"内容过多 3秒后清屏")
time.sleep(3)
OS = platform.system()
if (OS == u'Windows'):
os.system('cls')
else:
os.system('clear')
#访问函数
def linkbaidu():
url = ''
try:
response = urllib.request.urlopen(url,timeout=3)
except urllib.URLError:
print(u'网络地址错误')
exit()
with open('/home/ifeng/PycharmProjects/pachong/study/baidu.txt','w') as fp:
response = urllib.request.urlopen(url,timeout=3)
fp.write(response.read())
print(u'获取url信息，response.geturl()\n:%s'%response.getrul())
print(u'获取返回代码，response.getcode()\n:%s' % response.getcode())
print(u'获取返回信息，response.info()\n:%s' % response.info())
print(u"获取的网页信息经存与baidu.txt")
if __name__ =='main':
linkbaidu()2、Python标准库–logging模块
logging模块能够代替print函数的功能，将标准输出到日志文件保存起来，利用loggin模块可以部分替代debug
3、re模块
正则表达式
4、sys模块
系统相关模块
实际应用：
sys.argv(返回一个列表，包含所有的命令行)
sys.exit(退出程序)
5、Scrapy框架
感谢你能够认真阅读完这篇文章，希望小编分享python爬虫框架中有哪些模块内容对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，遇到问题就找创新互联，详细的解决方法等着你来学习!