Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 817|回复: 0

Python爬虫总结——常见的报错、问题及解决方案

[复制链接]
  • TA的每日心情
    奋斗
    2024-11-24 15:47
  • 签到天数: 804 天

    [LV.10]以坛为家III

    2053

    主题

    2111

    帖子

    72万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    726782
    发表于 2021-5-23 12:54:21 | 显示全部楼层 |阅读模式

    在爬虫开发时,我们时常会遇到各种BUG各种问题,下面是我初步汇总的一些报错和解决方案。
    在以后的学习中,如果遇到其他问题,我也会在这里进行更新。
    各位如有什么补充,欢迎评论区留言~~~



    问题:

    IP被封,或者因访问频率太高被拦截???

    解决方案之一:

    使用代理IP即可。


    问题:

    正确使用XPath之后并没有输出???

    解决方案之一:

    XPath只能提取未注释的代码,改用正则表达式即可。


    问题:

    容易被反爬搞死???

    解决方案之一:

    headers中都要带上User-Agent,而Cookie能不带则不带。


    报错:

    在这里插入图片描述
    UTF-8不能处理字节???

    解决方案之一:

    在headers中加入Cookie即可输出正常的HTML。


    报错:

    在这里插入图片描述
    ‘ gbk ’不能处理‘ \xa0 ’ ???

    解决方案之一:
    with open('%s.html' % title, 'w', encoding='utf-8') as f:
        f.write(rep)
    

    问题:

    在这里插入图片描述
    输出结果是字节类型,json对象无法正常显示???

    解决方案之一:

    使用json.loads方法即可。


    问题:

    url = 'https://tieba.baidu.com/f?kw=%E8%8B%B1%E9%9B%84%E8%81%94%E7%9B%9F&ie=utf-8&pn=0'
    

    网址复制到py文件中,却变成了“乱码”???

    解决方案之一:

    调用urllib.parse.unquote进行URL解码即可。


    问题:

    在这里插入图片描述
    URL地址不规范???

    解决方案之一:

    分析URL时,我们一般从第二页开始分析,而不是第一页。


    问题:

    不想Cookie中携带自身账号内容???

    解决方案之一:

    利用浏览器的无痕窗口功能,进入网页再取Cookie即可。


    报错:

    解决方案之一:

    报错:

    解决方案之一:



    未完待续哦~~~~



    为我心爱的女孩~~


    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-12-23 08:41 , Processed in 0.058260 second(s), 30 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表