Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 79|回复: 0

scrapy 爬虫返回json格式内容unicode编码转换为中文的问题解决

[复制链接]
  • TA的每日心情
    奋斗
    昨天 13:57
  • 签到天数: 228 天

    [LV.7]常住居民III

    1523

    主题

    1581

    帖子

    10万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    106930
    发表于 2021-8-28 15:14:47 | 显示全部楼层 |阅读模式

    最近在基于python3.6.5 的环境使用scrapy框架爬虫获取json数据,返回的数据是unicode格式的,在spider里面的parse接口中打印response.text出来如下:

    class TestSpider(Spider):
    ......
        def parse(self, response):
    	    print(response.text)
    

    结果如下:

    {
    	"status":"true",
    	"last_view_time":null,
    	"message":"",
    	"shown_offset":0,
    	"articles":[
    	{
    		"channel":"\u8d44\u8bafnew",
    		"comments":113,
    		"created_at":"09\u670828\u65e5",
    		"desc":"  \u00a0 \u00a0 \u00a0 \u00a0 \u00a0\u00a0\u5173\u6ce8ITValue\uff0c\u67e5\u770b\u4f01\u4e1a\u7ea7\u5e02\u573a\u6700\u65b0\u9c9c\u3001\u6700\u5177\u4ef7\u503c\u7684\u62a5\u9053\uff01\u4e2d\u56fd\u667a\u6167\u529e\u516c\u54c1\u724c\u6df1\u5733\u5e02\u84dd\u51cc
    		.......
    

    python3版本开始取消了string的decode方法,不能像以前一样使用类似mystring.decode(“utf-8”) 的方式转码。

    其实可以绕一下解决,先编码再解码:

     def parse(self, response):
         datas = json.dumps(response.text, ensure_ascii= False, indent=4, separators=(',', ': '))
         json_data = json.loads(datas).encode('utf-8').decode('unicode_escape')
         print(json_data)
    

    关键在于:mystr.encode('utf-8').decode('unicode_escape')

    最后打印内容正常了:

    {
    	"status":"true",
    	"last_view_time":null,
    	"message":"",
    	"shown_offset":0,
    	"articles":[
    	{
    		"channel":"默认",
    		"comments":25,
    		"created_at":"09月28日",
    		"desc":" 了解快捷键能够提升您的生产力。这里有一些实用的 Ubuntu 快捷键助您像专业人士一样使用 Ubuntu。-- Abhishek Prakash有用的原文链接请访问文末的...","downs":0,"id":"82879369","isexpert":0,"sourcetype":1,"tag":"","title"
    		............
    
    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2022-1-21 05:10 , Processed in 0.072518 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2020, Tencent Cloud.

    快速回复 返回顶部 返回列表