Advertisement

python爬取歌曲评论_python爬取歌曲评论并进行数据可视化

阅读量:

一、抓数据

要想做成词云图表,首先得有数据才行。于是需要一点点的爬虫技巧。

基本思路为:抓包分析、加密信息处理、抓取热门评论信息

1.抓包分析

为了方便访问《摩天大楼》歌曲页面

下一步的任务是获取歌曲评论的相关链接,并对收集到的数据进行对比验证。

整理思路,分析api并模拟发送请求,获取json解析就好了

2.加密信息处理

在经过测试后

3.抓取热门评论信息

af91e7dc7193ed37311194e631cb0eb2.png

二、数据可视化

在收集相关评论数据后,我们将其制作成图表与词云图,并便于直观呈现。

请确保在自己的电脑上按照以下步骤正确安装相关软件组件:Pyecharts库(图表显示库)、Matplotlib库(绘图功能库)、WordCloud模块(词云生成工具模块)。

import requests

import json

from pyecharts import Bar

from wordcloud import WordCloud

import matplotlib.pyplot as plt

请从http://music.163.com/weapi/v₁/resource/comments/R_SO_4_55₁₈₁₆₀₁₀?csrf_token=₅₆₈cec₅₆₄ccadb₅f₁b₂₉₃₁₁ece₂₂₈₈f₁开始获取

headers = {

'User-Agent'属性赋值给JavaScript对象表示一种常见的浏览器引擎;该对象基于Windows平台的版本号为NT 6.1,并支持Win64和x64架构;该引擎采用类似于Gecko浏览器的方法解析链接;具体来说;该对象由Apparente/537.36指定;而Safari/537.36则用于表示Safari浏览器引擎的版本号为537.36

'Referer':'http://music.163.com/#/album?id=38388012',

'Origin':'http://music.163.com',

'Host':'music.163.com'

}

#加密数据,直接拿过来用

user_data = {

'params': 'vRlMDmFsdQgApSPW3Fuh93jGTi/ZN2hZ2MhdqMB503TZaIWYWujKWM4hAJnKoPdV7vMXi5GZX6iOa1aljfQwxnKsNT+5/uJKuxosmdhdBQxvX/uwXSOVdT+0RFcnSPtv',

'encSecKey': '4 6 f d d c e f 9 c a 6 6 5 2 8 9 f f a 8 r a s s i a n a n d d b o t h c h a r a c t e r i s t i c s o r p h o n e m o d e l i n g w i t h t h e s e k e y v a l u e s'

}

response = requests.post(url,headers=headers,data=user_data)

data = json.loads(response.text)

hotcomments = []

for hotcommment in data['hotComments']:

item = {

'nickname':hotcommment['user']['nickname'],

'content':hotcommment['content'],

'likedCount':hotcommment['likedCount']

}

hotcomments.append(item)

#获取评论用户名,内容,以及对应的获赞数

content_list = [content['content'] for content in hotcomments]

nickname = [content['nickname'] for content in hotcomments]

liked_count = [content['likedCount'] for content in hotcomments]

bar = Bar("热评点赞示例图")

bar.add( "关注值", nickname, liked_count, is_stack=True, mark_line={"最小值": "max"}, mark_point={"平均值"} )

bar.render()

content_text = " ".join(content_list)

wordcloud = WordCloud(font_path=r"C:\simhei.ttf", maximum number of words set to 200).create_wordcloud_visualization_from_the_provided_text_content.

plt.figure()

plt.imshow(wordcloud,interpolation='bilinear')

plt.axis('off')

plt.show()

全部评论 (0)

还没有任何评论哟~