关键词不能为空

当前您在: 大学查询网 > 高校介绍 >

重庆大学城的大学python 爬虫抓取了百万知乎并做了分析_光环大数据培训

作者:高考题库网
来源:https://bjmy2z.cn/daxue
2020-12-07 11:55
tags:

华南师范大学成人教育学院-校长讲话

2020年12月7日发(作者:梅镇岳)



光环大数据

--

大数据培训

&

人工智能培训



python

爬虫抓取了百万知乎并做了分析

_

光环大数据培训




最近用

pytho n

爬虫抓取了知乎用户个人资料

(公开信息)

去 重之后有

300+


万条记录,

为了得到这些数据,

还不小心跑崩了一台服务器??当然主要是配置


太低。手头有了数据也不能闲着 ,于是就有了这篇分析报告,这篇报

...


工具数据分析

Hadoop

培训分布式


最近用

python

爬虫抓取了知乎用户个人资料

(公开信息)

去重之后有

300+

万条记录,

为了得到这些数据,

还不小心跑崩了一台服务器??当然主要是配 置


太低。


手头有了数据也不能闲着,

于是就有了这篇分析报告,

这篇报告做了一些浅


显的数据分析 ,主要目的是练练手,大家看个热闹,高手勿笑。


数据量:

3,289,329

人。数据采集工具:分布式

python

< p>爬虫分析工具:


ElasticSearch+Kibana

分析角 度包括:地理位置、男女比例、各类排名、所在


高校、活跃程度等。


注意:

以下所有分析结果都基于我抓取到的这

300

万用户的个人信息,

非权


威分析,仅供参考。数据抓取时间为

2017

7

月份,用户数据会随着时间推移


而变化,

所以该报告具有一定时效性。

知乎的用户个人资料很 大程度上是不完整


的,

因为用户有权只填写部分信息,

所 以后面分析的时候会筛掉对应指标为空的


用户。下面让我们看看知乎用户分布中有哪些有 趣的现象。


知乎的男女比例?首先来看看知乎用户的男女比例,< /p>

以当前样本数据统计的


结果接近

1:1

,其 中男生略多一些。

(其实还有很大一部分性别不明的用户,被


我略掉了< /p>


蓝色为男生,红色为女生。具体数据为:


男生:

1,202,234

人,占

51.55 %

。女生:

1,129,874

人,占

48.45 %


知乎用户都是哪里人?再来看看全国

(全球?)

都有哪些地方的人在玩知乎:


由 上图可以看到,

知乎用户中一线城市用户占较大的比重,

北上广深皆在词


云的中心位置(文字越大,比重越大)

。我们再来看看具体的排名(前十名)


光环大数据





光环大数据

--< /p>

大数据培训

&

人工智能培训





知乎用户居住地前十名依次是:北京、上海、杭州、成都、南京、武汉、广


州、深圳、 西安、重庆。


你可能发现了

Y

坐标 里每座城市的用户数并不多,

这是因为有大概

260

万的


知乎没有填写“居住地”这一栏

~

以下分析也有可能出现用户没有 填写某一栏信


息的情况,我会把这些用户忽略掉,以保证展示图表的准确性。

< p>


知乎的职业分布?以下显示知乎主流职业,

同样根据知乎用户 个人信息里填


写的职业为准:


由上图可以 看到,

知乎用户中学生用户占据多数,其它的比如产品经理、程


序员、运 营、

HR

数量也不少。我们看一下具体的排名(前十名)


由上图可以看到,知乎用户中“学生”的比重独占鳌头,我们把“学生” 去


掉,来看看正经些的知乎职业排名:


去 除学生后,知乎主流职业比重从大到小依次是(前十名)

:产品经理、自


由职业、程序员、工程师、设计师、腾讯、教师、人力资源(

HR

、运营、律师。


可以看到,

除了一些互联网公司的常见职位外,

教师和律师用户在知乎中也占据


不小的比重。


下面我们结合性别和居住地来分析一下知乎的主流职业。


知乎主流职业的性别分布:


上面这张饼图 的内圈表示各主流职业在前十名中所占的比重,

外圈表示该职


业从业者中 的男女比例,

蓝色为男性,

红色为女性。

我们再用一张直方图来表 示:


同样蓝色代表男性,

红色代表女性,

从左到右的职业在知乎中的数量依次下


降。可以看到,知乎大部分主流职业中主要 为男性占主导。前

10

名的主流职业


中有

8

个职业的男性从业者比女性多,其中以程序员的男女比例差距更为悬殊


-_-|||

,以设计师男女比例差距最小,看来设计师从业 人员男女比例较为均


衡。其它的,比如产品经理、自由职业者、律师中,均为男性从业者 多于女性。


而前

10

名剩下的

2

个职业――教师、人力资源(

HR

)――女性从业者要多于男


性,其中以人力资源(

HR

)男女比例差距更为悬殊,教师的男女比例 虽不那么夸


张,但女性也远远多于男性(也许是因为男性教师不怎么上知乎?)


看完了知乎各职业的性别分布,我们再用一张热力图来观 察知乎主流职业


光环大数据





光环大数据

--< /p>

大数据培训

&

人工智能培训





(前五名)

在各个地区的分布情况,

颜色越深,

代表该职业在该 地区的人数越多:


这里我为了展示方便,

去掉了产 品经理,

你只需要知道产品经理在各地人数


都是最多的??不明白知乎上 怎么这么多产品经理,

可能是为了方便宣传他们的


产品?


从上图可以看出,

知乎各主流职业大部分集中在北京和上海两地,

更准确地


说,

大部分都集中在北京,

但是人力资 源

HR

是个例外,

他们更多集 中在上海。


我们再来看看其他职业,程序员分布最多的城市依次是:北京、上海、广州、 杭


州、厦门。北京占得比重较大,简直绿的发黑,看来北京是程序员的天堂?其中


深圳没有上榜,

让我很奇怪。

设计师分布最多的城市依次是:< /p>

北京、

上海、

杭州、


深圳、武汉。设计师的 地区分布比较平均,各个城市都有一定数量。


知乎的高校用户知乎 中学生用户占很大的比重,

我们来看看他们都来自哪些


学校!词云中字体 越大,表示所占比重越大。


我们再列出详细的比重排名:


以上展示的 结果不一定准确,

可能有很大一部分学生用户没有填写自己的学


校。仅从 上图可以看出,知乎活跃高校用户从大到小依次是:浙江大学、武汉大


学、

华中科技大学、

中山大学、

北京大学、

上海交通大学、

复旦大学、

南京大学、


四川大学、清华大学。


既然分析到学校了,我们顺便看看各高校的男女比例,嘿嘿。


发现一个有意思的现象,各高校大部分都是男生在玩知乎??


再看一下哪些高校在知乎获得的赞数最多:


第一是同济大学,土木工程,恩,这是哪位大佬撑起来的;第二是华南理工


大学,软件 工程,这个我知道,轮子哥是皇家理工的嘛;第三,重庆第一工程尸


培训基地,恩??? 这是什么鬼(黑人问号)

;继续往后看,恩????家里蹲


大学??!< /p>

!还有一个兰州大学,牛肉面工艺专业???

WHAT

??!


知乎大佬都这么调皮吗??这个图似乎不太准,大家忽略就好??


我们再来看看各地区有哪些高校是知乎重度用户,

颜色越深代表该学校的 知


乎用户越多:


北京玩知乎最多的高校依 次是:北京大学、北京邮电大学、中国传媒大学、


光环大数据





光环大数据

--< /p>

大数据培训

&

人工智能培训





中国人民大学、清华大学。上海玩知乎最多的高校依次是:上海交通大学、复旦


大学、 同济大学、上海大学、上海财经大学。杭州玩知乎最多的高校依次是:浙


江大学、浙江工 业大学、杭州电子科技大学、浙江大学

,

计算机科学、浙江大学

,


软件工程。

浙江大学是重度用户啊??成都玩知乎最多的高校依次是:< /p>

电子科技


大学、四川大学、西南交通大学、电子科技大学

,

软件工程、四川师范大学。广


州玩知乎最多的高校依次是:中山大学(< /p>

SYSU

、华南理工大学(

SCUT

、华南农


业大学

(SCAU)

广东外语外贸大学、广东工业大学。我们再来看一下知乎各高校


用户的活跃程 度,按每个学校用户回答问题的总数排名:


排名依次是:武汉大学 、浙江大学、中山大学、华南理工大学、北京大学、


华中科技大学、复旦大学、上海交通 大学、西北农林科技大学。


好了,高校分析告一段落,我们再来看看知乎用户的各类排名。

< /p>


知乎赞数最多的

100

位大

V

下图中词云的字越大,表示收到的赞数越多:


我们再来一张直方图,配合着看:


张佳玮 大大无可争议的获得第一名,

360+

万赞,

恐怖。

其次是马前卒、

唐缺、


vczh

、肥肥猫、朱炫、

SeaseeYoul

zeran

、鬼木知、豆子。 知乎获赞总数前五


名有两位都是作家(张佳玮和唐缺)

,看来作家在知乎 回答问题获赞方面还是很


吃香,果然表达能力是观点获得认可的一个重要支撑。


知乎关注者最多的

100

位大

V

下图词云的字越大,

表示关注者越多,

看看有


没有你熟悉的大

V

呢?:


同样我们配合着一张直方图来看:


知乎关 注人数最多的前

10

位大

V

依次是:

张佳玮、

李开复、

黄继新、

周源、


张亮 、张小北、李淼、朱炫、葛巾、田吉顺。这些是知乎真正的大

V

,关注者数


量极多。

关注者最多的张佳玮有

137

万粉丝< /p>

(抓取时)

他的粉丝还在不断上涨,


到现 在已经有

138

万粉丝。关注者最少田吉顺也有

57

万粉丝,轮子哥(

vczh


稍微少一些,排在第

11

位。


知乎回答问题最多的

100

位大

V

这些大

V

在知 乎很活跃??下图词云文字越


大,表示回答问题数量越多。


具体的排名为:


光环大数据





光环大数据

--

大数据培训

< p>&

人工智能培训





知乎回答问题数最多的

< p>10

位大

V

从大到小依次为:

vczh

、李东、赵钢、另


一只袜子、四海之内、

M3

小 蘑菇、

kunyu

、白猫转转风、

yskin

、肛 里拉出个电


锯。微软的工作貌似很闲,看轮子哥(

vczh

)整天刷知乎??我们再来加上这几


位用户在知乎的获得的赞数,看看“回答问题的数 量”和“获得的赞数”之间有


没有什么联系:

由上图我们可以粗略的得出结论,

回答问题的数量和获得赞数的关系没有很

< br>大。上图中只有

kunyu

vczh

回答 问题的数量和获赞数基本持平,榜单前十名


的其它用户获得赞数虽然也不少,

< p>但和他们回答问题数量的排名比起来,

还不在


一个量级上。这从侧面 也说明了一个问题,

回答问题的质量更加重要,

某些高质


量的会更容易吸引用户点赞。


知乎参加

live< /p>

最多的

100

位大

V

我们再来看一个 有意思的统计,

知乎参加

live


最多的

100

位用户,

以及他们最多参加过多少场

live

live

是知乎推出的一种


类似于 直播的问答形式,大

V

开一场

live

,分享他所 在领域的知识,用户买门


票参与

live

,是一种知识变 现的方式)



为什么大家选择

光环大数据



大数据培训

人工智能培训< /p>

Python

培训

大数据培训机 构

大数据培训班


数据分析培训

大数据可视化培训

,就选光环大数据!

光环大数据

,聘请专业的


大数据领域知名讲师,

确保教学的整体质量与教 学水准。

讲师团及时掌握时代潮


流技术,

将前沿技能融入 教学中,

确保学生所学知识顺应时代所需。

通过深入浅


出 、通俗易懂的教学方式,

指导学生更快的掌握技能知识,

成就上万个高薪就业


学子。



【报名方式、详情咨询】


光环大数据官方网站报名:

/


手机报名链接:

http:// /mobile/



光环大数据





光环大数据

--< /p>

大数据培训

&

人工智能培训






光环大数据



四川大学姑息医学-激励自己的话


东北财经大学网络管理中心-毕淑敏简介


贵州财经大学占地面积-几米经典语录


大学生做什么工作好-音乐课教学反思


上饶有几所大学-元宵节的诗句


武汉理工大学知乎-市场营销试题


成都金堂有哪些大学-范进中举教学设计


大学学委竞选稿-我最喜欢的小动物



本文更新与2020-12-07 11:55,由作者提供,不代表本网站立场,转载请注明出处:https://bjmy2z.cn/daxue/16690.html

python 爬虫抓取了百万知乎并做了分析_光环大数据培训的相关文章