作为一名在数据行业打拼了两年多的数据分析师，虽然目前收入还算ok，但每每想起房价，男儿三十还未立，内心就不免彷徨不已~

两年时间里曾经换过一份工作，一直都是从事大数据相关的行业。目前是一家企业的BI工程师，主要工作就是给业务部门出报表和业务分析报告。

回想自己过去的工作成绩也还算是不错的，多次通过自己分析告，解决了业务的疑难杂症，领导们各种离不开。

但安逸久了总会有点莫名的慌张，所以我所在的这个岗位未来会有多大发展空间，十年之后我能成为什么样的人呢？自己的收入空间还有多少？

一番惆怅之后，别再问路在何方了，于是抄起自己的“家伙”，花了一小会时间爬了智联招聘上BI岗位的数据信息，做了个分析。

PS：所用工具为Python+BI

数据分析的过程如同烧一顿饭，先要数据采集（买菜），然后数据建模（配菜）、数据清洗（洗菜）、数据分析（做菜）、数据可视化（摆盘上菜）。

所以第一步，要采集/选择数据。

一、Python爬取智联招聘岗位信息（附源码）

选择智联招聘，通过Python来进行“BI工程师”的关键数据信息的爬取，这里大家也可以试着爬取自己岗位的关键词，如“数据分析师”、“java开发工程师 ”等。经过F12分析调试，数据是以JSON的形式存储的，可以通过智联招聘提供的接口调用返回。

那么我这边通过Python对智联招聘网站的数据进行解析，爬取了30页数据，并且将岗位名称、公司名称、薪水、所在城市、所属行业、学历要求、工作年限这些关键信息用CSV文件保存下来。

附上完整Python源码：

import requests 
import json 
import csv 
from urllib.parse import urlencode 
import time 
  
def saveHtml(file_name,file_content): #保存conten对象为html文件 
 with open(file_name.replace('/','_')+'.html','wb') as f: 
 f.write(file_content) 
  
def GetData(url,writer):#解析并将数据保存为CSV文件 
 response= requests.get(url) 
 data=response.content 
 saveHtml('zlzp',data) #保存html文件 
 jsondata=json.loads(data) 
 dataList=jsondata['data']['results'] 
 #print(jsondata) 
 for dic in dataList: 
 jobName=dic['jobName'] #岗位名称 
 company=dic['company']['name'] #公司名称 
 salary=dic['salary'] #薪水 
 city=dic['city']['display'] #城市 
 jobtype = dic['jobType']['display'] #所属行业 
 eduLevel=dic['eduLevel']['name'] #学历要求 
 workingExp=dic['workingExp']['name'] #工作经验 
 print(jobName,company,salary,city,jobtype,eduLevel,workingExp) 
 writer.writerow([jobName,company,salary,city,jobtype,eduLevel,workingExp]) 
param={ 'start':0, 
 'pageSize':60, 
 'cityId':489, 
 'workExperience':-1, 
 'education':-1, 
 'companyType': -1, 
 'employmentType': -1, 
 'jobWelfareTag': -1, 
 'kw': 'BI工程师', #搜索关键词，可以根据你需要爬取的岗位信息进行更换 
 'kt': 3, 
 'lastUrlQuery': {"p":1,"pageSize":"60","jl":"681","kw":"python","kt":"3"} 
 }#参数配置 
pages=range(1,31)#爬取1-30页数据 
out_f = open('test.csv', 'w', newline='') 
writer = csv.writer(out_f) 
writer.writerow(['jobName','company','salary','city','jobtype','eduLevel','workingExp']) 
for p in pages: #自动翻页 
 param['start']=(p-1)*60 
 param['lastUrlQuery']['p']=p 
 url = 'https://fe-api.zhaopin.com/c/i/sou?' + urlencode(param) 
 GetData(url,writer) 
 time.sleep(3)#间隔休眠3秒，防止IP被封 
 print(p) 
out_f.close()  

经过一番编译调试，代码成功运行。

全部数据爬取完毕，一共1800条，保存在本地CSV文件中。

数据是爬到了，具体我想了解哪些信息呢：各城市的BI岗位需求情况以及薪资水平；薪水随工作经验的涨幅情况，以及有哪些具体的高薪岗。

由此可见，想要分析的角度很多，且看了源数据，还要做不少的数据处理。最简单快速出可视化的方法自然是用BI工具，来对数据做简单清洗加工，并呈现可视化。

BI能应付绝大多数场景的数据分析，尤其擅长多维数据切片，不需要建模；甚至数据清洗环节也能放在前端，通过过滤筛选、新建计算公式等来解决。最后呈现可视化，并可设计数据报告。

这里我用FineBI来做这样一份分析。

FineBI做分析大体是这样的流程：连接/导入数据——数据处理/清洗（过滤、筛选、新增公式列）——探索式分析——数据可视化——出报告。

二、数据清洗加工

1.薪水上下限分割：

（编辑：淮北站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!