作者：Fabian Bosler

翻译：车前子

校对：吴振东

本文约4800字，建议阅读15分钟。

本文将介绍如何利用Python生成图像并将结果做出可视化分析。

在上周的文章《用python从不同的表单中提取数据》中，学习了如何从不同的源（Google Sheets、CSV和Excel）检索和统一数据。本教程与上一篇文章是相互独立的，所以你不必担心错过了上周的文章。

在今天的教程中，你将会学到：

如何预处理和合并数据，如何探索并分析数据，如何做出漂亮的图表对结果进行可视化。

这篇教程面向：

经常从事数据相关工作，对Python和Pandas有初步理解的人。

情景概述：

你的任务是找出提高你的销售团队业绩的方法。在我们所假设的情况下，潜在客户有相当自发的需求。当客户提出需求时，你的销售团队会在系统中设置一个订单商机。然后，你的销售代表安排一次会议，会议将在发现订单商机前后举行。你的销售代表有一个开支预算，预算中包括会议费用和餐费。销售代表支付这些花销并将发票交给会计团队处理。在潜在客户决定是否愿意接受你的报价后，勤劳的销售代表会跟踪订单商机是否转化为销售。

你可以使用以下三个数据集进行分析：

order_leads（包含所有订单线索和转化信息）sales_team（包括公司和负责的销售代表）invoices（提供发票和参与者的信息）

载入程序包和属性设置：

1. import json 2. import pandas as pd 3. import numpy as np 4. %matplotlib inline 5. import matplotlib.pyplot as plt 6. import seaborn as sns 7. sns.set( 8. font_scale=1.5, 9. style="whitegrid", 10. rc={'figure.figsize':(20,7)} 11. ) 

这里用到都是相当标准的库。你有可能会需要运行下面的命令来在你的Notebook里安装seaborn。

1. !pip install seaborn

载入数据：

你可以下载并合并上周文章中的实例数据，或者点击这里下载文件并将其加载到Notebook中。

1. sales_team = pd.read_csv('sales_team.csv') 2. order_leads = pd.read_csv('order_leads.csv') 3. invoices = pd.read_csv('invoices.csv') 

sales_team数据集的前两行

order_leads数据集的前两行

invoice数据集的前两行

…

开始探索数据：

总转化率的发展趋势：

转化率随时间的变化

显然，从2017年初开始转化率似乎有所下降。与首席销售官核实后发现，当时有一个竞争对手进入市场。很高兴知道这点，但我们现在对此无能为力。

1. _ = order_leads.set_index(pd.DatetimeIndex(order_leads.Date)).groupby( 2. pd.Grouper(freq='D') 3. )['Converted'].mean() 4. 5. ax = _.rolling(60).mean().plot(figsize=(20,7),title='Conversion Rate Over Time') 6. 7. vals = ax.get_yticks() 8. ax.set_yticklabels(['{:,.0f}%'.format(x*100) for x in vals]) 9. sns.despine() 

1.我们使用下划线“_”作为临时变量。我通常会这样生成以后不会再使用的一次性变量。2.我们对order_leads.Date使用pd.DateTimeIndex，将其设置为序号。3.使用pd.grouped（freq='D'）按天对数据进行分组。或者，你可以将频率更改为W、M、Q或Y（周、月、季或年）。4.我们计算每天“转化”的平均值，即当天订单的转化率。5.我们使用.rolling（60）和.mean（）得到60天的平均值。6.然后，我们设置yticklables的格式，使其显示百分比符号。

不同销售代表的转化率：

销售代表之间的转化率似乎有很大的差异，我们再调查一下。

1. orders_with_sales_team = pd.merge(order_leads,sales_team,on=['Company Id','Company Name']) 2. ax = sns.distplot(orders_with_sales_team.groupby('Sales Rep Id')['Converted'].mean(),kde=False) 3. vals = ax.get_xticks() 4. ax.set_xticklabels(['{:,.0f}%'.format(x*100) for x in vals]) 5. ax.set_title('Number of sales reps by conversion rate') 6. sns.despine() 

就使用的函数而言，这里没有太多的新函数。但请注意我们如何使用sns.distplot将数据绘制到轴上。

如果我们回忆销售团队的数据，我们记得并非所有的销售代表都有相同数量的客户，这肯定会对结果有影响！让我们检查一下。

不同分配账户数量的转化率

我们可以看到，转化率的数量似乎与分配给销售代表的帐户数量成反比，那些降低的转换率是有意义的。毕竟，销售代表的账户越多，他在每个人身上花费的时间就越少。

1. def vertical_mean_line(x, **kwargs): 2. ls = {"0":"-","1":"--"} 3. plt.axvline(x.mean(), linestyle =ls[kwargs.get("label","0")], 4. color = kwargs.get("color", "r")) 5. txkw = dict(size=15, color = kwargs.get("color", "r")) 6. tx = "mean: {:.1f}%\n(std: {:.1f}%)".format(x.mean()*100,x.std()*100) 7. label_x_pos_adjustment = 0.015 8. label_y_pos_adjustment = 20 9. plt.text(x.mean() + label_x_pos_adjustment, label_y_pos_adjustment, tx, **txkw) 10. 11. sns.set( 12. font_scale=1.5, 13. style="whitegrid" 14. ) 15. 16. _ = orders_with_sales_team.groupby('Sales Rep Id').agg({ 17. 'Converted': np.mean, 18. 'Company Id': pd.Series.nunique 19. }) 20. _.columns = ['conversion rate','number of accounts'] 21. 22. g = sns.FacetGrid(_, col="number of accounts", height=4, aspect=0.9, col_wrap=5) 23. g.map(sns.kdeplot, "conversion rate", shade=True) 24. g.set(xlim=(0, 0.35)) 25. g.map(vertical_mean_line, "conversion rate")

在这里，我们先创建一个函数，它将把垂直线映射到每个子块中，并用数据的平均值和标准偏差来注释这条线。然后，我们设置一些seaborn绘图默认值，如较大的字体font_scale和白色网格作为样式 style。

用餐的影响：

用餐数据示例

看起来我们有用餐日期和时间的数据，来快速看一下时间的分布：

1. invoices['Date of Meal'] = pd.to_datetime(invoices['Date of Meal']) 2. invoices['Date of Meal'].dt.time.value_counts().sort_index() 

out:

07:00:00 5536

08:00:00 5613

09:00:00 5473

12:00:00 5614

13:00:00 5412

14:00:00 5633

20:00:00 5528

21:00:00 5534

22:00:00 5647

看起来我们可以总结一下：

1. invoices['Type of Meal'] = pd.cut( 2. invoices['Date of Meal'].dt.hour, 3. bins=[0,10,15,24], 4. labels=['breakfast','lunch','dinner'] 5. )

请注意如何使用pd.cut将连续变量分组，这样做的意义是早餐是8点还是9点开始可能并不重要。

另外，请注意如何使用.dt.hour，我们只能这样做，因为我们将invoices[‘Date of Meal’]转换为日期时间。.dt是一个“访问器”，一共有三类cat，str，dt。如果你的数据是正确的类型，则可以使用这些访问器及其方法进行直接操作（计算效率高且简洁）。

不凑巧的是，我们必须把第一个字符串invoices['Participants']转换成合法的JSON，这样可以提取参与者的数量。

1. def replace(x): 2. return x.replace("\n ",",").replace("' '","','").replace("'",'"') 3. 4. invoices['Participants'] = invoices['Participants'].apply(lambda x: replace(x)) 5. invoices['Number Participants'] = invoices['Participants'].apply(lambda x: len(json.loads(x)))

现在来合并数据。为此，我们先将所有invoice数据与order_leads数据通过 company Id左连接。然而，合并数据会导致所有的用餐数据都匹配到订单上，也有些很久以前的用餐匹配到新的订单数据上。为了减少这种情况，我们计算了用餐和订单之间的时间差，并且只考虑在订单前后5天的用餐。

仍有一些订单匹配了多个用餐信息。这可能发生在同时有两个订单也有两次用餐的情况。两个订单线索都会匹配两次用餐。为了去掉那些重复数据，我们只保留与订单时间最接近的那个订单。

1. # combine order_leads with invoice data 2. orders_with_invoices = pd.merge(order_leads,invoices,how='left',on='Company Id') 3. 4. # calculate days between order leads and invocies 5. orders_with_invoices['Days of meal before order'] = ( 6. pd.to_datetime(orders_with_invoices['Date']) - orders_with_invoices['Date of Meal'] 7. ).dt.days 8. 9. # limit to only meals that are within 5 days of the order 10. orders_with_invoices = orders_with_invoices[abs(orders_with_invoices['Days of meal before order']) < 5] 11. 12. # To mnake sure that we don't cross assign meals to multiple orders and therefore create duplicates 13. # we first sort our data by absolute distance to the orders 14. orders_with_invoices = orders_with_invoices.loc[ 15. abs(orders_with_invoices['Days of meal before order']).sort_values().index 16. ] 17. 18. # keep the first (i.e. closest to sales event) sales order 19. orders_with_invoices = orders_with_invoices.drop_duplicates(subset=['Order Id']) 20. 21. orders_without_invoices = order_leads[~order_leads['Order Id'].isin(orders_with_invoices['Order Id'].unique())] 22. 23. orders_with_meals = pd.concat([orders_with_invoices,orders_without_invoices],sort=True)

部分合并后数据集

我创建了一个柱状图函数，其中已经包含一些样式。通过该函数进行绘图，可以使可视化更快捷。我们现在就来使用这个函数。

1. def plot_bars(data,x_col,y_col): 2. data = data.reset_index() 3. sns.set( 4. font_scale=1.5, 5. style="whitegrid", 6. rc={'figure.figsize':(20,7)} 7. ) 8. g = sns.barplot(x=x_col, y=y_col, data=data, color='royalblue') 9. 10. for p in g.patches: 11. g.annotate( 12. format(p.get_height(), '.2%'), 13. (p.get_x() + p.get_width() / 2., p.get_height()), 14. ha = 'center', 15. va = 'center', 16. xytext = (0, 10), 17. textcoords = 'offset points' 18. ) 19. 20. vals = g.get_yticks() 21. g.set_yticklabels(['{:,.0f}%'.format(x*100) for x in vals]) 22. 23. sns.despine()

用餐种类的影响：

1. orders_with_meals['Type of Meal'].fillna('no meal',inplace=True) 2. _ = orders_with_meals.groupby('Type of Meal').agg({'Converted': np.mean}) 3. plot_bars(_,x_col='Type of Meal',y_col='Converted')

真的！有没有用餐信息的订单转化率有明显的差别。不过，午餐的转化率似乎略低于晚餐或早餐。

时机的影响（如用餐发生在订单前或后）：

1. _ = orders_with_meals.groupby(['Days of meal before order']).agg( 2. {'Converted': np.mean} 3. ) 4. plot_bars(data=_,x_col='Days of meal before order',y_col='Converted'))

“用餐在订单前几天发生”为负数意味着用餐是在订单线索出现之后。我们可以看到，如果用餐在在订单线索出现前发生似乎对转化率有一个积极的影响，看来对订单的事先了解使我们的销售代表更有优势。

合并所有结果：

现在我们将使用热图同时显示数据的多个维度。为此我们先创建一个函数。

1. def draw_heatmap(data,inner_row, inner_col, outer_row, outer_col, values): 2. sns.set(font_scale=1) 3. fg = sns.FacetGrid( 4. data, 5. row=outer_row, 6. col=outer_col, 7. margin_titles=True 8. ) 9. 10. position = left, bottom, width, height = 1.4, .2, .1, .6 11. cbar_ax = fg.fig.add_axes(position) 12. 13. fg.map_dataframe( 14. draw_heatmap_facet, 15. x_col=inner_col, 16. y_col=inner_row, 17. values=values, 18. cbar_ax=cbar_ax, 19. vmin=0, 20. vmax=.4 21. ) 22. 23. fg.fig.subplots_adjust(right=1.3) 24. plt.show() 25. 26. def draw_heatmap_facet(*args, **kwargs): 27. data = kwargs.pop('data') 28. x_col = kwargs.pop('x_col') 29. y_col = kwargs.pop('y_col') 30. values = kwargs.pop('values') 31. d = data.pivot(index=y_col, columns=x_col, values=values) 32. annot = round(d,4).values 33. cmap = sns.color_palette("RdYlGn",30) 34. # cmap = sns.color_palette("PuBu",30) alternative color coding 35. sns.heatmap(d, **kwargs, annot=annot, center=0, fmt=".1%", cmap=cmap, linewidth=.5) 

然后，我们应用一些数据处理来探索用餐花销与订单价值的关系，并将我们的用餐时间划分为订单前（Before Order）、订单前后（Around Order）、订单后（After Order），而不是从负4到正4的天数，因为这解读起来会比较麻烦。

1. #Aggregate the data a bit 2. orders_with_meals['Meal Price / Order Value'] = orders_with_meals['Meal Price']/orders_with_meals['Order Value'] 3. orders_with_meals['Meal Price / Order Value'] = pd.qcut( 4. orders_with_meals['Meal Price / Order Value']*-1, 5. 5, 6. labels = ['Least Expensive','Less Expensive','Proportional','More Expensive','Most Expensive'][::-1] 7. ) 8. 9. orders_with_meals['Timing of Meal'] = pd.qcut( 10. orders_with_meals['Days of meal before order'], 11. 3, 12. labels = ['After Order','Around Order','Before Order'] 13. ) 14. 15. 16. data = orders_with_meals[orders_with_meals['Type of Meal'] != 'no meal'].groupby( 17. ['Timing of Meal','Number Participants','Type of Meal','Meal Price / Order Value'] 18. ).agg({'Converted': np.mean}).unstack().fillna(0).stack().reset_index()

运行下面的代码片段将生成多维热图。

1. draw_heatmap( 2. data=data, 3. outer_row='Timing of Meal', 4. outer_col='Type of Meal', 5. inner_row='Meal Price / Order Value', 6. inner_col='Number Participants', 7. values='Converted' 8. )

热图很漂亮，但一开始有点难以解读。让我们来看一下。

图表总结了4个不同维度的影响：

用餐时间：订单后、订单前后、订单前（外行）用餐类型：早餐、晚餐、午餐（外列）餐费/订单价值：最低、较低、成比例、较贵、最贵（内行）参加人数：1,2,3,4,5（内列）

当然，看起来图表底部的颜色更暗/更高，这表明

在订单前用餐的转化率更高似乎晚餐的转换率更高，当只有一个人用餐时看起来相对订单价值，更贵的餐费对转化率有积极的影响

…

结果：

1.不要给你的销售代表超过9个客户（因为转化率下降很快）；

2.确保每个订单线索都有会议/用餐（因为这使转化率翻倍）；

3.当只分配一名员工给顾客时，晚餐是最有效的；

4.你的销售代表应该支付大约为订单价值8%到10%的餐费；

5.时机是关键，理想情况下，让你的销售代表尽早知道交易即将达成。

点击这里获得以上代码：GitHub Repo/Jupyter Notebook

地址：

热图备注：

为了解决潜在的格式化问题，你可以先将其卸载（必须在终端中完成），然后再运行以下语句，将MaMattLIB降级到版本3.1.0：

!pip install matplotlib==3.1.0 

如果有任何问题请联系我。

原文链接：

编辑：王菁

校对：林亦霖

译者简介

车前子，北大医学部，流行病与卫生统计专业博二在读。从临床医学半路出家到数据挖掘，感到了数据分析的艰深和魅力。即使不做医生，也希望用数据为医疗健康做一点点贡献。

— 完 —

关注清华-青岛数据科学研究院官方微信公众平台“THU数据派”及姊妹号“数据派THU”获取更多讲座福利及优质内容。