加入收藏 | 设为首页 | 会员中心 | 我要投稿 宁德站长网 (https://www.0593zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 运营中心 > 建站资源 > 优化 > 正文

10招!看骨灰级Pythoner如何玩转Python

发布时间:2019-04-15 21:25:59 所属栏目:优化 来源:读芯术
导读:副标题#e# pandas是基于numpy构建的,使数据分析工作变得更快更简单的高级数据结构和操作工具。本文为大家带来10个玩转Python的小技巧,学会了分分钟通关变大神! 1. read_csv 每个人都知道这个命令。但如果你要读取很大的数据,尝试添加这个参数:nrows = 5
副标题[/!--empirenews.page--]

pandas是基于numpy构建的,使数据分析工作变得更快更简单的高级数据结构和操作工具。本文为大家带来10个玩转Python的小技巧,学会了分分钟通关变大神!

Python

1. read_csv

每个人都知道这个命令。但如果你要读取很大的数据,尝试添加这个参数:nrows = 5,以便在实际加载整个表之前仅读取表的一小部分。然后你可以通过选择错误的分隔符来避免错误(它不一定总是以逗号分隔)。

(或者,你可以在linux中使用'head'命令来检查任何文本文件中的前5行,例如:head -c 5 data.txt)

然后,你可以使用df.columns.tolist()来提取列表中的所有列,然后添加usecols = ['c1','c2',...]参数以加载所需的列。此外,如果你知道几个特定列的数据类型,则可以添加参数dtype = {'c1':str,'c2':int,...},以便数据加载得更快。此参数还有另一个优点,如果你有一个同时包含字符串和数字的列,那么将其类型声明为字符串是一个好选择,这样就可以在尝试使用此列作为键去合并表时不会出错。

2. select_dtypes

如果必须在Python中进行数据预处理,那么这个命令可以节约一些时间。读取表后,每列的默认数据类型可以是bool,int64,float64,object,category,timedelta64或datetime64。你可以先查看

  1. df.dtypes.value_counts() 

命令分发的结果以了解数据帧的所有可能数据类型,然后执行

  1. df.select_dtypes(include = ['float64','int64']) 

选择仅具有数字特征的子数据帧。

3. Copy

这是一个重要的命令。如果执行以下命令:

  1. import pandas as pd 
  2. df1 = pd.DataFrame({ ‘a’:[0,0,0], ‘b’: [1,1,1]}) 
  3. df2 = df1 
  4. df2[‘a’] = df2[‘a’] + 1 
  5. df1.head() 

你会发现df1已经改变了。这是因为df2 = df1没有复制df1的值并将其分配给df2,而是设置指向df1的指针。因此,df2的任何变化都会导致df1发生变化 要解决这个问题,你可以:

  1. df2   
  2. = df1.copy() 
  3. br 

或者

  1. from copy import deepcopy 
  2. df2 = deepcopy(df1) 

4. Map

这是一个可以进行简单数据转换的命令。首先定义一个字典,其中'keys'是旧值,'values'是新值。

  1. level_map = {1: ‘high’, 2: ‘medium’, 3: ‘low’} 
  2. df[‘c_level’] = df[‘c’].map(level_map) 

举几个例子:True,False为1,0(用于建模); 定义水平; 用户定义的词法编码。

5. apply or not apply?

如果我们想创建一个新的列,并将其他列作为输入,那么apply函数有时非常有用。

  1. def rule(x, y): 
  2.     if x == ‘high’ and y > 10: 
  3.          return 1 
  4.     else: 
  5.          return 0 
  6. df = pd.DataFrame({ 'c1':[ 'high' ,'high', 'low', 'low'], 'c2': [0, 23, 17, 4]}) 
  7. df['new'] = df.apply(lambda x: rule(x['c1'], x['c2']), axis =  1) 
  8. df.head() 

在上面的代码中,我们定义了一个带有两个输入变量的函数,并使用apply函数将其应用于列'c1'和'c2'。

但“apply函数”的问题是它有时太慢了。 如果你想计算两列“c1”和“c2”的最大值,你可以:

  1. df[‘maximum’] = df.apply(lambda x: max(x[‘c1’], x[‘c2’]), axis = 1) 

但你会发现它比这个命令慢得多:

  1. df[‘maximum’] = df[[‘c1’,’c2']].max(axis =1) 

注意:如果可以使用其他内置函数完成相同的工作(它们通常更快),请不要使用apply。例如,如果要将列'c'舍入为整数,请执行round(df ['c'],0)而非使用apply函数:

  1. df.apply(lambda x: round(x['c'], 0), axis = 1) 

6. value counts

这是一个检查值分布的命令。例如,如果你想检查“c”列中每个值的可能值和频率,可以执行以下操作

  1. df[‘c’].value_counts() 

它有一些有用的技巧/参数:

  1. A. normalize = True:如果你要检查频率而不是计数。 
  2. B. dropna = False:如果你要统计数据中包含的缺失值。 
  3. C. df['c'].value_counts().reset_index():  如果你想将stats表转换成pandas数据帧并进行操作。 
  4. D. df['c'].value_counts().reset_index().sort_values(by='index') : 显示按值而不是按计数排序的统计数据。 

7. 缺失值的数量

(编辑:宁德站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!