在本文中,我將分享4個在一行代碼中完成的Pandas操作。這些操作可以有效地解決特定的任務,並以一種好的方式給出結果。
從列表中創建字典
我有一份商品清單,我想看看它們的分佈情況。更具體地説:希望得到唯一值以及它們在列表中出現的次數。
Python字典是以這種格式存儲數據的好方法。鍵將是字典,值是出現的次數。
這裏可以使用value_counts和to_dict函數,這項任務可以在一行代碼中完成。
這裏有一個簡單的例子來説明這種情況:
importpandasaspd
grades= ["A", "A", "B", "B", "A", "C", "A", "B", "C", "A"]
pd.Series(grades).value_counts().to_dict()
# output
{'A': 5, 'B': 3, 'C': 2}
將列表轉換為Pandas Series,這是Pandas的一維數據結構,然後應用value_counts函數來獲得在Series中出現頻率的唯一值,最後將輸出轉換為字典。這個操作非常高效且易於理解。
從JSON文件創建DataFrame
JSON是一種常用的存儲和傳遞數據的文件格式。
當我們清理、處理或分析數據時,我們通常更喜歡使用表格格式(或類似表格的數據)。由於json_normalize函數,我們可以通過一個操作從json格式的對象創建Pandas DataFrame。
假設數據存儲在一個名為data的JSON文件中。一般情況我們都是這樣讀取:
importjson
withopen("data.json") asf:
data=json.load(f)
data
# output
{'data': [{'id': 101,
'category': {'level_1': 'code design', 'level_2': 'method design'},
'priority': 9},
{'id': 102,
'category': {'level_1': 'error handling', 'level_2': 'exception logging'},
'priority': 8}]}
如果我們將這個變量傳遞給DataFrame構造函數,它將創建如下的DataFrame,這絕對不是一個可用的格式:
df=pd.DataFrame(data)
但是如果我們使用json_normalize函數將得到一個整潔的DataFrame格式:
df=pd.json_normalize(data, "data")
Explode函數
如果有一個與特定記錄匹配的項列表。需要重新格式化它,為該列表中的每個項目提供單獨的行。
這是一個經典的行分割成列的問題。有許多的不同的方法來解決這個任務。其中最簡單的一個(可能是最簡單的)是Explode函數。
我們以這個df為例
使用explosion函數並指定列名:
df_new=df.explode(column="data").reset_index(drop=True)
reset_index會為DataFrame分配一個新的整數索引。
combine_first函數
combine_first函數用於合併兩個具有相同索引的數據結構。
它最主要的用途是用一個對象的非缺失值填充另一個對象的缺失值。這個函數通常在處理缺失數據時很有用。在這方面,它的作用與SQL中的COALESCE函數相同。
df=pd.DataFrame(
{
"A": [None, 0, 12, 5, None],
"B": [3, 4, 1, None, 11]
}
)
我們需要a列中的數據。如果有一行缺少值(即NaN),用B列中同一行的值填充它。
df["A"].combine_first(df["B"])
# output
0 3.0
1 0.0
2 12.0
3 5.0
4 11.0
Name: A, dtype: float64
可以看到的列A的第一行和最後一行取自列B。
如果我們想要使用3列,我們可以鏈接combine_first函數。下面的代碼行首先檢查列a。如果有一個缺失的值,它從列B中獲取它。如果列B中對應的行也是NaN,那麼它從列C中獲取值。
df["A"].combine_first(df["B"]).combine_first(df["C"])
我們還可以在DataFrame級別使用combine_first函數。在這種情況下,所有缺失的值都從第二個DataFrame的相應值(即同一行,同列)中填充。
df1=pd.DataFrame({'A': [1, 2, np.nan, 4], 'B': [5, np.nan, 7, 8]}, index=['a', 'b', 'c', 'd'])
df2=pd.DataFrame({'A': [10, np.nan, 30, 40], 'B': [50, 60, np.nan, 80]}, index=['a', 'b', 'c', 'd'])
result_df=df1.combine_first(df2)
在合併的過程中,
df1
中的非缺失值填充了
df2
中對應位置的缺失值。這有助於處理兩個數據集合並時的缺失值情況。
MergedDataFrame:
A B
a 1.0 5.0
b 2.0 60.0
c 30.0 7.0
d 4.0 8.0
總結
從計算簡單的統計數據到高度複雜的數據清理過程,Pandas都可以快速解決任務。上面的代碼可能不會經常使用,但是當你需要處理這種任務時,它們是非常好的解決辦法。
https://avoid.overfit.cn/post/1e70db7ef5534ff0801316609a1499b1
作者:Soner Yıldırım