Pandas 的Merge函數(shù)詳解(1)

在日常工作中，我們可能會從多個數(shù)據(jù)集中獲取數(shù)據(jù)，并且希望合并兩個或多個不同的數(shù)據(jù)集。這時就可以使用Pandas包中的Merge函數(shù)。在本文中，我們將介紹用于合并數(shù)據(jù)的三個函數(shù)merge、merge_ordered、merge_asof。

merge函數(shù)是Pandas中執(zhí)行基本數(shù)據(jù)集合并的首選函數(shù)。函數(shù)將根據(jù)給定的數(shù)據(jù)集索引或列組合兩個數(shù)據(jù)集。

我們使用下面試示例：

 import pandas as pd
 customer = pd.DataFrame({'cust_id': [1,2,3,4,5],                    'cust_name': ['Maria', 'Fran', 'Dominique', 'Elsa', 'Charles'],                    'country': ['German', 'Spain', 'Japan', 'Poland', 'Argentina']})
 order = pd.DataFrame({'order_id': [200, 201,202,203,204],                      'cust_id':[1,3,3,4,2],                      'order_date': ['2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'],                      'order_value': [10.1, 20.5, 18.7, 19.1, 13.5]})

我們嘗試模擬兩個不同的數(shù)據(jù)集:客戶和訂單數(shù)據(jù)，其中cust_id列同時存在于兩個DataFrame中。

 pd.merge(customer, order)

默認情況下，merge函數(shù)是這樣工作的:

將按列合并，并嘗試從兩個數(shù)據(jù)集中找到公共列，使用來自兩個DataFrame(內(nèi)連接)的列值之間的交集。

列和索引合并

在上面合并的數(shù)據(jù)集中，merge函數(shù)在cust_id列上連接兩個數(shù)據(jù)集，因為它是唯一的公共列。我們也可以指定要在兩個數(shù)據(jù)集上連接的列名。

如果兩個列的名稱都存在于兩個DataFrame中，則可以使用參數(shù)on。

 pd.merge(customer, order, on = 'cust_id')

結(jié)果與前面的示例類似，因為cust_id是唯一的公共列。但是如果兩個DataFrame都包含兩個或多個具有相同名稱的列，則這個參數(shù)就很重要。

我們來創(chuàng)建一個包含兩個相似列的數(shù)據(jù)。

customer = pd.DataFrame({'cust_id': [1,2,3,4,5],                    'cust_name': ['Maria', 'Fran', 'Dominique', 'Elsa', 'Charles'],                    'country': ['German', 'Spain', 'Japan', 'Poland', 'Argentina']})
 order = pd.DataFrame({'order_id': [200, 201,202,203,204],                      'cust_id':[1,3,3,4,2],                      'order_date': ['2014-07-05', '2014-07-06', '2014-07-07', '2014-07-07', '2014-07-08'],                      'order_value': [10.1, 20.5, 18.7, 19.1, 13.5],                      'country' : ['German', 'Indonesia', 'Armenia', 'Singapore', 'Japan']                      })

數(shù)據(jù)集現(xiàn)在包含兩個名稱相似的列:cust_id和country。讓我們看看如果使用默認方法合并兩個DataFrame會發(fā)生什么。

 pd.merge(customer, order)

只剩下一行了，這是因為merge函數(shù)將使用與鍵名相同的所有列來合并兩個數(shù)據(jù)集。所以現(xiàn)在是通過cust_id和country中找到的相同值來實現(xiàn)合并的。

還有一個問題，我們指定一個列后，其他的重復(fù)列（這里是country），現(xiàn)在存在country_x和country_y列。這兩列是來自各自數(shù)據(jù)集的國家列。country_x來自Customer數(shù)據(jù)集，country_y來自O(shè)rder數(shù)據(jù)集。

為了幫助區(qū)分合并過程中相同列名的結(jié)果，我們可以將一個元組對象傳遞給suffix參數(shù)。

 pd.merge(customer, order, on ='cust_id', suffixes = ('_customer', '_order'))

使用suffix參數(shù)，可以讓我們避免混淆，或者在合并前我們直接將列改名。

 customer = customer.rename(columns = {'country':'customer_country'})  order = order.rename(columns = {'country':'delivery_country'})

這樣就不會造成混淆了。

然是如果我們要合并的列名在兩個數(shù)據(jù)集不同時，on參數(shù)就沒有效果了，這時就需要使用left_on和right_on參數(shù)，我們這里以剛剛改名的country列為例：

 pd.merge(customer, order, left_on = 'customer_country', right_on = 'delivery_country', suffixes = ('_customer', '_order'))

在上面的代碼中，我們將左側(cè)數(shù)據(jù)集(Customer)上想要合并的列傳遞給left_on參數(shù)，將右側(cè)數(shù)據(jù)集(Order)的列名傳遞給right_on參數(shù)。

left_on和right_on參數(shù)是串聯(lián)工作的，因此我們不能在left_on參數(shù)中傳遞列名，而將right_on參數(shù)保留為空。

我們也可以使用left_index和right_index來替換left_on和right_on參數(shù)。right_index和left_index參數(shù)控制merge函數(shù)，以根據(jù)索引而不是列連接數(shù)據(jù)集。

 pd.merge(customer, order, left_index = True, right_on = 'cust_id', suffixes = ('_customer', '_order'))

在上面的代碼將True值傳遞給left_index參數(shù)，表示希望使用左側(cè)數(shù)據(jù)集上的索引作為連接鍵。合并過程類似于下圖。

當我們按索引和列合并時，DataFrame結(jié)果將由于合并(匹配的索引)會增加一個額外的列。

合并類型介紹

默認情況下，當我們合并數(shù)據(jù)集時，merge函數(shù)將執(zhí)行Inner Join。在Inner Join中，根據(jù)鍵之間的交集選擇行。匹配在兩個鍵列或索引中找到的相同值。

下圖顯示了Inner Join圖，其中只選擇了Customer和Order數(shù)據(jù)集上的列和/或索引之間匹配的值。

 pd.merge(customer, order, left_on = 'customer_country',          right_on = 'delivery_country', suffixes = ('_customer', '_order'),        how = 'inner')

我們也可以使用左連接和右連接來保留想要的DataFrame。

 pd.merge(customer, order, left_on = 'customer_country',        right_on = 'delivery_country', suffixes = ('_customer', '_order'),         how = 'left', indicator = True)

上面的代碼，所有與訂單數(shù)據(jù)值不匹配的客戶數(shù)據(jù)值都用NaN值填充。

indicator=True參數(shù)，將創(chuàng)建_merge列。在上面的結(jié)果中，可以看到兩個值都表明該行來自DataFrame和left_only的交集，其中該行來自第一個DataFrame(左側(cè))。

如果要執(zhí)行右連接，可以使用以下代碼。

 pd.merge(customer, order, left_on = 'customer_country',       right_on = 'delivery_country', suffixes = ('_customer', '_order'),        how = 'right', indicator = True)

還可以在合并過程中使用外連接來保留兩個DataFrame。我們可以把外連接看作是同時進行的左連接和右連接。

最后就是交叉連接，將合并兩個DataFrame之間的每個數(shù)據(jù)行。

讓我們用下面的代碼嘗試交叉連接。

 pd.merge(customer, order, how = 'cross', suffixes = ('_customer', '_order'))

DataFrame將Customer數(shù)據(jù)中的每一行都與Order數(shù)據(jù)結(jié)合起來。