厉害了，在Pandas中用SQL来查询数据，效率超高

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

作者：俊欣

来源：关于数据分析与可视化

今天我们继续来讲一下Pandas和SQL之间的联用，我们其实也可以在Pandas当中使用SQL语句来筛选数据，通过Pandasql模块来实现该想法，首先我们来安装一下该模块

pip install pandasql

要是你目前正在使用jupyter notebook，也可以这么来下载

!pip install pandasql 导入数据

我们首先导入数据

1. import pandas as pd from pandasql import sqldf
   
2. df = pd.read_csv("Dummy_Sales_Data_v1.csv", sep=",")
   
3. df.head()

复制代码

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">

我们先对导入的数据集做一个初步的探索性分析，

df.info()

output

1. <class 'pandas.core.frame.DataFrame'> RangeIndex: 9999 entries, 0 to 9998 Data columns (total 12 columns):
   
2. #   Column               Non-Null Count  Dtype  
   
3. ---  ------               --------------  ----- 0 OrderID 9999 non-null int64 1 Quantity 9999 non-null int64 2 UnitPrice(USD) 9999 non-null int64 3 Status 9999 non-null object 4 OrderDate 9999 non-null object 5 Product_Category 9963 non-null object 6 Sales_Manager 9999 non-null object 7 Shipping_Cost(USD) 9999 non-null int64 8 Delivery_Time(Days) 9948 non-null float64 9 Shipping_Address 9999 non-null object 10 Product_Code 9999 non-null object 11 OrderCode 9999 non-null int64  
   
4. dtypes: float64(1), int64(5), object(6)
   
5. memory usage: 937.5+ KB

复制代码

再开始进一步的数据筛选之前，我们再对数据集的列名做一个转换，代码如下

1. df.rename(columns={"Shipping_Cost(USD)":"ShippingCost_USD", "UnitPrice(USD)":"UnitPrice_USD", "Delivery_Time(Days)":"Delivery_Time_Days"},
   
2.           inplace=True)
   
3. df.info()
   
4. output
   
5. 
   
6. <class 'pandas.core.frame.DataFrame'> RangeIndex: 9999 entries, 0 to 9998 Data columns (total 12 columns):
   
7. #   Column              Non-Null Count  Dtype  
   
8. ---  ------              --------------  ----- 0 OrderID 9999 non-null int64 1 Quantity 9999 non-null int64 2 UnitPrice_USD 9999 non-null int64 3 Status 9999 non-null object 4 OrderDate 9999 non-null object 5 Product_Category 9963 non-null object 6 Sales_Manager 9999 non-null object 7 ShippingCost_USD 9999 non-null int64 8 Delivery_Time_Days 9948 non-null float64 9 Shipping_Address 9999 non-null object 10 Product_Code 9999 non-null object 11 OrderCode 9999 non-null int64  
   
9. dtypes: float64(1), int64(5), object(6)
   
10. memory usage: 937.5+ KB

复制代码

用SQL筛选出若干列来

我们先尝试筛选出OrderID、Quantity、Sales_Manager、Status等若干列数据，用SQL语句应该是这么来写的

SELECT OrderID, Quantity, Sales_Manager, Status, Shipping_Address, ShippingCost_USD FROM df

与Pandas模块联用的时候就这么来写

query = "SELECT OrderID, Quantity, Sales_Manager,Status, Shipping_Address, ShippingCost_USD FROM df" df_orders = sqldf(query) df_orders.head()

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">
SQL中带WHERE条件筛选

我们在SQL语句当中添加指定的条件进而来筛选数据，代码如下

query = "SELECT *         FROM df_orders         WHERE Shipping_Address = 'Kenya'" df_kenya = sqldf(query) df_kenya.head()

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">

而要是条件不止一个，则用AND来连接各个条件，代码如下

query = "SELECT *  FROM df_orders  WHERE Shipping_Address = 'Kenya'  AND Quantity < 40  AND Status IN ('Shipped', 'Delivered')"df_kenya = sqldf(query)df_kenya.head()

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">
分组

同理我们可以调用SQL当中的GROUP BY来对筛选出来的数据进行分组，代码如下

query = "SELECT Shipping_Address,  COUNT(OrderID) AS Orders  FROM df_orders  GROUP BY Shipping_Address"df_group = sqldf(query)df_group.head(10)

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">
排序

而排序在SQL当中则是用ORDER BY，代码如下

query = "SELECT Shipping_Address,  COUNT(OrderID) AS Orders  FROM df_orders  GROUP BY Shipping_Address  ORDER BY Orders"df_group = sqldf(query)df_group.head(10)

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">
数据合并

我们先创建一个数据集，用于后面两个数据集之间的合并，代码如下

query = "SELECT OrderID,        Quantity,         Product_Code,         Product_Category,         UnitPrice_USD         FROM df" df_products = sqldf(query) df_products.head()

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">

我们这里采用的两个数据集之间的交集，因此是INNER JOIN，代码如下

query = "SELECT T1.OrderID,         T1.Shipping_Address,         T2.Product_Category         FROM df_orders T1        INNER JOIN df_products T2        ON T1.OrderID = T2.OrderID" df_combined = sqldf(query) df_combined.head()

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">
与LIMIT之间的联用

在SQL当中的LIMIT是用于限制查询结果返回的数量的，我们想看查询结果的前10个，代码如下

query = "SELECT OrderID, Quantity, Sales_Manager,  Status, Shipping_Address, ShippingCost_USD FROM df LIMIT 10"df_orders_limit = sqldf(query)df_orders_limit

output

SQL来查询数据，效率超高" class="syl-page-img" style="border: none; margin-top: 20px; max-width: 715px; height: auto;">

相关帖子DA内容精选 2022年300个以上最佳免费数据科学课 大厂数据分析面试指南！来自亚马逊、谷歌、微软、头条、美团的面试问题！ 机器学习模型方法总结 历史最全机器学习/深度学习/人工智能专业术语表中英对照表 机器学习如何应用于商业场景？三个真实的商业项目 数据工作者的自我修养 | 哪些技能是必不可少的？ 《汗牛充栋：数据分析书籍分享》CDA网校新课上线 文本挖掘常用的107个语料库 一图读懂“东数西算”工程 零基础转行数据分析，看这篇文章就够了

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏1 回帖

关键词：pandas panda sql Das inner join