sqlite导入csv代码_代码详解:用SQL GROUP BY语句,找出最强精灵宝可梦

  • Post author:
  • Post category:其他


全文共

3168

字,预计学习时长

6

分钟

9bb1d50cd87b25e5a3d42276a4b9edb1.png

图片来源:Unsplash/Jay

本文所涉及代码均可在GitHub中获取:https://github.com/rmacaraeg

知道如何在SQL内完成基础操作后(如果不知道,请阅读“Python SQL基础简介”,传送门:https://medium.com/better-programming/a-gentle-introduction-to-sql-basics-in-python-b137651ed1ff),就可以开始使用SQL提供的更多其他工具了。

GROUP BY语句是SQL中一个很实用的工具。有了它,就可以对数据进行深入研究,并使用一些函数将相同数据进行分组。

如果一栏中不同的行具有相同的值,这些行就会被放到一个单独的分组中。

使用GROUP BY语句要注意以下重要的三点:

1. GROUP BY 是与SELECT语句一起使用的。

2. 查询时,GROUP BY位于WHERE语句之后。

3. 查询时,GROUP BY置于ORDER BY语句之前(如果使用到ORDER BY)。

在了解这些基本规则以后,就可以打开笔记本电脑进行实操了!

4a20d8aeef63c5ccae540c0bf8f7eec4.png


设置

以下例子将使用Kaggle数据集(https://www.kaggle.com/abcsds/pokemon)中Pokémon游戏的数据。

c02066a62f0c0ad6f55674446c8781ee.png

图片来源:unsplash.com/@melvina

尽管使用游戏数据是为了给SQL增加趣味性,这些例子同样也非常适用于更加商业化的决策,比如按照年龄段,收入水平,地理位置等给人群进行分组。

首先导入所需的库,并在python中加载CSV文件。

import pandas as pdimport sqlite3cnx = sqlite3.connect(':memory:')csvfile = ('/Users/randy/Documents/GitHub/Pokemon-Stat-Predictor/Pokemon.csv') #Original datacolumns = ['#','name','type1','type2','total','hp','attack','defense', 'sp_atk','sp_def','speed','generation','legendary']#open the csv filedf = pd.read_csv(csvfile, names=columns, header=0

接下来,先清理数据,然后将其导入SQLite数据库(https://www.sqlite.org/):

#find NaN valuesnan_rows = df[df.isnull().T.any().T]nan_rows.head()

这一步将会找到所有空值并返回其中一部分(如果有的话)。

当所有空值都出现在type2一栏时,将所有空值都变成“none”。

#change all Type 2 NaN values to 'None':df['type2'] = df['type2'].fillna('none')

因为SQL对字符串很敏感(同一字符串大写与小写代表含义不同),所以要将所有字符都设置为小写形式。

#change all strings within the dataframe to lower casedf = df.astype(str).apply(lambda x: x.str.lower())

然后将其设置为一个SQL数据库。

#set the database for pokemondf.to_sql('pokemon', con=cnx, if_exists='append', index=False)#function for the SQL queries belowdef sql_query(query): return pd.read_sql(query, cnx)

太棒了,接下来可以开始执行一些SQL语句!

4a20d8aeef63c5ccae540c0bf8f7eec4.png


GROUP BY的基本语法

GROUP BY函数的基本语法是:

SELECT column_name(s), function_name(column_name)FROM table_nameWHERE conditionGROUP BY column_name(s)ORDER BY column_name(s);function_name: SUM(), AVG(), MIN(), MAX(), COUNT().table_name: name of the table. In this example, there is only the pokemon tablecondition: condition used.

有了它,就可以重新组织和操作数据,以得到更好的分析。

4a20d8aeef63c5ccae540c0bf8f7eec4.png


简单的GROUP BY语句

如果只想得到Pokémon中能力最高的那个精灵的名称,类别与总能力值,可以以一个简单的MAX()查询开始:

query = '''SELECT name, type1, type2, MAX(total)FROM pokemonWHERE legendary = 'true';'''sql_query(query)

这个操作将输出超级Mewtwo X,一个同时具有精神与战斗属性,总能力值高达780的Pokémon。

但如果只想要了解type1种类下能力最强的Pokémon呢?GROUP BY语句在这时就展现出其用武之地了:

query = '''SELECT name, type1, type2, MAX(total)FROM pokemonWHERE legendary = 'true'GROUP BY type1;'''sql_query(query)

现在输出的就不只是一个Pokémon(超级Mewtwo X)了,而是14个传奇的小精灵。

SQL查询找到了所有传奇小Pokémon,并基于type1栏将它们分到了单独的组中。

Pokémon在被分到了暗系、龙系、电系、飞行系等不同的组后,SQL查询将返回每一个组中小Pokémon的名字、type1、type2与总能力值。

4a20d8aeef63c5ccae540c0bf8f7eec4.png


GROUP BY和HAVING语句

WHERE语句能给各栏加设条件,但如果想要给组加设条件呢?引入HAVING语句!

由于WHERE关键词不能用在聚合函数中,在此选用带有GROUP BY的HAVING语句。

可以用HAVING语句输入条件来决定哪一组将会成为最终结果的一部分。同样的, WHERE语句对聚合函数不起任何作用。所以如果想要加设条件,就要将HAVING语句用于聚合函数中。

HAVING语句的基本语法:

SELECT column_name(s)FROM table_nameWHERE conditionGROUP BY column_name(s)HAVING conditionORDER BY column_name(s);
4a20d8aeef63c5ccae540c0bf8f7eec4.png


带有HAVING语句的GROUP BY

75b6a16f7c7221efa5bd104c2895034c.png

图片来源:unsplash.com/@jeshoots

如果想知道所有Pokémon的数量、type1、最小和最大总能力值与所有type1分组下小Pokémon的平均HP,且只包含那些总HP值高于4000的Pokémon组:

query = '''SELECT COUNT(name) as pokemon_count, type1, MIN(total), MAX(total), AVG(HP)FROM pokemonGROUP BY type1HAVING SUM(HP) > 4000;'''sql_query(query)

这有助于确定哪些小Pokémon组在其类别中具有最高的HP值,同时也能剔除事先设定好的HP小于4000的Pokémon组。

如果想从具有高HP值的小Pokémon里进行挑选,最好选择普通type1组,其中的小精灵具有最高平均HP值(77.28)且非常耐打。

HAVING语句真的有助于精简数据,并得出更有用更深刻的结果。

a6819aa64bc37e651d6ec06dbc2188db.png


留言 点赞 关注


我们一起分享AI学习与发展的干货

编译组:段昌蓉、杨敏迎

相关链接:

https://medium.com/better-programming/sql-group-bys-in-python-547f526eeb41


如需转载,请后台留言,遵守转载规范



版权声明:本文为weixin_39722946原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。