Python中DataFrame与内置数据结构相互转换的实现

楔子

pandas 支持我们从 Excel、CSV、数据库等不同数据源当中读取数据，来构建 DataFrame。但有时数据并不来自这些外部数据源，而是来自一个已经存在的 Python 数据结构，比如列表、字典等等。

同理当需要导出 DataFrame 时，也不一定非要写到外部文件里，而是希望生成字典或者列表，那么这个时候该怎么做呢？

所以这就涉及到了 DataFrame 和 Python 内置数据结构之间的相互转换，下面来介绍一些最佳实践，你可以根据实际情况进行选择。

DataFrame 转成内置数据结构

假设有这样一个 DataFrame：

import pandas as pd

df = pd.DataFrame({"name": ["Satori", "Koishi", "Marisa"],
                   "score": [99, 98, 100],
                   "rank": [2, 3, 1]})

print(df)
"""
     name  score  rank
0  Satori     99     2
1  Koishi     98     3
2  Marisa    100     1
"""

那么看看 DataFrame 都提供了哪些方法，以及在转成内置数据结构之后是什么样子？

df.to_records()

将 DataFrame 转成 Numpy 的数组，数组里面是一个个的元组。

print(df.to_records())
"""
[(0, 'Satori',  99, 2) (1, 'Koishi',  98, 3) (2, 'Marisa', 100, 1)]
"""
# 返回的时候将索引也带上了，我们可以去掉
print(df.to_records(index=False))
"""
[('Satori',  99, 2) ('Koishi',  98, 3) ('Marisa', 100, 1)]
"""
# df.to_records 返回的是 numpy 的数组，可以再转成列表
print(df.to_records(index=False).tolist())
"""
[('Satori', 99, 2), ('Koishi', 98, 3), ('Marisa', 100, 1)]
"""

这种数据结构还是很常见的，在工作中经常会用到。但唯一不好的是，字段信息丢失了。

df.to_dict()

将 DataFrame 转成 Python 的字典。

# 返回 Python 的字典，key 是字段名，value 是对应的每一列
print(df.to_dict())
"""
{'name': {0: 'Satori', 1: 'Koishi', 2: 'Marisa'},
 'rank': {0: 2, 1: 3, 2: 1},
 'score': {0: 99, 1: 98, 2: 100}}
"""

# 但这里的 value 有一些问题，就是它把索引也包含在里面了
# 我们可以去掉它
print(
    {k: tuple(v.values()) for k, v in df.to_dict().items()}
)
"""
{'name': ('Satori', 'Koishi', 'Marisa'),
 'rank': (2, 3, 1),
 'score': (99, 98, 100)}
"""

# 当然啦，to_dict() 还可以手动实现
print(
    {col: tuple(df[col]) for col in df.columns}
)
"""
{'name': ('Satori', 'Koishi', 'Marisa'),
 'rank': (2, 3, 1),
 'score': (99, 98, 100)}
"""

这种格式的数据用的就不多了，用得更多的是下一种。

df.to_dict(orient="records")

将 DataFrame 转成 Python 的列表，列表里面是一个个的字典，每个字典代表数据的每一行。

print(df.to_dict(orient="records"))
"""
[{'name': 'Satori', 'rank': 2, 'score': 99},
 {'name': 'Koishi', 'rank': 3, 'score': 98},
 {'name': 'Marisa', 'rank': 1, 'score': 100}]
"""

个人觉得这种数据结构应该用得最多。

DataFrame 生成的数据还有其它格式，这里就不赘述了，常用的就是上面几种。

内置数据结构转成 DataFrame

内置数据结构转成 DataFrame，我们也来介绍几个最常用的场景。

import pandas as pd

data = [{'name': 'Satori', 'rank': 2, 'score': 99},
        {'name': 'Koishi', 'rank': 3, 'score': 98},
        {'name': 'Marisa', 'rank': 1, 'score': 100}]

# 对于这种数据，可以通过 DataFrame 的 from_records 方法
# 列表里的字典代表了 DataFrame 的每一行，每个字典都具有相同的 key
# 而这些 key 则表示 DataFrame 的列
print(pd.DataFrame.from_records(data))
"""
     name  rank  score
0  Satori     2     99
1  Koishi     3     98
2  Marisa     1    100
"""
# 或者更简单的，直接调用 pd.DataFrame 即可
print(pd.DataFrame(data))
"""
     name  rank  score
0  Satori     2     99
1  Koishi     3     98
2  Marisa     1    100
"""
# 如果列表里面的字典，不具备相同的 key，会怎么样呢？
data[2]["length"] = 155
print(pd.DataFrame(data))
"""
     name  rank  score  length
0  Satori     2     99     NaN
1  Koishi     3     98     NaN
2  Marisa     1    100   155.0
"""
# 很简单，会将所有的 key 都考虑在内
# 如果某一行没有指定的 key，那么对应的值就是空

当然数据也可能是这种格式：

import pandas as pd

data = {'2020-01-01': {'name': 'Satori', 'rank': 2, 'score': 99},
        '2020-01-02': {'name': 'Koishi', 'rank': 3, 'score': 98},
        '2020-01-03': {'name': 'Marisa', 'rank': 1, 'score': 100}}

print(pd.DataFrame.from_dict(data, orient="index"))
"""
              name  rank  score
2020-01-01  Satori     2     99
2020-01-02  Koishi     3     98
2020-01-03  Marisa     1    100
"""

最后一种：

import pandas as pd

data = {'name': ['Satori', 'Koishi', 'Marisa'],
        'rank': [2, 3, 1],
        'score': [99, 98, 100]}
# 直接调用 DataFrame 即可
print(pd.DataFrame(data))
"""
     name  rank  score
0  Satori     2     99
1  Koishi     3     98
2  Marisa     1    100
"""

上面就是本文的内容，比较简单。并且相关函数的具体用法，也没有详细说明，只是从工作角度介绍了一些最佳实践。更多内容，可以查看 pandas 的注释。

来源：https://mp.weixin.qq.com/s/24sQbbDzaG15TgBqsvU_Dw