首先查看数据基本信息,使用df.head()、df.shape、df.columns和df.info()了解结构与类型;接着检查缺失值和重复数据,用df.isnull().sum()和df.duplicated().sum()统计问题数据,并用drop_duplicates()去重;然后通过df.describe()和value_counts()分析分布,结合箱线图或直方图发现异常值;最后验证数据类型,利用dtypes检查并用to_numeric或to_datetime统一格式,确保数据一致性。
检查Python中的数据表是数据处理和分析的关键步骤。通常我们使用pandas库来操作数据表(DataFrame),下面介绍几个常用方法,帮助你快速了解数据结构、发现潜在问题。
查看数据基本信息
加载数据后,第一步是了解整体情况。
- df.head(n):显示前n行数据,默认5行,用于快速浏览数据内容。
- df.shape:返回数据表的行数和列数,例如 (1000, 10) 表示1000行10列。
- df.columns:列出所有列名,检查是否有拼写错误或多余空格。
- df.info():显示每列的数据类型、非空值数量,有助于发现缺失值和类型错误。
检查缺失值和重复数据
数据完整性直接影响分析结果,必须检查缺失和重复项。
- df.isnull().sum():统计每列的缺失值数量,便于决定填充或删除策略。
- df.duplicated().sum():查看数据表中重复行的总数。
- df.drop_duplicates(inplace=True):去除重复行,保持数据唯一性。
查看数据分布和异常值
了解数值型数据的分布有助于发现异常或不合理值。
- df.describe():生成数值列的统计摘要,包括均值、标准差、最小最大值、四分位数等。
- df['column'].value_counts():查看分类列各取值的频次,识别不常见类别。
- 结合可视化如 df.boxplot() 或 df.hist() 可直观发现异常点。
验证数据类型和一致性
确保每列数据类型正确,避免后续计算出错
。
- 用 df.dtypes 检查每列类型,比如日期是否为datetime,数值是否为float/int。
- 若某列应为数值但显示为object,可能是混入了非数字字符,可用 pd.to_numeric(df['col'], errors='coerce') 强制转换并标记非法值为NaN。
- 对日期列使用 pd.to_datetime() 统一格式。
基本上就这些。通过以上步骤,你能系统地掌握数据表的状态,为清洗和建模打下基础。不复杂但容易忽略细节,建议每次加载数据都走一遍检查流程。








