处理文本分类中数据不平衡问题的策略与实践

from sklearn.svm import SVC
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics import classification_report

# 假设 X 是文本数据，y 是类别标签
# X = ["tweet 1", "tweet 2", ...], y = [0, 1, 0, ...]

# 示例数据（实际应用中应替换为您的数据）
X = ["无主题的推文内容A", "主题A的推文内容", "无主题的推文内容B", "主题B的推文内容", "无主题的推文内容C", "主题A的推文内容"]
y = [0, 1, 0, 2, 0, 1] # 0: 无主题, 1: 主题A, 2: 主题B

# 数据预处理：文本向量化
vectorizer = TfidfVectorizer(max_features=1000)
X_vectorized = vectorizer.fit_transform(X)

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X_vectorized, y, test_size=0.3, random_state=42)

# 1. 使用 'balanced' 模式自动计算权重
# 'balanced' 模式会根据每个类别在训练集中的样本比例自动调整权重，
# 使得所有类别的总权重相同。
print("--- 使用 'balanced' 类别权重 ---")
svc_balanced = SVC(class_weight='balanced', random_state=42)
svc_balanced.fit(X_train, y_train)
y_pred_balanced = svc_balanced.predict(X_test)
print("SVC (balanced) 评估报告:\n", classification_report(y_test, y_pred_balanced, zero_division=0))

lr_balanced = LogisticRegression(class_weight='balanced', solver='liblinear', random_state=42)
lr_balanced.fit(X_train, y_train)
y_pred_lr_balanced = lr_balanced.predict(X_test)
print("\nLogistic Regression (balanced) 评估报告:\n", classification_report(y_test, y_pred_lr_balanced, zero_division=0))

# 2. 手动指定类别权重（更精细的控制）
# 假设类别0（无主题）是多数类，我们希望提高类别1和2的权重
# 可以根据类别比例的倒数来设置，或者根据经验进行调整
# 例如，如果类别0有964个，类别1有183个，类别2有171个
# 权重可以设置为 {0: 1, 1: 964/183, 2: 964/171}
# 这里仅为示例，实际应基于您的训练集类别分布计算
custom_class_weights = {0: 1, 1: 3, 2: 3} # 示例权重

print("\n--- 使用自定义类别权重 ---")
svc_custom = SVC(class_weight=custom_class_weights, random_state=42)
svc_custom.fit(X_train, y_train)
y_pred_custom = svc_custom.predict(X_test)
print("SVC (custom weights) 评估报告:\n", classification_report(y_test, y_pred_custom, zero_division=0))

from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier

print("\n--- 使用决策树分类器 ---")
dt_classifier = DecisionTreeClassifier(random_state=42)
dt_classifier.fit(X_train, y_train)
y_pred_dt = dt_classifier.predict(X_test)
print("Decision Tree 评估报告:\n", classification_report(y_test, y_pred_dt, zero_division=0))

print("\n--- 使用随机森林分类器 ---")
rf_classifier = RandomForestClassifier(n_estimators=100, class_weight='balanced', random_state=42)
# 随机森林也支持 class_weight 参数
rf_classifier.fit(X_train, y_train)
y_pred_rf = rf_classifier.predict(X_test)
print("Random Forest 评估报告:\n", classification_report(y_test, y_pred_rf, zero_division=0))

from sklearn.metrics import classification_report, roc_auc_score, roc_curve
import numpy as np

# 假设 y_test 和 y_pred 已经定义
# print(classification_report(y_test, y_pred, zero_division=0)) # 示例已在上面代码中展示

# 对于多分类的AUC计算（需要模型输出概率）
# 假设 lr_balanced 是一个训练好的模型，且支持 predict_proba
if hasattr(lr_balanced, "predict_proba"):
    y_pred_proba = lr_balanced.predict_proba(X_test)
    # 对于多分类，通常计算加权的平均AUC，或者每个类别的AUC
    # 这里以计算每个类别的One-vs-Rest AUC为例
    print("\n--- 多分类ROC AUC (One-vs-Rest) ---")
    n_classes = len(np.unique(y_test))
    for i in range(n_classes):
        y_test_binary = (np.array(y_test) == i).astype(int)
        if len(np.unique(y_test_binary)) > 1: # 确保该类别在测试集中存在正例和负例
            auc_score = roc_auc_score(y_test_binary, y_pred_proba[:, i])
            print(f"类别 {i} 的 AUC: {auc_score:.4f}")
        else:
            print(f"类别 {i} 在测试集中只有一种标签，无法计算AUC。")

from imblearn.over_sampling import SMOTE
from collections import Counter

print("\n--- 使用SMOTE进行过采样 ---")

# 原始类别分布
print(f"原始训练集类别分布: {Counter(y_train)}")

# 应用SMOTE
# 注意：SMOTE应仅应用于训练集，避免数据泄露
smote = SMOTE(random_state=42)
X_train_smote, y_train_smote = smote.fit_resample(X_train, y_train)

# SMOTE后的类别分布
print(f"SMOTE后训练集类别分布: {Counter(y_train_smote)}")

# 使用SMOTE后的数据训练模型
lr_smote = LogisticRegression(solver='liblinear', random_state=42)
lr_smote.fit(X_train_smote, y_train_smote)
y_pred_smote = lr_smote.predict(X_test)
print("\nLogistic Regression (SMOTE) 评估报告:\n", classification_report(y_test, y_pred_smote, zero_division=0))