龙空技术网

解决二分类问题的机器学习算法-逻辑回归

运维开发木子李 90

前言:

如今看官们对“python中逻辑回归”都比较看重,兄弟们都想要知道一些“python中逻辑回归”的相关知识。那么小编同时在网上搜集了一些对于“python中逻辑回归””的相关资讯,希望兄弟们能喜欢,姐妹们快快来学习一下吧!

逻辑回归是一种用于解决二分类问题的机器学习算法。它通过拟合一个逻辑函数来预测输入变量(自变量)与输出变量(目标变量)之间的关系。

逻辑回归的目标是找到最佳的回归系数,使得逻辑函数能够最好地拟合训练数据。逻辑函数通常使用sigmoid函数(也称为logistic函数)来表示,将线性函数的输出映射到0到1之间的概率值。

逻辑回归的数学表示为:y = 1 / (1 + e^(-z)),其中 y 是输出变量的概率,z 是回归函数的线性组合。

在训练阶段,逻辑回归使用最大似然估计或梯度下降等优化算法来估计回归系数。在预测阶段,通过计算输入变量的线性组合并将其输入到逻辑函数中,得到输出变量的概率值,并根据设定的阈值进行分类。

逻辑回归在许多实际应用中都有广泛的应用,如广告点击预测、信用评分、疾病诊断等。

在Python中,可以使用sklearn.linear_model库中的LogisticRegression类来实现逻辑回归。该类提供了许多有用的方法和功能,如fit用于拟合模型,predict用于预测新的观测值,score用于评估模型的性能等。

例子

首先,我们需要导入所需的库,如numpy用于数值计算和sklearn.linear_model用于建立逻辑回归模型。

import numpy as npfrom sklearn.linear_model import LogisticRegression

然后,我们定义一个包含自变量 X 和二元目标变量 y 的数据集。注意,逻辑回归用于解决二分类问题。

X = np.array([[1, 2], [2, 4], [3, 6], [4, 8], [5, 10]])y = np.array([0, 0, 1, 1, 1])

接下来,我们可以创建一个LogisticRegression对象,并使用fit方法拟合逻辑回归模型。

classifier = LogisticRegression()classifier.fit(X, y)

然后,我们可以使用模型预测新的观测值。

new_x = np.array([[6, 12], [7, 14]])y_pred = classifier.predict(new_x)

最后,我们可以打印出预测结果。

print(y_pred)

完整的代码如下:

import numpy as npfrom sklearn.linear_model import LogisticRegressionX = np.array([[1, 2], [2, 4], [3, 6], [4, 8], [5, 10]])y = np.array([0, 0, 1, 1, 1])classifier = LogisticRegression()classifier.fit(X, y)new_x = np.array([[6, 12], [7, 14]])y_pred = classifier.predict(new_x)print(y_pred)

运行以上代码,将得到预测结果,即新观测值对应的分类结果。在这个示例中,逻辑回归模型用于预测二元目标变量的类别标签。

-------------------------------------------------------------------------------------------------

算法实现

该数据集包含了社交网络中用户的信息。这些信息涉及用户ID,性别,年龄以及预估薪资。一家汽车公司刚刚推出了他们新型的豪华SUV,我们尝试预测哪些用户会购买这种全新SUV。并且在最后一列用来表示用户是否购买。我们将建立一种模型来预测用户是否购买这种SUV,该模型基于两个变量,分别是年龄和预计薪资。因此我们的特征矩阵将是这两列。我们尝试寻找用户年龄与预估薪资之间的某种相关性,以及他是否购买SUV的决定。

步骤1 | 数据预处理

导入库

import numpy as npimport matplotlib.pyplot as pltimport pandas as pd

导入数据集

dataset = pd.read_csv('Social_Network_Ads.csv')X = dataset.iloc[:, [2, 3]].valuesY = dataset.iloc[:,4].values

将数据集分成训练集和测试集

from sklearn.model_selection import train_test_splitX_train, X_test, y_train, y_test = train_test_split(X, Y, test_size = 0.25, random_state = 0)

特征缩放

from sklearn.preprocessing import StandardScalersc = StandardScaler()X_train = sc.fit_transform(X_train)X_test = sc.transform(X_test)
步骤2 | 逻辑回归模型

该项工作的库将会是一个线性模型库,之所以被称为线性是因为逻辑回归是一个线性分类器,这意味着我们在二维空间中,我们两类用户(购买和不购买)将被一条直线分割。然后导入逻辑回归类。下一步我们将创建该类的对象,它将作为我们训练集的分类器。

将逻辑回归应用于训练集

from sklearn.linear_model import LogisticRegressionclassifier = LogisticRegression()classifier.fit(X_train, y_train)
步骤3 | 预测

预测测试集结果

y_pred = classifier.predict(X_test)
步骤4 | 评估预测

我们预测了测试集。 现在我们将评估逻辑回归模型是否正确的学习和理解。因此这个混淆矩阵将包含我们模型的正确和错误的预测。

生成混淆矩阵

from sklearn.metrics import confusion_matrixcm = confusion_matrix(y_test, y_pred)

可视化

from matplotlib.colors import ListedColormapX_set,y_set=X_train,y_trainX1,X2=np. meshgrid(np. arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01),                   np. arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=0.01))plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),             alpha = 0.75, cmap = ListedColormap(('red', 'green')))plt.xlim(X1.min(),X1.max())plt.ylim(X2.min(),X2.max())for i,j in enumerate(np. unique(y_set)):    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],                c = ListedColormap(('red', 'green'))(i), label=j)plt. title(' LOGISTIC(Training set)')plt. xlabel(' Age')plt. ylabel(' Estimated Salary')plt. legend()plt. show()X_set,y_set=X_test,y_testX1,X2=np. meshgrid(np. arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01),                   np. arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=0.01))plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),             alpha = 0.75, cmap = ListedColormap(('red', 'green')))plt.xlim(X1.min(),X1.max())plt.ylim(X2.min(),X2.max())for i,j in enumerate(np. unique(y_set)):    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],                c = ListedColormap(('red', 'green'))(i), label=j)plt. title(' LOGISTIC(Test set)')plt. xlabel(' Age')plt. ylabel(' Estimated Salary')plt. legend()plt. show()

标签: #python中逻辑回归 #逻辑回归算法是用来解决分类问题的算法