手动构造感知机模型Perceptron（Numpy代码手写）

电玩女神 2023-09-27 09:13 72阅读 0赞

### 引言 ###

首先我们要知道什么是感知机模型：

#### 感知机的定义 ####

> 感知机：  
> 假设输入空间（特征空间）是 χ ⊆ R n \\chi\\subseteq\\R^n χ⊆Rn，输出空间是 Y ∈ \{ + 1 , − 1 \} Y\\in\\\{+1,-1\\\} Y∈\{ \+1,−1\}。输入 x ∈ χ x\\in\\chi x∈χ表示实例的特征向量，对应于输入空间（特征空间）的点；输出 y ∈ Y y\\in Y y∈Y表示实例的类别。由输入空间到输出空间的如下函数：  
>  f ( x ) = s i g n ( ω ⋅ x + b ) f(x)=sign(\\omega\\cdot x+b) f(x)=sign(ω⋅x\+b)  
> 称为感知机。其中， ω \\omega ω和 b b b为感知机模型参数， ω ∈ R n \\omega\\in \\R^n ω∈Rn叫做权值或者权值向量， b ∈ R b\\in \\R b∈R叫做偏置， ω ⋅ x \\omega\\cdot x ω⋅x表示 ω \\omega ω和 b b b的内积。 s i g n sign sign是符号函数，即：  
> 如果 x ≥ 0 x\\geq 0 x≥0， s i g n ( x ) = + 1 sign(x)=+1 sign(x)=\+1;  
> 如果 x < 0 x<0 x<0， s i g n ( x ) = − 1 sign(x)=-1 sign(x)=−1。

#### 感知机学习算法的原始形式 ####

输入：训练数据集 T = \{ ( x 1 , y 1 )    ,    ( x 2 , y 2 )    ,    ⋯    ,    ( x N , y N ) \} T=\\\{(x\_1,y\_1)\\;,\\;(x\_2,y\_2)\\;,\\;\\cdots\\;,\\;(x\_N,y\_N)\\\} T=\{(x1,y1),(x2,y2),⋯,(xN,yN)\}，其中 x i ∈ χ = R n x\_i\\in \\chi=\\R^n xi∈χ=Rn， y i ∈ Y = \{ − 1 , + 1 \}    ,    i = 1 , 2 , ⋯   , N y\_i\\in Y=\\\{-1,+1\\\}\\;,\\;i=1,2,\\cdots,N yi∈Y=\{ −1,\+1\},i=1,2,⋯,N，学习率 η ( 0 < η ≤ 1 ) \\eta(0<\\eta\\leq 1) η(0<η≤1)；

输出： ω    ,    b \\omega\\;,\\;b ω,b；感知机模型 f ( x ) = s i g n ( ω ⋅ x + b ) f(x)=sign(\\omega\\cdot x+b) f(x)=sign(ω⋅x\+b)

(1)选取初值 ω 0    ,    b 0 \\omega\_0\\;,\\;b\_0 ω0,b0；

(2)在训练数据集中选取数据 ( x i , y i ) (x\_i,y\_i) (xi,yi)；

(3)如果 y i ( ω ⋅ x i + b ) ≤ 0 y\_i(\\omega\\cdot x\_i+b)\\leq 0 yi(ω⋅xi\+b)≤0，  
 ω ← ω + η y i x i \\omega \\leftarrow \\omega+\\eta y\_ix\_i ω←ω\+ηyixi  
 b ← b + η y i b\\leftarrow b+\\eta y\_i b←b\+ηyi  
(4)转至（2），直到训练集中没有误分类点。

这种算法直观上有如下解释：当一个实例点被误分类，即位于分离超平面错误一侧时，则调整 ω    ,    b \\omega\\;,\\;b ω,b的值，使得分离超平面向该误分类点的一侧移动，以减少该误分类点与超平面间的距离，直至超平面越过该误分类点使其被正确分类。

### 代码实现 ###

我们使用sklearn的数据集来实现算法。

**导入需要的包：**

import numpy as np
    import pandas as pd
    import matplotlib.pyplot as plt
    from sklearn.datasets import load_iris

iris=load_iris()
    iris_data=iris.data
    iris_dataset=pd.DataFrame(iris_data,columns=iris.feature_names)
    iris_dataset['labels']=iris.target
    print(iris_dataset)

我们看一下数据集长什么样子：

sepal length (cm)  sepal width (cm)  ...  petal width (cm)  labels
    0                  5.1               3.5  ...               0.2       0
    1                  4.9               3.0  ...               0.2       0
    2                  4.7               3.2  ...               0.2       0
    3                  4.6               3.1  ...               0.2       0
    4                  5.0               3.6  ...               0.2       0
    ..                 ...               ...  ...               ...     ...
    145                6.7               3.0  ...               2.3       2
    146                6.3               2.5  ...               1.9       2
    147                6.5               3.0  ...               2.0       2
    148                6.2               3.4  ...               2.3       2
    149                5.9               3.0  ...               1.8       2
    
    [150 rows x 5 columns]

我们看看每个标签值对应的数量为多少：

print(iris_dataset.labels.value_counts())

输出为：

0    50
    1    50
    2    50
    Name: labels, dtype: int64

这里我们研究前两个特征，绘制出散点图：

plt.scatter(iris_dataset[:50]['sepal length (cm)'],iris_dataset[:50]['sepal width (cm)'],c='red',label='0')
    plt.scatter(iris_dataset[50:]['sepal length (cm)'],iris_dataset[50:]['sepal width (cm)'],c='green',label='1')
    plt.xlabel('sepal length')
    plt.ylabel('sepal width')
    plt.legend()
    plt.show()

![在这里插入图片描述][de4ec2bba1fe48fb867fc9b898244626.png]  
我们简单设置训练集，并对标签值做出变换：

data = np.array(iris_dataset.iloc[:100, [0, 1, -1]])
    X, y = data[:,:-1], data[:,-1]
    y = np.array([1 if i == 1 else -1 for i in y])
    print(X.shape, y.shape)

(100, 2) (100,)

我们接下来定义一下感知机模型：

class Percentation:
        def __init__(self):
            pass
    
        def sign(self,w,x,b):
            return np.dot(w,x)+b
    
        def initilize_with_zeros(self,dim):
            w=np.zeros(dim,dtype=np.float32)
            b=0
            return w,b
    
        def train(self,X_train,y_train,learing_rate):
            w,b=self.initilize_with_zeros(X_train.shape[1])
            wrong_classify=False
            while not wrong_classify:
                wrong_classify_count=0
                for i in range(len(X_train)):
                    X=X_train[i]
                    y=y_train[i]
                    if y*self.sign(w,X,b)<=0:
                        w+=learing_rate*np.dot(y,X)
                        b+=learing_rate*y
                        wrong_classify_count+=1
                if wrong_classify_count==0:
                    wrong_classify=True
                    print('there is no wrong classify')
    
            params={
        'w:':w,'b:':b}
            return params

我们看一下最终的结果：

parame=Percentation()
    parames=parame.train(X,y,learing_rate=0.01)
    print(parames)

输出结果为：

there is no wrong classify
    {
        'w:': array([ 0.7879957, -1.0069965], dtype=float32), 'b:': -1.2300000000000009}

我们看一下分离超平面：

x_points=np.linspace(4,7,10)
    y_hat=-(parames['w:'][0]*x_points+parames['b:'])/parames['w:'][1]
    plt.plot(x_points,y_hat)
    plt.scatter(data[:50, 0], data[:50, 1], color='red', label='0')
    plt.scatter(data[50:100, 0], data[50:100, 1], color='green', label='1')
    plt.show()

![在这里插入图片描述][dab376b3334546d290cacaaef0b4d4a6.png]

[de4ec2bba1fe48fb867fc9b898244626.png]: https://img-blog.csdnimg.cn/de4ec2bba1fe48fb867fc9b898244626.png
[dab376b3334546d290cacaaef0b4d4a6.png]: https://img-blog.csdnimg.cn/dab376b3334546d290cacaaef0b4d4a6.png