使用python實現簡單神經網路
#coding=utf-8
import numpy as np #導入唯一的包
def sigmoid(x, deriv=False): #定義激活函數，這裡可以換成其他激活函數？例如tanh/relu
if(deriv==True):
return x*(1-x) #返回導數值
else:
return 1/(1+np.exp(-x)) #返回sigmoid值
X=np.array([ [0,0,1],
[1,1,1],
[1,0,1],
[0,1,1]
]) #訓練集，這裡是個4*3的數據
Y = np.array([[0,1,1,0]]).T #標籤
np.random.random(1) #隨機種子
syn0 = np.random.random([3,1]) #生成一個隨機的3*1的向量，作為初始化的權重
for i in range(100000): #設置循環次數，這裡次數越大，權重訓練的越好
l0 = X
y = Y
l1 = sigmoid(np.dot(X,syn0))
"""
利用dot函數用訓練集乘以初始化的權重，得到一個4*1的向量，然後用sigmoid函數將網路輸出做非線性化處理
"""
l1_error = y-l1
"""
計算出誤差值
"""
l1_delta = l1_error*sigmoid(l1,True)
"""
當l1較大或者較小時，計算出此時輸出在激活函數導函數上對應的值，這個值一定很小
"""
syn0 += np.dot(l0.T,l1_delta)
"""
調整參數
"""
l2=np.array([0,0,1]) #測試數據
l3=sigmoid(np.dot(l2,syn0)) #利用訓練出來的數據對測試數據進行預測
print "網路最終的輸出為："
print l1
print "針對測試集進行預測，結果為"
print l3
``
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
TAG:程序員小新人學習 |