這期內容當中小編將會給大家?guī)碛嘘P使用python怎么實現(xiàn)梯度下降法,文章內容豐富且以專業(yè)的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。
創(chuàng)新互聯(lián)是一家集網(wǎng)站建設,田林企業(yè)網(wǎng)站建設,田林品牌網(wǎng)站建設,網(wǎng)站定制,田林網(wǎng)站建設報價,網(wǎng)絡營銷,網(wǎng)絡優(yōu)化,田林網(wǎng)站推廣為一體的創(chuàng)新建站企業(yè),幫助傳統(tǒng)企業(yè)提升企業(yè)形象加強企業(yè)競爭力。可充分滿足這一群體相比中小企業(yè)更為豐富、高端、多元的互聯(lián)網(wǎng)需求。同時我們時刻保持專業(yè)、時尚、前沿,時刻以成就客戶成長自我,堅持不斷學習、思考、沉淀、凈化自己,讓我們?yōu)楦嗟钠髽I(yè)打造出實用型網(wǎng)站。1、簡單易用,與C/C++、Java、C# 等傳統(tǒng)語言相比,Python對代碼格式的要求沒有那么嚴格;2、Python屬于開源的,所有人都可以看到源代碼,并且可以被移植在許多平臺上使用;3、Python面向對象,能夠支持面向過程編程,也支持面向對象編程;4、Python是一種解釋性語言,Python寫的程序不需要編譯成二進制代碼,可以直接從源代碼運行程序;5、Python功能強大,擁有的模塊眾多,基本能夠實現(xiàn)所有的常見功能。
1.最簡單的情況,樣本只有一個變量,即簡單的(x,y)。多變量的則可為使用體重或身高判斷男女(這是假設,并不嚴謹),則變量有兩個,一個是體重,一個是身高,則可表示為(x1,x2,y),即一個目標值有兩個屬性。
2.單個變量的情況最簡單的就是,函數(shù)hk(x)=k*x這條直線(注意:這里k也是變化的,我們的目的就是求一個最優(yōu)的 k)。而深度學習中,我們是不知道函數(shù)的,也就是不知道上述的k。 這里討論單變量的情況:
在不知道k的情況下,我們是通過樣本(x1,y1),(x2,y2),(xn,yn)來獲取k。獲取的k的好壞則有損失函數(shù)來衡量。
損失函數(shù):就是你預測的值和真實值的差異大?。ū热缫粋€樣本(1,1)他的真實值是1,而你預測的是0.5,則差異 比較大,如果你預測值為0.9999,則差異就比較小了)。
損失函數(shù)為定義如下(此處為單變量的情況)
目的是求使損失函數(shù)最小的變量k(注意和變量x區(qū)分),則將損失函數(shù)對k求導(多變量時為求偏導得梯度,這里單變量求導,其實不算梯度),求偏導如下:
然后迭代,迭代時有個步長alpha,(深度學習中貌似叫學習率)
3.例子
假如我們得到樣本(1,1),(2,2),(3,3).其實,由這三個樣本可以得到函數(shù)為y = 1*x。此時損失函數(shù)為0.而機器是不知道的,所以我們需要訓練。
下面是一段python代碼。
import numpy as np import matplotlib.pyplot as plt x=np.arange(-5, 5, 0.001) y=(((x-1)*(x-1)+(x*2-2)*(x*2-2)+(x*3-3)*(x*3-3))*1/6.0) plt.plot(x,y) #plt.show() #顯示圖形 def sum(x): return ((x*1-1)*1+(x*2-2)*2+(x*3-3)*3) def fun(x): return ((1/3.0)*sum(x)) old = 0 new = 5 step = 0.01 pre = 0.00000001 def src_fun(x): print(((x-1)*(x-1)+(x*2-2)*(x*2-2)+(x*3-3)*(x*3-3))*1/6.0) while abs(new-old)>pre: old = new #src_fun(old) #輸出每次迭代的損失值 new = new - step*fun(old) print(new) print(src_fun(new))
下圖是損失函數(shù)的圖像,損失函數(shù)中變量是k。下圖橫坐標為k的不同取值,縱軸為對應的損失大小。由下圖可以大致看出,當k為1時,損失函數(shù)值為0。注意:這里取的最優(yōu)值k=1是在我們已有樣本的情況下得出的,樣本不同,k值自然不同。
下面是print(new)和print(src_fun(new))的輸出結果
上述就是小編為大家分享的使用python怎么實現(xiàn)梯度下降法了,如果剛好有類似的疑惑,不妨參照上述分析進行理解。如果想知道更多相關知識,歡迎關注創(chuàng)新互聯(lián)成都網(wǎng)站設計公司行業(yè)資訊頻道。
另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。
網(wǎng)站題目:使用python怎么實現(xiàn)梯度下降法-創(chuàng)新互聯(lián)
標題網(wǎng)址:http://jinyejixie.com/article34/dcghpe.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供軟件開發(fā)、網(wǎng)站設計、建站公司、電子商務、網(wǎng)站導航、定制開發(fā)
聲明:本網(wǎng)站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經(jīng)允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)