正文

svm中常用的核函數(shù)包括哪些（svm的核函數(shù)作用是什么）

發(fā)布時(shí)間：2023-04-14 03:27:16 稿源：創(chuàng)意嶺閱讀： 54

大家好！今天讓創(chuàng)意嶺的小編來(lái)大家介紹下關(guān)于svm中常用的核函數(shù)包括哪些的問(wèn)題，以下是小編對(duì)此問(wèn)題的歸納整理，讓我們一起來(lái)看看吧。

開(kāi)始之前先推薦一個(gè)非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，越精準(zhǔn)，寫出的就越詳細(xì)，有微信小程序端、在線網(wǎng)頁(yè)版、PC客戶端

官網(wǎng)：https://ai.de1919.com。

創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè)，服務(wù)客戶遍布全球各地，如需了解SEO相關(guān)業(yè)務(wù)請(qǐng)撥打電話175-8598-2043，或添加微信：1454722008

本文目錄:

1、機(jī)器學(xué)習(xí)有很多關(guān)于核函數(shù)的說(shuō)法，什么是核函數(shù)？核函數(shù)的作用是什么
2、支持向量機(jī)（SVM）
3、SVM由淺入深的嘗試（五）核函數(shù)的理解
4、哲哲的ML筆記（二十六：SVM之核函數(shù)）

svm中常用的核函數(shù)包括哪些（svm的核函數(shù)作用是什么）

一、機(jī)器學(xué)習(xí)有很多關(guān)于核函數(shù)的說(shuō)法，什么是核函數(shù)？核函數(shù)的作用是什么

核函數(shù)一般是為了解決維度過(guò)高導(dǎo)致的計(jì)算能力不足的缺陷，實(shí)質(zhì)就是特征向量?jī)?nèi)積的平方。

為什么會(huì)提出核函數(shù)：

一般我們?cè)诮鉀Q一般的分類或者回歸問(wèn)題的時(shí)候，給出的那個(gè)數(shù)據(jù)可能在低維空間并不線性可分，但是我們選用的模型卻是在特征空間中構(gòu)造超平面，從而進(jìn)行分類，如果在低維空間中直接使用模型，很明顯，效果必然會(huì)大打折扣。

但是！如果我們能夠?qū)⒌途暱臻g的特征向量映射到高維空間，那么這些映射后的特征線性可分的可能性更大【記住這里只能說(shuō)是可能性更大，并不能保證映射過(guò)去一定線性可分】，由此我們可以構(gòu)造映射函數(shù)，但問(wèn)題隨之而來(lái)了，維度擴(kuò)大，那么隨之而言的計(jì)算成本就增加了，模型效果好了，但是可用性降低，那也是不行的。

于是有人提出了核函數(shù)的概念，可以在低維空間進(jìn)行高維度映射過(guò)后的計(jì)算，使得計(jì)算花銷大為降低，由此，使得映射函數(shù)成為了可能。舉個(gè)簡(jiǎn)單的例子吧，假設(shè)我們的原始樣本特征維度為2，將其映射到三維空間，隨便假設(shè)我們的映射函數(shù)為f(x1,x2) = (x1^2, x2^2, 2*x1*x2)，那么在三維空間中，樣本線性可分更大，但是向量?jī)?nèi)積的計(jì)算開(kāi)銷從4提高到9【如果從10維映射到1000維，那么計(jì)算花銷就提高了10000倍，而實(shí)際情況下，特征維度幾萬(wàn)上百萬(wàn)十分常見(jiàn)】，再看對(duì)于樣本n1=(a1,a2)，n2=(b1,b2)，映射到三維空間之后，兩者的內(nèi)積I1為：a1^2 * b1^2 + a2^2 * b2^2 + 4 * a1 * a2 * b1 * b2，此時(shí)，又有，n1,n2在二維空間中的內(nèi)積為：a1b1 + a2b2，平方之后為I2:a1^2 * b1^2 + a2^2 * b2^2 + 4 * a1 * a2 * b1 * b2，此時(shí) I1 和 I2 是不是很相似，只要我們將f(x1,x2)調(diào)整為： (x1^2, x2^2, 根號(hào)(2*x1*x2) ) ，那么此時(shí)就有I1 = I2，也就是說(shuō)，映射到三維空間里的內(nèi)積，可以通過(guò)二維空間的內(nèi)積的平方進(jìn)行計(jì)算！個(gè)人博客：www.idiotaron.org 里有關(guān)于svm核函數(shù)的描述~

實(shí)際上核函數(shù)還是挺難找的，目前常用的有多項(xiàng)式核，高斯核，還有線性核。

希望能幫到你，也希望有更好的想法，在下面分享下哈。

二、支持向量機(jī)（SVM）

支持向量機(jī)（support vector machine），故一般簡(jiǎn)稱SVM，通俗來(lái)講，它是一種二分類模型，其基本模型定義為特征空間上的間隔最大的線性分類器，這族分類器的特點(diǎn)是他們能夠同時(shí)最小化經(jīng)驗(yàn)誤差與最大化幾何邊緣區(qū)，因此支持向量機(jī)也被稱為最大邊緣區(qū)分類器。其學(xué)習(xí)策略便是間隔最大化，最終可轉(zhuǎn)化為一個(gè)凸二次規(guī)劃問(wèn)題的求解。SVM在很多諸如文本分類，圖像分類，生物序列分析和生物數(shù)據(jù)挖掘，手寫字符識(shí)別等領(lǐng)域有很多的應(yīng)用。

支持向量機(jī)將向量映射到一個(gè)更高維的空間里，在這個(gè)空間里建立有一個(gè)最大間隔超平面。在分開(kāi)數(shù)據(jù)的超平面的兩邊建有兩個(gè)互相平行的超平面，分隔超平面使兩個(gè)平行超平面的距離最大化。假定平行超平面間的距離或差距越大，分類器的總誤差越小。

假設(shè)給定一些分屬于兩類的2維點(diǎn)，這些點(diǎn)可以通過(guò)直線分割，我們要找到一條最優(yōu)的分割線，如何來(lái)界定一個(gè)超平面是不是最優(yōu)的呢?

如圖：

在上面的圖中，a和b都可以作為分類超平面，但最優(yōu)超平面只有一個(gè)，最優(yōu)分類平面使間隔最大化。那是不是某條直線比其他的更加合適呢? 我們可以憑直覺(jué)來(lái)定義一條評(píng)價(jià)直線好壞的標(biāo)準(zhǔn):

距離樣本太近的直線不是最優(yōu)的，因?yàn)檫@樣的直線對(duì)噪聲敏感度高，泛化性較差。因此我們的目標(biāo)是找到一條直線（圖中的最優(yōu)超平面），離所有點(diǎn)的距離最遠(yuǎn)。由此， SVM算法的實(shí)質(zhì)是找出一個(gè)能夠?qū)⒛硞€(gè)值最大化的超平面，這個(gè)值就是超平面離所有訓(xùn)練樣本的最小距離。這個(gè)最小距離用SVM術(shù)語(yǔ)來(lái)說(shuō)叫做間隔(margin) 。

描述：給定一些數(shù)據(jù)點(diǎn)，它們分別屬于兩個(gè)不同的類，現(xiàn)在要找到一個(gè)線性分類器把這些數(shù)據(jù)分成兩類。如果用x表示數(shù)據(jù)點(diǎn)，用y表示類別（y可以取1或者-1，分別代表兩個(gè)不同的類），一個(gè)線性分類器的學(xué)習(xí)目標(biāo)便是要在n維的數(shù)據(jù)空間中找到一個(gè)超平面（hyper plane），這個(gè)超平面的方程可以表示為（ wT中的T代表轉(zhuǎn)置）：

例如：現(xiàn)在有一個(gè)二維平面，平面上有兩種不同的數(shù)據(jù)，分別用圈和叉表示。由于這些數(shù)據(jù)是線性可分的，所以可以用一條直線將這兩類數(shù)據(jù)分開(kāi)，這條直線就相當(dāng)于一個(gè)超平面，超平面一邊的數(shù)據(jù)點(diǎn)所對(duì)應(yīng)的y全是-1 ，另一邊所對(duì)應(yīng)的y全是1。

我們令分類函數(shù)為：

當(dāng)f(x) 等于0的時(shí)候，x便是位于超平面上的點(diǎn)，而f(x)大于0的點(diǎn)對(duì)應(yīng) y=1 的數(shù)據(jù)點(diǎn)，f(x)小于0的點(diǎn)對(duì)應(yīng)y=-1的點(diǎn)，如下圖所示：

一個(gè)點(diǎn)距離超平面的遠(yuǎn)近可以表示分類預(yù)測(cè)的確信或準(zhǔn)確程度，如何確定這個(gè)超平面呢？從直觀上而言，這個(gè)超平面應(yīng)該是最適合分開(kāi)兩類數(shù)據(jù)的直線。而判定“最適合”的標(biāo)準(zhǔn)就是這條直線離直線兩邊的數(shù)據(jù)的間隔最大。所以，得尋找有著最大間隔的超平面。

補(bǔ)充知識(shí)點(diǎn)：點(diǎn)到平面的距離

支持向量機(jī)學(xué)習(xí)的基本想法是求解能夠正確劃分訓(xùn)練數(shù)據(jù)集并且?guī)缀伍g隔最大的分離超平面.。對(duì)線性可分的訓(xùn)練數(shù)據(jù)集而言，線性可分分離超平面有無(wú)窮多個(gè)(等價(jià)于感知機(jī))，但是幾何間隔最大的分離超平面是唯一的。這里的間隔最大化又稱為硬間隔最大化。

間隔最大化的直觀解釋是:對(duì)訓(xùn)練數(shù)據(jù)集找到幾何間隔最大的超平面意味著以充分大的確信度對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行分類。也就是說(shuō)，不僅將正負(fù)實(shí)例點(diǎn)分開(kāi)，而且對(duì)最難分的實(shí)例點(diǎn)(離超平面最近的點(diǎn))也有足夠大的確信度將它們分開(kāi)。這樣的超平面應(yīng)該對(duì)未知的新實(shí)例有很好的分類預(yù)測(cè)能力。

按照我們前面的分析，對(duì)一個(gè)數(shù)據(jù)點(diǎn)進(jìn)行分類，當(dāng)它的margin越大的時(shí)候，分類的confidence越大。對(duì)于一個(gè)包含n個(gè)點(diǎn)的數(shù)據(jù)集，我們可以很自然地定義它的margin為所有這n個(gè)點(diǎn)的margin值中最小的那個(gè)。于是，為了使得分類的confidence高，我們希望所選擇的超平面hyper plane能夠最大化這個(gè)margin值。讓所選擇的超平面能夠最大化這個(gè)“間隔”值，這個(gè)間隔就是下圖中的Gap的一半：

為什么用幾何間隔求最大的分離超平面而不用函數(shù)間隔？

例題：

我們構(gòu)造了約束最優(yōu)化問(wèn)題，就是下面這個(gè)：

此外，由于這個(gè)問(wèn)題的特殊結(jié)構(gòu)，還可以通過(guò)拉格朗日對(duì)偶性（Lagrange Duality）變換到對(duì)偶變量 (dual variable) 的優(yōu)化問(wèn)題，即通過(guò)求解與原問(wèn)題等價(jià)的對(duì)偶問(wèn)題（dual problem）得到原始問(wèn)題的最優(yōu)解，這就是線性可分條件下支持向量機(jī)的對(duì)偶算法，這樣做的優(yōu)點(diǎn)在于：一者對(duì)偶問(wèn)題往往更容易求解；二者可以自然的引入核函數(shù)，進(jìn)而推廣到非線性分類問(wèn)題。

補(bǔ)充知識(shí)點(diǎn)：拉格朗日乘子法學(xué)習(xí)

拉格朗日KKT條件

KKT條件介紹

拉格朗日對(duì)偶

通過(guò)給每一個(gè)約束條件加上一個(gè)拉格朗日乘子（Lagrange multiplier）α，定義拉格朗日函數(shù)（通過(guò)拉格朗日函數(shù)將約束條件融合到目標(biāo)函數(shù)里去，從而只用一個(gè)函數(shù)表達(dá)式便能清楚的表達(dá)出我們的問(wèn)題）：

求解這個(gè)式子的過(guò)程需要拉格朗日對(duì)偶性的相關(guān)知識(shí)。

例題：

接下來(lái)談?wù)劸€性不可分的情況，因?yàn)?線性可分這種假設(shè)實(shí)在是太有局限性了。下圖就是一個(gè)典型的線性不可分的分類圖，我們沒(méi)有辦法用一條直線去將其分成兩個(gè)區(qū)域，每個(gè)區(qū)域只包含一種顏色的點(diǎn)。

要想在這種情況下的分類器，有兩種方式，一種是用曲線去將其完全分開(kāi)，曲線就是一種非線性的情況，跟之后將談到的核函數(shù) 有一定的關(guān)系：

另外一種還是用直線，不過(guò)不用去保證可分性，就是包容那些分錯(cuò)的情況，不過(guò)我們得加入懲罰函數(shù)，使得點(diǎn)分錯(cuò)的情況越合理越好。其實(shí)在很多時(shí)候，不是在訓(xùn)練的時(shí)候分類函數(shù)越完美越好，因?yàn)橛?xùn)練函數(shù)中有些數(shù)據(jù)本來(lái)就是噪聲，可能就是在人工加上分類標(biāo)簽的時(shí)候加錯(cuò)了，如果我們?cè)谟?xùn)練（學(xué)習(xí)）的時(shí)候把這些錯(cuò)誤的點(diǎn)學(xué)習(xí)到了，那么模型在下次碰到這些錯(cuò)誤情況的時(shí)候就難免出錯(cuò)了。這種學(xué)習(xí)的時(shí)候?qū)W到了“噪聲”的過(guò)程就是一個(gè)過(guò)擬合（over-fitting），這在機(jī)器學(xué)習(xí)中是一個(gè)大忌。

我們可以為分錯(cuò)的點(diǎn)加上一點(diǎn)懲罰，對(duì)一個(gè)分錯(cuò)的點(diǎn)的懲罰函數(shù) 就是這個(gè)點(diǎn)到其正確位置的距離：

對(duì)于線性不可分的情況，我們可以用核函數(shù)讓空間從原本的線性空間變成一個(gè)更高維的空間，在這個(gè)高維的線性空間下，再用一個(gè)超平面進(jìn)行劃分。這兒舉個(gè)例子，來(lái)理解一下如何利用空間的維度變得更高來(lái)幫助我們分類的：

上圖是一個(gè)線性不可分的圖，當(dāng)我們把這兩個(gè)類似于橢圓形的點(diǎn)映射到一個(gè)高維空間后，映射函數(shù)為：

用這個(gè)函數(shù)可以將上圖的平面中的點(diǎn)映射到一個(gè)三維空間（z1,z2,z3)，并且對(duì)映射后的坐標(biāo)加以旋轉(zhuǎn)之后就可以得到一個(gè)線性可分的點(diǎn)集了。

形象說(shuō)明：例如世界上本來(lái)沒(méi)有兩個(gè)完全一樣的物體，對(duì)于所有的兩個(gè)物體，我們可以通過(guò)增加維度來(lái)讓他們最終有所區(qū)別，比如說(shuō)兩本書，從(顏色，內(nèi)容)兩個(gè)維度來(lái)說(shuō)，可能是一樣的，我們可以加上作者這個(gè)維度，是在不行我們還可以加入頁(yè)碼，可以加入擁有者，可以加入購(gòu)買地點(diǎn)，可以加入筆記內(nèi)容等等。當(dāng)維度增加到無(wú)限維的時(shí)候，一定可以讓任意的兩個(gè)物體可分了。

核函數(shù)定義：

核技巧在支持向量機(jī)中的應(yīng)用：

常用核函數(shù)：

非線性支持向量機(jī)學(xué)習(xí)算法：

支持向量機(jī)的學(xué)習(xí)問(wèn)題可以形式化為求解凸二次規(guī)劃問(wèn)題。這樣的凸二次規(guī)劃問(wèn)題具有全局最優(yōu)解，并且有許多最優(yōu)化算法可以用于這一一問(wèn)題的求解。但是當(dāng)訓(xùn)練樣本容量很大時(shí)，這些算法往往變得非常低效，以致無(wú)法使用。所以，如何高效地實(shí)現(xiàn)支持向量機(jī)學(xué)習(xí)就成為一一個(gè)重要的問(wèn)題。目前人們已提出許多快速實(shí)現(xiàn)算法.本節(jié)講述其中的序列最小最優(yōu)化(sequential minimal optimization, SMO)算法。

上述問(wèn)題是要求解N個(gè)參數(shù)(α1,α2,α3,...,αN)，其他參數(shù)均為已知，序列最小最優(yōu)化算法(SMO)可以高效的求解上述SVM問(wèn)題，它把原始求解N個(gè)參數(shù)二次規(guī)劃問(wèn)題分解成很多個(gè)子二次規(guī)劃問(wèn)題分別求解，每個(gè)子問(wèn)題只需要求解2個(gè)參數(shù)，方法類似于坐標(biāo)上升，節(jié)省時(shí)間成本和降低了內(nèi)存需求。每次啟發(fā)式選擇兩個(gè)變量進(jìn)行優(yōu)化，不斷循環(huán)，直到達(dá)到函數(shù)最優(yōu)值。

整個(gè)SMO算法包括兩部分，求解兩個(gè)變量的二次規(guī)劃問(wèn)題和選擇這兩個(gè)變量的啟發(fā)式方法。

上面求得的(α1)new和(α2)new是在η>0的情況下求得的：

當(dāng)時(shí)為了推導(dǎo)公式我們直接默認(rèn)它是大于0了，現(xiàn)在我們需要重新審視這一項(xiàng)（η）。這一項(xiàng)是原來(lái)關(guān)于的二次項(xiàng)的系數(shù)。我們可以分下面三種情況討論：

（1）當(dāng)η>0時(shí) ：這個(gè)二次函數(shù)開(kāi)口向上，所以要求這個(gè)二次函數(shù)的最小值，如果說(shuō)極值點(diǎn)不在計(jì)算出的可行域的范圍內(nèi)，就要根據(jù)這個(gè)極值點(diǎn)和可行域邊界值的關(guān)系來(lái)得到取最小值的地方：

①如果這個(gè)極值點(diǎn)在可行域左邊，那么我們可以得到這個(gè)可行域內(nèi)二次函數(shù)一定在單增，所以此時(shí)L應(yīng)該是那個(gè)取最小值的地方。就如大括號(hào)的第三種情況。

②如果這個(gè)極值點(diǎn)在可行域右邊，那么此時(shí)可行域內(nèi)一定單減，所以此時(shí)H就是那個(gè)取最小值的地方，就是大括號(hào)里的第一種情況。

（2）當(dāng)η=0時(shí)：這個(gè)二次函數(shù)就變成了一個(gè)一次函數(shù)，那么不管這個(gè)一次函數(shù)的單調(diào)性怎樣，最小值一定是在邊界處取到。所以到時(shí)候計(jì)算可行域的兩個(gè)邊界的值，看哪個(gè)小就用哪個(gè)。

（3）當(dāng)η<0時(shí): 這個(gè)二次函數(shù)開(kāi)口向下，那么此時(shí)怎么得到取最小值的點(diǎn)呢？很容易就能想到：最小值也是在可行域的邊界處取到。很容易理解，此時(shí)開(kāi)口向下，當(dāng)極值點(diǎn)在區(qū)間內(nèi)時(shí)，最小值只能在端點(diǎn)處取，因?yàn)闃O值點(diǎn)處是最大的。而當(dāng)極值點(diǎn)在區(qū)間外時(shí)，區(qū)間內(nèi)一定是單調(diào)的，此時(shí)最小值也只能在端點(diǎn)處取。通過(guò)計(jì)算比較邊界處的目標(biāo)函數(shù)值，哪個(gè)小取哪個(gè)。

通過(guò)以上判斷求出(α2)new以后，再根據(jù)公式求出(α1)new，然后帶入目標(biāo)函數(shù)（1）中。即如下過(guò)程：

上述分析是在從N個(gè)變量中已經(jīng)選出兩個(gè)變量進(jìn)行優(yōu)化的方法，下面分析如何高效地選擇兩個(gè)變量進(jìn)行優(yōu)化，使得目標(biāo)函數(shù)下降的最快。

三、SVM由淺入深的嘗試（五）核函數(shù)的理解

對(duì)于線性分類問(wèn)題，線性分類向量機(jī)是一種非常有效的方法。但是，當(dāng)分類變得不線性，線性分類向量機(jī)就會(huì)失效，我們就需要新的方法去解決，那就是非線性向量機(jī)，而在非線性向量機(jī)中，一種非常重要的方法就必須要知道，那就是核函數(shù)。

對(duì)于我本人來(lái)說(shuō)，因?yàn)橹耙采娅C過(guò)核函數(shù)，因此，在理解上可能相對(duì)快一點(diǎn)。

網(wǎng)上有很多對(duì)核函數(shù)的介紹，知乎上的介紹我印象很深，有興趣的可以搜一下。

核函數(shù)的入門理解還是要從，將二維非線性問(wèn)題轉(zhuǎn)化為三維線性問(wèn)題。

原本線性不可分的問(wèn)題瞬間變成了線性分割面可以分類的問(wèn)題。很神奇！

具體實(shí)現(xiàn)的手段就是增加維度。

上圖中，我們發(fā)現(xiàn)x1,x2是非線性分類，于是我們通過(guò)變化，z=phi(x)，我們發(fā)現(xiàn)，z1,z2是線性分類問(wèn)題。

這里的phi(x)便是映射函數(shù)。

其實(shí)白話理解就是，假設(shè)存在映射函數(shù)phi(x)，對(duì)初始空間所有的x,z，存在

那么，K(x,z)便是核函數(shù)。

從上例可以看出，核函數(shù)一定，映射函數(shù)是不唯一的，而且當(dāng)維度是無(wú)線大的時(shí)候，我們幾乎無(wú)法求得映射函數(shù)，那么核函數(shù)的作用就在于此，核函數(shù)避免了映射函數(shù)的求解，叫做核技巧。

核函數(shù)是半正定矩陣。

分類決策函數(shù)為

分類決策函數(shù)為：

...太復(fù)雜，沒(méi)看懂，有時(shí)間再看。

我們的線性問(wèn)題也可以用線性核來(lái)解決。

Linear kernel

因此，我們得到的對(duì)偶問(wèn)題就可以切換，

切換為

注：書中的SMO算法也是用線性核的凸二次規(guī)劃對(duì)偶方程求解。

四、哲哲的ML筆記（二十六：SVM之核函數(shù)）

分類問(wèn)題中，可以使用高級(jí)數(shù)的多項(xiàng)式模型來(lái)解決無(wú)法用直線進(jìn)行分隔的分類問(wèn)題

除了對(duì)原有的特征進(jìn)行組合以外，有沒(méi)有更好的方法來(lái)構(gòu)造？我們可以利用核函數(shù)來(lái)計(jì)算出新的特征

可以用一系列的新的特征來(lái)替換模型中的每一項(xiàng)： , , ……

給定一個(gè)訓(xùn)練樣本，我們利用的各個(gè)特征與我們預(yù)先選定的地標(biāo) (landmarks)的近似程度來(lái)選取新的特征

如果一個(gè)訓(xùn)練樣本與地標(biāo) 之間的距離近似于0，則新特征近似于1，如果訓(xùn)練樣本與地標(biāo)之間距離較遠(yuǎn)，則近似于0

假設(shè)我們的訓(xùn)練樣本含有兩個(gè)特征，給定地標(biāo)與不同的值，見(jiàn)下圖

如下圖，假設(shè)了一組值，假設(shè)一個(gè)樣本是圖中的粉色點(diǎn)，距離很近，趨近于1，和趨近于0，那么假設(shè)函數(shù)的值為1，預(yù)測(cè)為1

假設(shè)一個(gè)樣本數(shù)是圖中藍(lán)色的點(diǎn)，和和都趨近于0，假設(shè)函數(shù)為0，預(yù)測(cè)為0

通常是根據(jù)訓(xùn)練集的數(shù)量選擇地標(biāo)的數(shù)量，即如果訓(xùn)練集中有個(gè)樣本，則我們選取個(gè)地標(biāo)，并且令: 。這樣做的好處在于：現(xiàn)在我們得到的新特征是建立在原有特征與訓(xùn)練集中所有其他特征之間距離的基礎(chǔ)之上的，即

對(duì)于一個(gè)樣本，根據(jù)核函數(shù)計(jì)算出，當(dāng) ，預(yù)測(cè)

怎么得到？通過(guò)代價(jià)函數(shù),注意是加到m，不是n

下面是支持向量機(jī)的兩個(gè)參數(shù) 和的影響：

盡管你不去寫你自己的SVM的優(yōu)化軟件，但是你也需要做幾件事：

1、參數(shù) 的選擇，上一部分討論過(guò)誤差/方差在這方面的性質(zhì)。

2、你選擇不需要任何內(nèi)核參數(shù)，沒(méi)有內(nèi)核參數(shù)的理念，也叫線性核函數(shù)。因此，如果有人說(shuō)他使用了線性核的SVM（支持向量機(jī)），這就意味這他使用了不帶有核函數(shù)的SVM（支持向量機(jī)）。

下面是一些普遍使用的準(zhǔn)則：為特征數(shù)，為訓(xùn)練樣本數(shù)。

值得一提的是，神經(jīng)網(wǎng)絡(luò)在以上三種情況下都可能會(huì)有較好的表現(xiàn)，但是訓(xùn)練神經(jīng)網(wǎng)絡(luò)可能非常慢，選擇支持向量機(jī)的原因主要在于它的代價(jià)函數(shù)是凸函數(shù)，不存在局部最小值

以上就是關(guān)于svm中常用的核函數(shù)包括哪些相關(guān)問(wèn)題的回答。希望能幫到你，如有更多相關(guān)問(wèn)題，您也可以聯(lián)系我們的客服進(jìn)行咨詢，客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。