-
當前位置:首頁 > 創(chuàng)意學(xué)院 > 技術(shù) > 專題列表 > 正文
神經(jīng)網(wǎng)絡(luò)的分類過程簡述(神經(jīng)網(wǎng)絡(luò)的分類過程簡述)
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于神經(jīng)網(wǎng)絡(luò)的分類過程簡述的問題,以下是小編對此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準,寫出的就越詳細,有微信小程序端、在線網(wǎng)頁版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務(wù)客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務(wù)請撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、用最簡單的神經(jīng)網(wǎng)絡(luò)做數(shù)據(jù)分類,展示神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程
本文用簡單的神經(jīng)網(wǎng)絡(luò)做數(shù)據(jù)分類,展示神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程,方便理解
神經(jīng)網(wǎng)絡(luò)模型:Y = w1 x1 + w2 x2 + b
第一步 :生成訓(xùn)練數(shù)據(jù)與標簽
第二步 :合并數(shù)據(jù)并將數(shù)據(jù)打亂,然后將數(shù)據(jù)轉(zhuǎn)換為Paddle框架所需要的數(shù)據(jù)類型
第三步 ,基于Paddle,構(gòu)建神經(jīng)網(wǎng)絡(luò)、定義損失函數(shù)和優(yōu)化器:Y = w1 x1 + w2 x2 + b
第四步 ,構(gòu)建訓(xùn)練過程
最后一步 ,繪制訓(xùn)練結(jié)果
二、人工神經(jīng)網(wǎng)絡(luò)有哪些類型
人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓撲結(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前,已有近40種神經(jīng)網(wǎng)絡(luò)模型,其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機、適應(yīng)諧振理論等。根據(jù)連接的拓撲結(jié)構(gòu),神經(jīng)網(wǎng)絡(luò)模型可以分為:
(1)前向網(wǎng)絡(luò) 網(wǎng)絡(luò)中各個神經(jīng)元接受前一級的輸入,并輸出到下一級,網(wǎng)絡(luò)中沒有反饋,可以用一個有向無環(huán)路圖表示。這種網(wǎng)絡(luò)實現(xiàn)信號從輸入空間到輸出空間的變換,它的信息處理能力來自于簡單非線性函數(shù)的多次復(fù)合。網(wǎng)絡(luò)結(jié)構(gòu)簡單,易于實現(xiàn)。反傳網(wǎng)絡(luò)是一種典型的前向網(wǎng)絡(luò)。
(2)反饋網(wǎng)絡(luò) 網(wǎng)絡(luò)內(nèi)神經(jīng)元間有反饋,可以用一個無向的完備圖表示。這種神經(jīng)網(wǎng)絡(luò)的信息處理是狀態(tài)的變換,可以用動力學(xué)系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關(guān)系。Hopfield網(wǎng)絡(luò)、波耳茲曼機均屬于這種類型。
學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)研究的一個重要內(nèi)容,它的適應(yīng)性是通過學(xué)習(xí)實現(xiàn)的。根據(jù)環(huán)境的變化,對權(quán)值進行調(diào)整,改善系統(tǒng)的行為。由Hebb提出的Hebb學(xué)習(xí)規(guī)則為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。Hebb規(guī)則認為學(xué)習(xí)過程最終發(fā)生在神經(jīng)元之間的突觸部位,突觸的聯(lián)系強度隨著突觸前后神經(jīng)元的活動而變化。在此基礎(chǔ)上,人們提出了各種學(xué)習(xí)規(guī)則和算法,以適應(yīng)不同網(wǎng)絡(luò)模型的需要。有效的學(xué)習(xí)算法,使得神經(jīng)網(wǎng)絡(luò)能夠通過連接權(quán)值的調(diào)整,構(gòu)造客觀世界的內(nèi)在表示,形成具有特色的信息處理方法,信息存儲和處理體現(xiàn)在網(wǎng)絡(luò)的連接中。
根據(jù)學(xué)習(xí)環(huán)境不同,神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式可分為監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)。在監(jiān)督學(xué)習(xí)中,將訓(xùn)練樣本的數(shù)據(jù)加到網(wǎng)絡(luò)輸入端,同時將相應(yīng)的期望輸出與網(wǎng)絡(luò)輸出相比較,得到誤差信號,以此控制權(quán)值連接強度的調(diào)整,經(jīng)多次訓(xùn)練后收斂到一個確定的權(quán)值。當樣本情況發(fā)生變化時,經(jīng)學(xué)習(xí)可以修改權(quán)值以適應(yīng)新的環(huán)境。使用監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型有反傳網(wǎng)絡(luò)、感知器等。非監(jiān)督學(xué)習(xí)時,事先不給定標準樣本,直接將網(wǎng)絡(luò)置于環(huán)境之中,學(xué)習(xí)階段與工作階段成為一體。此時,學(xué)習(xí)規(guī)律的變化服從連接權(quán)值的演變方程。非監(jiān)督學(xué)習(xí)最簡單的例子是Hebb學(xué)習(xí)規(guī)則。競爭學(xué)習(xí)規(guī)則是一個更復(fù)雜的非監(jiān)督學(xué)習(xí)的例子,它是根據(jù)已建立的聚類進行權(quán)值調(diào)整。自組織映射、適應(yīng)諧振理論網(wǎng)絡(luò)等都是與競爭學(xué)習(xí)有關(guān)的典型模型。
研究神經(jīng)網(wǎng)絡(luò)的非線性動力學(xué)性質(zhì),主要采用動力學(xué)系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計理論,來分析神經(jīng)網(wǎng)絡(luò)的演化過程和吸引子的性質(zhì),探索神經(jīng)網(wǎng)絡(luò)的協(xié)同行為和集體計算功能,了解神經(jīng)信息處理機制。為了探討神經(jīng)網(wǎng)絡(luò)在整體性和模糊性方面處理信息的可能,混沌理論的概念和方法將會發(fā)揮作用?;煦缡且粋€相當難以精確定義的數(shù)學(xué)概念。一般而言,“混沌”是指由確定性方程描述的動力學(xué)系統(tǒng)中表現(xiàn)出的非確定性行為,或稱之為確定的隨機性?!按_定性”是因為它由內(nèi)在的原因而不是外來的噪聲或干擾所產(chǎn)生,而“隨機性”是指其不規(guī)則的、不能預(yù)測的行為,只可能用統(tǒng)計的方法描述?;煦鐒恿W(xué)系統(tǒng)的主要特征是其狀態(tài)對初始條件的靈敏依賴性,混沌反映其內(nèi)在的隨機性?;煦缋碚撌侵该枋鼍哂谢煦缧袨榈姆蔷€性動力學(xué)系統(tǒng)的基本理論、概念、方法,它把動力學(xué)系統(tǒng)的復(fù)雜行為理解為其自身與其在同外界進行物質(zhì)、能量和信息交換過程中內(nèi)在的有結(jié)構(gòu)的行為,而不是外來的和偶然的行為,混沌狀態(tài)是一種定態(tài)?;煦鐒恿W(xué)系統(tǒng)的定態(tài)包括:靜止、平穩(wěn)量、周期性、準同期性和混沌解?;煦畿壘€是整體上穩(wěn)定與局部不穩(wěn)定相結(jié)合的結(jié)果,稱之為奇異吸引子。
三、人工神經(jīng)網(wǎng)絡(luò)概述(更新中)
智能: 從感覺到記憶再到思維的過程稱為“智慧”,智慧的結(jié)果是語言和行為。行為和語言予以表達稱為“能力”。智慧和能力的總稱為“智能”。感覺、記憶、思維、行為、語言的過程稱為“智能過程”。
人工智能: 人工構(gòu)建的智能系統(tǒng)。
人工智能是研究和開發(fā)用于模擬、延伸和擴展人類智能的理論、方法、技術(shù)及應(yīng)用的技術(shù)學(xué)科,其主要研究內(nèi)容可以歸納為以下四個方面。
人工神經(jīng)網(wǎng)絡(luò)是基于生物神經(jīng)元網(wǎng)絡(luò)機制提出的一種計算結(jié)構(gòu),是生物神經(jīng)網(wǎng)絡(luò)的某種模擬、簡化和抽象。神經(jīng)元是這一網(wǎng)絡(luò)的“節(jié)點”,即“處理單元”。
人工神經(jīng)網(wǎng)絡(luò)可用于逼近非線性映射、分類識別、優(yōu)化計算以及知識挖掘。近年來,人工神經(jīng)網(wǎng)絡(luò)在模式識別、信號處理、控制工程和優(yōu)化計算領(lǐng)域得到了廣泛的應(yīng)用。
M-P模型由心理學(xué)家McCulloch和數(shù)學(xué)家W. Pitts在1943年提出。
M-P模型結(jié)構(gòu)是一個多輸入、單輸出的非線性元件。其I/O關(guān)系可推述為
其中, 表示從其他神經(jīng)元傳來的輸入信號; 表示從神經(jīng)元 到神經(jīng)元 的連接權(quán)值; 表示閾值; 表示激勵函數(shù)或轉(zhuǎn)移函數(shù); 表示神經(jīng)元 的輸出信號。
作為一種最基本的神經(jīng)元數(shù)學(xué)模型,M-P模型包括了加權(quán)、求和和激勵(轉(zhuǎn)移)三部分功能。
神經(jīng)元的數(shù)據(jù)模型主要區(qū)別于采用了不同的激勵函數(shù)。
概率型函數(shù)的輸入和輸出之間的關(guān)系是不確定的。分布律如下
其中, 被稱為溫度參數(shù)。
感知機(Perceptron)是美國學(xué)者Rosenblatt于1957年提出的一種用于模式分類的神經(jīng)網(wǎng)絡(luò)模型。
M-P模型通常叫做單輸出的感知機。按照M-P模型的要求,該人工神經(jīng)元的激活函數(shù)為階躍函數(shù)。為了方便表示,M-P模型表示為下圖所示的結(jié)構(gòu)。
用多個這樣的單輸入感知機可以構(gòu)成一個多輸出的感知機,其結(jié)構(gòu)如下
對于二維平面,當輸入/輸出為 線性可分 集合時,一定可以找到一條直線將模式分成兩類。此時感知機的結(jié)構(gòu)圖3所示,顯然通過調(diào)整感知機的權(quán)值及閾值可以修改兩類模式的分界線:
線性可分: 這里的線性可分是指兩類樣本可以用直線、平面或超平面分開,否則稱為線性不可分。
感知機的基本功能是對外部信號進行感知和識別,這就是當外部 個刺激信號或來自其它 個神經(jīng)元(的信號)處于一定的狀態(tài)時,感知機就處于興奮狀態(tài),而外部 個信號或 個神經(jīng)元的輸出處于另一個狀態(tài)時,感知機就呈現(xiàn)抑制狀態(tài)。
如果 、 是 中兩個互不相交的集合,且有如下方程成立
則稱集合 為感知機的 學(xué)習(xí)目標 。根據(jù)感知機模型,學(xué)習(xí)算法實際上是要尋找權(quán)重 、 滿足下述要求:
感知機的訓(xùn)練過程是感知機權(quán)值的逐步調(diào)整過程,為此,用 表示每一次調(diào)整的序號。 對應(yīng)于學(xué)習(xí)開始前的初始狀態(tài),此時對應(yīng)的權(quán)值為初始化值。
四、人工神經(jīng)網(wǎng)絡(luò)的分類
人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓撲結(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前,已有近40種神經(jīng)網(wǎng)絡(luò)模型,其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機、適應(yīng)諧振理論等。
ann:人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks)
bp:Back Propagation網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系,而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓撲結(jié)構(gòu)包括輸入層(input)、隱層(hide layer)和輸出層(output layer)。
以上就是關(guān)于神經(jīng)網(wǎng)絡(luò)的分類過程簡述相關(guān)問題的回答。希望能幫到你,如有更多相關(guān)問題,您也可以聯(lián)系我們的客服進行咨詢,客服也會為您講解更多精彩的知識和內(nèi)容。
推薦閱讀:
神經(jīng)網(wǎng)絡(luò)三大分類(神經(jīng)網(wǎng)絡(luò)三大分類包括)
神經(jīng)網(wǎng)絡(luò)的基本原理(神經(jīng)網(wǎng)絡(luò)算法)