神經元和其他類型的細胞壹樣，包括細胞膜、細胞質和細胞核。但神經細胞形態特殊，突起多，所以分為細胞體、軸突、樹突三部分。細胞中有細胞核，突起的功能是傳遞信息。樹突是引入輸入信號的突起，而軸突是充當輸出終端的突起。只有壹個枝晶。
樹突是細胞體的延伸，從細胞體發出後逐漸變細，整個長度的各個部分都可以與其他神經元的軸突末梢相連，形成所謂的“突觸”。在突觸處，兩個神經元並不相連，只是發生信息傳遞的連接點。接觸界面之間的間隙約為(15 ~ 50) × 10米。突觸可分為興奮性和抑制性兩種，對應於神經元之間耦合的極性。每個神經元的突觸數量正常，最多10。神經元之間的連接強度和極性不同，可以調整。基於這壹特性，人腦具有儲存信息的功能。由大量相互連接的神經元組成的人工神經網絡可以顯示人腦的某些特征。
人工神經網絡是由大量簡單的基本元素——神經元組成的自適應非線性動態系統。每個神經元的結構和功能都很簡單，但是大量神經元產生的系統行為卻非常復雜。
人工神經網絡反映了人腦功能的壹些基本特征，但不是對生物系統的逼真描述，而是壹種模仿、簡化和抽象。
與數字計算機相比，人工神經網絡的組成原理和功能特點更接近人腦。它不是按照給定的程序壹步壹步地執行操作，而是能夠自我適應環境，總結規律，完成壹些操作、識別或過程控制。
人工神經網絡首先要按照壹定的學習準則進行學習，然後才能工作。以人工神經網絡書寫的字母“A”和“B”的識別為例，規定“A”輸出“1”，“B”輸出“0”。
所以網絡學習的準則應該是:如果網絡做出了錯誤的判斷，網絡要通過網絡學習來降低下次犯同樣錯誤的可能性。首先在(0，1)的區間內給網絡的每個連接權值壹個隨機值，將“a”對應的圖像模式輸入網絡。網絡將輸入模式加權相加，與閾值比較，然後進行非線性運算，得到網絡的輸出。在這種情況下，網絡輸出為“1”和“0”的概率分別為50%，這意味著它是完全隨機的。此時，如果輸出為“1”(結果正確)，則增加連接權重，使網絡再次遇到“A”模式輸入時仍能做出正確判斷。
如果輸出為“0”(即結果錯誤)，則向降低綜合輸入權重的方向調整網絡連接權重，旨在降低網絡下次遇到“A”模式輸入時犯同樣錯誤的可能性。有了這個操作調整，當幾個手寫字母“A”和“B”依次輸入網絡，按照上述學習方法通過網絡學習幾次後，網絡判斷的正確率會大大提高。這說明網絡已經成功學習了這兩種模式，並且在網絡的每壹個連接權值中都記憶了這兩種模式。當網絡再次遇到這些模式中的任何壹種，都可以做出快速準確的判斷和識別。壹般來說，壹個網絡包含的神經元越多，它能記住和識別的模式就越多。(1)人腦具有很強的適應性和自組織特性，後天的學習和訓練可以開發出許多獨特的活動功能。比如盲人的聽覺和觸覺都很靈敏；聾人善於使用手勢；訓練有素的運動員可以展現出非凡的運動技能等等。
普通計算機的功能取決於程序中給出的知識和能力。顯然，通過總結來規劃智能活動將非常困難。
人工神經網絡也具有初步的自適應和自組織能力。改變學習或訓練過程中的突觸權重，以適應周圍環境的要求。同壹個網絡，由於學習方法和內容不同，可以有不同的功能。人工神經網絡是壹個具有學習能力的系統，可以開發出超越設計者原有知識水平的知識。通常，它的學習和訓練方法可以分為兩種。壹種是監督或監督學習，其中給定的樣本標準用於分類或模仿。另壹種是無監督學習或無監督導師學習。此時只規定了學習方法或壹些規則，具體的學習內容隨系統所處的環境(即輸入信號情況)而變化。系統可以自動發現環境特征和規律，更類似於人腦的功能。
(2)概括能力
泛化能力是指對未訓練樣本的預測和控制能力。特別是當存在壹些噪聲樣本時，網絡具有良好的預測能力。
(3)非線性映射能力
當系統對設計者來說非常透徹或清晰時，壹般會使用數值分析、偏微分方程等數學工具來建立精確的數學模型。然而，當系統復雜、未知或信息量少時，很難建立精確的數學模型。神經網絡的非線性映射能力顯示出優勢，因為它不需要對系統有透徹的了解，但同時可以實現輸入輸出之間的映射關系，大大簡化了設計難度。
(4)高並行性
並行是有爭議的。承認並行性理由:神經網絡是從人腦中抽象出來的數學模型，既然人可以同時做壹件事，那麽從功能模擬的角度來說，神經網絡也應該具有很強的並行性。
多年來，人們試圖從醫學、生物學、生理學、哲學、信息學、計算機科學、認知和組織協同學的角度來理解和回答上述問題。在尋找上述問題答案的過程中，多年來逐漸形成了壹個新的交叉學科技術領域，稱為“神經網絡”。神經網絡的研究涉及多個學科，相互結合、相互滲透、相互促進。不同領域的科學家從各自學科的興趣和特點出發，提出不同的問題，從不同的角度進行研究。
讓我們比較壹下人工神經網絡和通用計算機的工作特性:
從速度上看，人腦神經元之間的信息傳遞速度遠低於計算機，前者在毫秒量級，後者往往達到數百兆赫。但由於人腦是壹個大規模並行和串行相結合的處理系統，可以對很多問題做出快速的判斷、決策和處理，其速度遠高於串行結構的普通計算機。人工神經網絡的基本結構模仿人腦，具有並行處理的特點，可以大大提高工作速度。
人腦存儲信息的特點是利用突觸效率的變化來調整存儲內容，即信息存儲在神經元之間連接強度的分布中，存儲區與計算機區融為壹體。雖然人類大腦中每天都有大量的神經細胞死亡(平均每小時約1000個)，但並不影響大腦的正常思維活動。
普通計算機有獨立的存儲器和運算器，知識存儲和數據運算互不關聯。只有通過人編寫的程序才能相互交流，而這種交流不能超出程序員的預期。部件的局部損壞和程序中的微小錯誤可能導致嚴重的紊亂。心理學家和認知科學家研究神經網絡的目的是探索人腦處理、存儲和搜索信息的機制，闡明人腦功能的機制，建立人類認知過程的微結構理論。
生物、醫學、腦科學專家試圖通過神經網絡的研究，推動腦科學向定量化、精確化、理論化體系發展，也希望臨床醫學有新的突破；信息處理和計算機科學家研究這壹問題的目的是尋找新的方法來解決大量無法解決或極難解決的問題，構造更接近人腦功能的新壹代計算機。
人工神經網絡的早期研究工作應追溯到20世紀40年代。下面以著名人物或傑出研究成果為線索，按時間順序簡要介紹人工神經網絡的發展歷史。
65438-0943年，心理學家W·麥克庫洛奇和數學邏輯學家W·皮茨在分析和總結神經元基本特征的基礎上，首先提出了神經元的數學模型。這個模型壹直沿用到今天，它直接影響著這壹領域的研究進展。因此，他們兩個可以稱得上是人工神經網絡研究的先驅。
65438年至0945年，馮·諾依曼領導的設計團隊成功試制出存儲程序電子計算機，標誌著電子計算機時代的開始。1948年，他在研究工作中比較了人腦結構與存儲程序計算機的根本區別，提出了由簡單神經元組成的再生自動機網絡結構。但由於指令存儲計算機技術的飛速發展，他放棄了神經網絡研究的新途徑，繼續致力於指令存儲計算機技術的研究，並在該領域做出了巨大貢獻。雖然馮·諾依曼的名字與普通計算機聯系在壹起，但他也是人工神經網絡研究的先驅之壹。
20世紀50年代末，羅森布拉特(F. Rosenblatt)設計制造了壹種“感知器”，這是壹種多層神經網絡。這項工作首次將人工神經網絡的研究從理論探討推向工程實踐。當時，世界各地的許多實驗室都效仿制造感知機，將其應用於研究字符識別、語音識別、聲納信號識別以及學習和記憶問題。然而，人工神經網絡的研究高潮並沒有持續很久，很多人相繼放棄了這方面的研究工作，因為當時數字計算機的發展正處於鼎盛時期，很多人誤以為數字計算機可以解決人工智能、模式識別、專家系統等方面的所有問題，使得感知器的工作被忽視。其次，當時的電子技術水平比較落後，主要元器件都是電子管或者晶體管。他們制作的神經網絡龐大而昂貴，因此完全不可能在規模上與真正的神經網絡相似。另外，在壹本名為《感知器從65438到0968》的書中指出，線性感知器的作用有限，不能解決異感等基本問題，多層網絡找不到有效的計算方法。這些爭論促使大量研究人員對人工神經網絡的前景失去信心。20世紀60年代後期，人工神經網絡的研究進入低潮。
此外，20世紀60年代初，Widrow提出了自適應線性元網絡，這是壹種具有連續值的線性加權求和閾值網絡。後來在此基礎上發展了非線性多層自適應網絡。當時這些著作中雖然沒有標註神經網絡的名稱，但實際上是壹種人工神經網絡模型。
隨著人們對感知機興趣的下降，神經網絡的研究沈寂了很久。80年代初，模擬和數字混合的超大規模集成電路制造技術被提高到壹個新的水平，並投入實際應用。此外，數字計算機的發展在幾個應用領域遇到了困難。這壹背景表明，從人工神經網絡中尋求出路的時機已經成熟。美國物理學家Hopfield在1982和1984年的《美國科學院院刊》上發表了兩篇關於人工神經網絡的論文，引起了很大的反響。人們重新認識了神經網絡的力量及其應用的現實性。隨即，壹大批學者和研究人員圍繞Hopfield提出的方法開展了進壹步的工作，形成了20世紀80年代中期以來人工神經網絡的研究熱潮。
1985年，Ackley、Hinton和Sejnowski將模擬退火算法應用於神經網絡訓練，提出了Boltzmann機。這種算法的優點是避免陷入極值，但訓練時間需要較長時間。
在1986中，Rumelhart、Hinton和Williams提出了壹種多層前饋神經網絡的學習算法，即BP算法。從證明的角度推導了算法的正確性，為學習算法提供了理論基礎。從學習算法的角度來說，是很大的進步。
1988年，Broomhead和Lowe首先提出了徑向基網絡:RBF網絡。
總的來說，神經網絡經歷了壹個從高潮到低谷再到高潮的曲折過程。