“深度神經(jīng)網(wǎng)絡(luò)” 文章進入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)

比人腦突觸快百萬倍！新型可編程電阻器誕生

人的大腦能夠同時學習和記憶大量信息而又不需要太多能量的能力，很多研究機構(gòu)都希望制造出類似于大腦甚至超越大腦的計算機。在人腦中，學習是由神經(jīng)元之間的連接（突觸）的增強和減弱而發(fā)生的。深度神經(jīng)網(wǎng)絡(luò)一直采用這種策略，實現(xiàn)模擬機器學習。美國麻省理工學院近日開發(fā)出一種由無機材料制成的電阻器，它將人工模擬突觸的運行速度大大提高，比以前的版本快100萬倍，也比人腦中的突觸快約100萬倍。這些可編程電阻器不僅提高了神經(jīng)網(wǎng)絡(luò)訓練的速度，同時也降低了執(zhí)行訓練所需的成本和能量，這可以幫助科學家更快地開發(fā)深度學習模型。這一技術(shù)的
關(guān)鍵字：美國材料深度神經(jīng)網(wǎng)絡(luò)

直覺有害！Facbook最新研究：易于解釋的神經(jīng)元會誤導DNN的學習

　　編譯|蔣寶尚　　關(guān)于AI是什么，學界和業(yè)界已經(jīng)給出了非常多的定義，但是對于AI理解，探討尚不足。換句話說，計算機科學家解釋深度神經(jīng)網(wǎng)絡(luò)（DNNs）的能力大大落后于我們利用其取得有用結(jié)果的能力?！　‘斍袄斫馍疃壬窠?jīng)網(wǎng)絡(luò)的常見做法是在單個神經(jīng)元特性上“折騰”。例如，激活識別貓圖像的神經(jīng)元，而關(guān)閉其他神經(jīng)元的“控制變量法”。這種方法的學術(shù)術(shù)語叫做“類選擇性”。　　由于直觀和易理解，“類選擇性”在學界廣泛應用。誠然，在訓練過程中，這類可解釋的神經(jīng)元確實會“選擇性地”出現(xiàn)在各種不同任務(wù)網(wǎng)絡(luò)中。例如，預測產(chǎn)品評論
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習

為什么深度學習如此容易被愚弄？AI研究員正努力修復神經(jīng)網(wǎng)絡(luò)缺陷

　　來源：nature　　編譯：張大筆茹、小七　　假設(shè)一輛自動駕駛汽車看到停車標志時并沒有減速，而是加速駛?cè)肓朔泵Φ氖致房?，從而導致了交通事故。事故報告顯示，停車標志的表面粘了四個小的矩形標志。這說明一些微小擾動就能愚弄車載人工智能（AI），使其將“停止”一詞誤讀為“限速45”?！　∧壳埃祟愂录€未發(fā)生，但是人為擾動可能影響AI是非常現(xiàn)實的。研究人員已經(jīng)展示了如何通過粘貼紙來欺騙AI系統(tǒng)誤讀停車標志，或者通過在眼鏡或帽子上粘貼印刷圖案來欺騙人臉識別系統(tǒng)，又或者通過在音頻中插入白噪聲使語音識別系統(tǒng)產(chǎn)生錯
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習

DNNBrain：北師大團隊出品的用于映射深層神經(jīng)網(wǎng)絡(luò)到大腦的工具箱

導讀深度神經(jīng)網(wǎng)絡(luò)(DNN)通過端到端的深度學習策略在許多具有挑戰(zhàn)性的任務(wù)上達到了人類水平的性能。深度學習產(chǎn)生了具有多層抽象層次的數(shù)據(jù)表示;然而，它沒有明確地提供任何關(guān)于DNNs內(nèi)部運作的解釋，換句話說它的內(nèi)部運作是一個黑盒子。深度神經(jīng)網(wǎng)絡(luò)的成功吸引了神經(jīng)科學家，他們不僅將DNN應用到生物神經(jīng)系統(tǒng)模型中，而且還采用了認知神經(jīng)科學的概念和方法來理解DNN的內(nèi)部表示。盡管可以使用諸如PyTorch和TensorFlow之類的通用深度學習框架來進行此類跨學科研究，但是使用這些框架通常需要高級編程專家和全面的數(shù)學知
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習腦機接口

CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))、DNN(深度神經(jīng)網(wǎng)絡(luò))的內(nèi)部網(wǎng)絡(luò)結(jié)構(gòu)的區(qū)別

先說DNN，從結(jié)構(gòu)上來說他和傳統(tǒng)意義上的NN（神經(jīng)網(wǎng)絡(luò)）沒什么區(qū)別，但是神經(jīng)網(wǎng)絡(luò)發(fā)展時遇到了一些瓶頸問題。一開始的神經(jīng)元不能表示異或運算，科學家通過增加網(wǎng)絡(luò)層數(shù)，增加隱藏層可以表達。并發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的層數(shù)直接決定了它對現(xiàn)實的表達能力。但是隨著層數(shù)的增加會出現(xiàn)局部函數(shù)越來越容易出現(xiàn)局部最優(yōu)解的現(xiàn)象，用數(shù)據(jù)訓練深層網(wǎng)絡(luò)有時候還不如淺層網(wǎng)絡(luò)，并會出現(xiàn)梯度消失的問題。我們經(jīng)常使用sigmoid函數(shù)作為神經(jīng)元的輸入輸出函數(shù)，在BP反向傳播梯度時，信號量為1的傳到下一層就變成0.25了，到最后面幾層基本無法達到調(diào)節(jié)參數(shù)
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習 CNN RNN

深度神經(jīng)網(wǎng)絡(luò)（DNN）模型與前向傳播算法

　　深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks，以下簡稱DNN）是深度學習的基礎(chǔ)，而要理解DNN，首先我們要理解DNN模型，下面我們就對DNN的模型與前向傳播算法做一個總結(jié)?！　?.從感知機到神經(jīng)網(wǎng)絡(luò)　　在感知機原理小結(jié)中，我們介紹過感知機的模型，它是一個有若干輸入和一個輸出的模型，如下圖:　　輸出和輸入之間學習到一個線性關(guān)系，得到中間輸出結(jié)果：　　z=∑i=1mwixi+bz=∑i=1mwixi+b　　接著是一個神經(jīng)元激活函數(shù):　　sign(z)={?11z<0z≥0sign(z)={
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習

什么是DNN？它對AI發(fā)展意味著什么

為了讓AI加速器在最短延遲內(nèi)達到最佳精準度，特別是在自動駕駛車中，TFLOP已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針，然而，有專家認為這種野蠻處理方式并不可持續(xù)…… 為了讓人工智能(AI)加速器在最短延遲內(nèi)達到最佳精準度，特別是在自動駕駛車(AV)中，TFLOP(兆次浮點運算)已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。這場競賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)的全自動駕駛(FSD)計算機芯片，以及NXP-Kalray芯片。然而，有專家認為這種野蠻處理方式
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習

深度學習干貨｜基于Tensorflow深度神經(jīng)網(wǎng)絡(luò)(DNN)詳解

深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks，簡稱DNN)是深度學習的基礎(chǔ)，想要學好深度學習，首先我們要理解DNN模型。DNN的基本結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)是基于感知機的擴展，而DNN可以理解為有很多隱藏層的神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)DNN其實也基本一樣，DNN也叫做多層感知機(MLP)。DNN按不同層的位置劃分，神經(jīng)網(wǎng)絡(luò)層可以分為三類，輸入層，隱藏層和輸出層，如下圖示例，一般來說第一層是輸入層，最后一層是輸出層，而中間的層數(shù)都是隱藏層。網(wǎng)絡(luò)結(jié)構(gòu)層與層之間是全連接的，也就是說，第i層的任意一個神經(jīng)
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò) 深度學習

特斯拉收購初創(chuàng)公司專注自動駕駛“深度神經(jīng)網(wǎng)絡(luò)”

據(jù)外媒報道，特斯拉收購計算機視覺初創(chuàng)公司DeepScale的交易開始收獲回報，通過收購完整團隊開始為這家電動汽車制造商提供新的專利。
關(guān)鍵字：特斯拉 “深度神經(jīng)網(wǎng)絡(luò)” 自動駕駛

IBM的8位浮點精度深度神經(jīng)網(wǎng)絡(luò)模型解析

　　在12月初舉辦的NeurIPS會議上，IBM展示了一款新型人工智能芯片?！　BM的研究人員聲稱，他們已開發(fā)出一個更加高效的模型用于處理神經(jīng)網(wǎng)絡(luò)，該模型只需使用8位浮點精度進行訓練，推理(inferencing)時更是僅需4位浮點精度。該研究的成果已于2018年12月初在國際電子元件會議(International Electron Devices Meeting，IEDM)和神經(jīng)信息處理系統(tǒng)大會(Conference on NeuralInformation Processing Syste
關(guān)鍵字： IBM 深度神經(jīng)網(wǎng)絡(luò)

人類和DNN的目標識別穩(wěn)健性比較

　　深度神經(jīng)網(wǎng)絡(luò)在很多任務(wù)上都已取得了媲美乃至超越人類的表現(xiàn)，但其泛化能力仍遠不及人類。德國蒂賓根大學等多所機構(gòu)近期的一篇論文對人類和 DNN 的目標識別穩(wěn)健性進行了行為比較，并得到了一些有趣的見解。機器之心對該論文進行了編譯介紹。　　摘要　　我們通過 12 種不同類型的圖像劣化(image degradation)方法，比較了人類與當前的卷積式深度神經(jīng)網(wǎng)絡(luò)(DNN)在目標識別上的穩(wěn)健性。首先，對比三種著名的 DNN(ResNet-152、VGG-19、GoogLeNet)，我們發(fā)現(xiàn)不管對圖像進行怎樣的操
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò)

人工智能與語音識別技術(shù)

隨著深度神經(jīng)網(wǎng)絡(luò)在大規(guī)模語音識別任務(wù)上獲得顯著效果提升，大數(shù)據(jù)的不斷完善和漣漪效應的提出，在近十年，中國的人工智能也得到了快速發(fā)展。作為國內(nèi)智能語音與人工智能產(chǎn)業(yè)領(lǐng)導者的科大訊飛率先將遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)應用到真實在線系統(tǒng)中，并提出了全新的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)FSMN——訊飛構(gòu)型。
關(guān)鍵字：深度神經(jīng)網(wǎng)絡(luò) 遞歸神經(jīng)網(wǎng)絡(luò) 卷積神經(jīng)網(wǎng)絡(luò) 訊飛構(gòu)型 201604

共12條 1/1 1

“深度神經(jīng)網(wǎng)絡(luò)”介紹

您好，目前還沒有人創(chuàng)建詞條“深度神經(jīng)網(wǎng)絡(luò)”!
歡迎您創(chuàng)建該詞條，闡述對“深度神經(jīng)網(wǎng)絡(luò)”的理解，并與今后在此搜索“深度神經(jīng)網(wǎng)絡(luò)”的朋友們分享。創(chuàng)建詞條

“深度神經(jīng)網(wǎng)絡(luò)” 文章 進入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)

“深度神經(jīng)網(wǎng)絡(luò)”介紹

熱門主題

“深度神經(jīng)網(wǎng)絡(luò)” 文章進入“深度神經(jīng)網(wǎng)絡(luò)”技術(shù)社區(qū)