哈佛大學研究項目：人工智能與深度學習專題
2024-07-01 11:19:52項目基本信息
專業(yè)類別
理工
參加形式
線上
適合人群
對數(shù)據(jù)科學、數(shù)據(jù)處理、統(tǒng)計學、機器學習等專業(yè)感興趣的學生。
導師介紹
Pavlos
哈佛大學 Harvard University 項目主任
Pavlos導師現(xiàn)任哈佛大學應用計算科學研究所（IACS）項目主任，負責把控計算機科學、工程與數(shù)據(jù)科學專業(yè)的研究生培養(yǎng)方案與課程體系，教授數(shù)據(jù)科學核心課程。曾擔任國家可擴展集群項目（NSCP）的副主任，這是在網(wǎng)格模型上進行大規(guī)模分布式計算的最初嘗試之一。同時，在哈佛 - 史密松天體物理中心擔任過研究員，并擔任由哈佛大學創(chuàng)新計算項目啟動的“時間序列中心”的子項目的高級科學家、項目負責人。
項目背景
卷積神經(jīng)網(wǎng)絡CNN是一種多層的監(jiān)督學習神經(jīng)網(wǎng)絡，隱含層的卷積層和池采樣層是實現(xiàn)卷積神經(jīng)網(wǎng)絡特征提取功能的核心模塊。該網(wǎng)絡模型通過采用梯度下降法最小化損失函數(shù)對網(wǎng)絡中的權重參數(shù)逐層反向調(diào)節(jié)，通過頻繁的迭代訓練提高網(wǎng)絡的精度。卷積神經(jīng)網(wǎng)絡的低隱層是由卷積層和最大池采樣層交替組成，高層是全連接層對應傳統(tǒng)多層感知器的隱含層和邏輯回歸分類器。其本質(zhì)是一個多層感知機，成功的原因在于其所采用的局部連接和權值共享的方式：一方面減少了權值的數(shù)量使得網(wǎng)絡易于優(yōu)化，另一方面降低了模型的復雜度，也就是減小了過擬合的風險。上述優(yōu)點使得該技術在計算機視覺、自然語言處理、推薦系統(tǒng)等人工智能領域受廣泛使用，項目也將圍繞著CNN這一前沿技術展開。
項目大綱
一、項目大綱
經(jīng)典機器學習算法回顧及神經(jīng)網(wǎng)絡初步 Introduction to Neural Networks, Review of Classification and Regression, and Simple Feed-Forward (FF) Network Neural, Network Architecture, Design Choices
梯度下降算法 Gradient Descent Algorithm
基于反向傳播的自動微分算法 Automatic Differentiation using Backpropagation
神經(jīng)網(wǎng)絡優(yōu)化技術 Neural Network Optimizers
神經(jīng)網(wǎng)絡正則化在防過擬合中的應用 Regularization for Neural Networks
卷積神經(jīng)網(wǎng)絡基本概念和體系結構 Convolutional Neural Networks: Basic Concepts, Padding, Pooling, and CNN Architecture.
感知野與通過池化層的反向傳播 Receptive Fields, Backprop through max-pooling
顯著圖與神經(jīng)網(wǎng)絡最新技術展望 Saliency Maps State Of The Art network
項目回顧與成果展示 Program Review and Final Presentation
論文輔導與投遞 Project Deliverables Tutoring
二、項目介紹
開始日期: 2024-08-03
哈佛大學人工智能與深度學習研究項目將首先回顧包含分類與回歸的傳統(tǒng)機器學習算法及初步神經(jīng)網(wǎng)絡，而后教授將會介紹用于優(yōu)化神經(jīng)網(wǎng)絡的數(shù)學原理及代碼技術。在確保學生具備扎實的理論及編程基礎后，項目將進入到關于卷積神經(jīng)網(wǎng)絡原理、架構、優(yōu)化及應用的核心階段，學生將根據(jù)自身興趣選擇個性化研究課題進行深入研究，在項目結束時提交項目報告，進行成果展示。
個性化研究課題參考 Suggested Research Fields：
算法優(yōu)化：圖卷積神經(jīng)網(wǎng)絡 Graph Neural Networks
計算機視覺應用：DGD卷積神經(jīng)網(wǎng)絡行人重識別 Person re-identification on DGD convolutional neural networks
自然語言處理應用：基于自聯(lián)想記憶與卷積神經(jīng)網(wǎng)絡的跨語言情感分類 Auto-associative convolutional neural network based multi-language sentiment classification
推薦系統(tǒng)應用：基于標簽卷積神經(jīng)網(wǎng)絡的推薦算法 Personalised recommender system with tagged convolutional neural network
三、適合人群
適合年級 (Grade): 大學生及以上
適合專業(yè) (Major): 數(shù)據(jù)科學、數(shù)據(jù)處理、統(tǒng)計學、機器學習、深度學習等專業(yè)的學生 ;
學生需要具備線性代數(shù)及概率論與數(shù)理統(tǒng)計基礎，修讀過算法與數(shù)據(jù)結構并能熟練使用如隨機森林等經(jīng)典機器學習算法;
建議選修: Python編程與數(shù)據(jù)處理
課時安排
9周在線小組科研學習+5周不限時論文指導學習
報名方式
項目收獲
1、優(yōu)秀學員獲主導師Reference Letter
2、EI/CPCI/Scopus/ProQuest/Crossref/EBSCO或同等級別索引國際會議全文投遞與發(fā)表指導（可用于申請）
3、項目報告
4、結業(yè)證書
