國立雲林科技大學 Yun Tech 國立雲林科技大學

查詢課程之教學大綱、計畫、參考書目、核心能力等資訊

Academic Affairs 教學大綱、計畫及核心能力
Chinese  |  English
瀏覽次數：175
  分享到 Facebook 分享到 Twitter 分享到 Plurk 分享到 Google+
教學大綱暨計畫 Syllabus & Teaching Plan
課程名稱
Course Name
自然語言處理
Natural Language Processing
系所課號
Curriculum No.
COE6003
學年期 / 課號
Semester / Serial No
113  - 1  / 7003
修別
Required/Elective
選修
授課方式
Course Type
遠距教學(同步)
開課班級
Class
工程碩
講授-實習-學分
Credits
3-0-3
上課時間教室
Schedule/Classroom
2-EF;4-E/
授課教師(教師所屬系所)
Instructor(Department)
各教師(工程學院)
人數上限
Max
限50人
教師聯絡資訊E-mail及分機(可洽詢教師所屬系所)
Instructor’s E-mail and Ext.(contact the department)
BEX02
備註
Instructor
遠距教學(同步)
育部補助「臺灣大專院校人工智慧學程聯盟(TAICA)」，授課教師：國立清華大學高宏宇老師。限本校學生修課。
課程簡介
Course Introduction
本課程將提供學生NLP理論基礎，並結合實際應用，幫助學生掌握最新的NLP與LLM技術。課程內容主要分為以下幾個部分：
1. 文字處理基礎：介紹NLP的基本概念和常用技術。教學基本的文字處理技術，如分詞、詞性標註、命名實體識別等。
2. 機器學習模型：機器學習基本概念和算法，如線性回歸、決策樹、隨機森林等。介紹如何將機器學習應用於NLP，包括文本分類、情感分析等。
3. 語言模型：語言模型的基本概念與原理，如N-gram模型、Word2Vec等。深度學習在語言模型中的應用，如RNN、LSTM、Transformer等架構。詳細講解BERT、GPT等先進語言模型，並探討其在不同NLP任務中的應用。
4. 前瞻大語言模型技術：介紹大型語言模型的發展歷程與最新研究進展，如GPT-3等。探討這些模型的訓練方法、大規模資料集的使用，以及在不同領域中的能力。介紹輕量
化微調技術（PEFT），如LoRA，並說明其在提高訓練效率和效果方面的優勢。

開設學校：清華大學
開授教師：高宏宇
班級人數：1200人(保留100人給清大，聯盟學校平均每校約50人)
開課級別：研究所課程
同步遠距上課時間：星期二 13:20-15:10 星期四 13:20-14:10
◎遠距上課位置：https://cool.ntu.edu.tw/courses/41436/modules
◎課程網頁(和上課影片)：https://github.com/IKMLab/NTHU_Natural_Language_Processing

教學目標
Teaching Objectives
本課程旨在介紹自然語言處理（NLP）和大型語言模型（LLM）的基礎知識和前瞻技術，適合對自然語言技術感興趣的學生。隨著生成式人工智慧技術的快速發展，NLP在
各個領域中的應用日益廣泛。
評量方式
Evaluation methods
Homework x 5 (75%)
Term Project x1 (25%)
課業輔導時間
Office hours
同步遠距上課時間：星期二 13:20-15:10 星期四 13:20-14:10
教材網站資訊
Teaching Materials
教材不適合上網的理由：智慧財產權
教學計畫附件
Attachment File
Books
教材及參考書目
Calendar
教學計畫及進度
CourCore
核心能力關聯
※請遵守智慧財產權觀念。不得非法影印教科書。 
週次教學內容與作業進度教學方式備註各週遠距上課網址( 按我進TronClass課程目錄 )
第1週 Introduction to NLP & applications 遠距教學 9/3, 9/5
第2週 Introduction to NLP & applications, word vector 遠距教學 9/9, 9/11
第3週 Introduction to AI & Python - Neural Network, Deep learning 遠距教學 9/17, 9/19
第4週 Introduction to AI & Python - Numpy, Panda, Scikit Learn, PTorch 遠距教學 9/24, 9/26
第5週 NLP with NN - RNN, LSTM 遠距教學 10/1, 10/3
第6週 NLP with NN - Word Embedding 遠距教學 10/8, 10/10
第7週 Introduction to Generative AI 遠距教學 10/15, 10/17
第8週 Introduction to Generative AI - Seq2Seq 遠距教學 10/22, 10/24
第9週 Introduction to Generative AI - BERT, GPT, T5 遠距教學 10/29, 10/31
第10週 Introduction to Generative AI - Transformer 遠距教學 11/5, 11/7
第11週 Large Language Model 遠距教學 11/12, 11/14
第12週 Large Language Model 遠距教學 11/19, 11/21
第13週 Training in PM (pre-trained models) - In context learning 遠距教學 11/26, 11/28
第14週 Training in PM (pre-trained models) - PEFT / LoRA 遠距教學 12/3, 12/5
第15週 Application Implementation & Challenges 遠距教學 12/10, 12/12
第16週 Application Implementation & Challenges 遠距教學 12/17, 12/19
第17週 - 遠距教學
第18週 - 遠距教學
© 國立雲林科技大學 版權所有 | National Yunlin University of Science & Technology, All Rights Reserved.