圖靈機與演算法定義
Alan Turing 定義了演算法並證明其極限,其設計的圖靈機成為所有電腦硬體的抽象藍圖。
香農資訊理論與熵
Claude Shannon 將資訊量化為「位元」,並借用熱力學的「熵」來預測下一個字元,成為今日 AI 損失函數的始祖。
感知器的興衰與 XOR 問題
1958 年感知器誕生開啟 AI 狂潮,卻因無法處理 XOR 邏輯導致長達 17 年的 AI 寒冬。
反向傳播解決多層訓練
Geoffrey Hinton 引入反向傳播,利用微積分鏈鎖律修正錯誤,讓多層神經網路終於能自主學習特徵。
Transformer 注意力機制
拋棄序列式閱讀,改讓文字同時觀察彼此以決定重要性,解決了模型記憶不足與難以擴展的問題。
GPT-3 與規模即智能
OpenAI 證明只要將參數提升至 1750 億並餵入全網數據,智能會隨規模跨越門檻而自發湧現。
觀眾怎麼看
整理 40 則有效留言信心 高觀眾高度讚賞本片回歸深度知識講解,認為這是頻道近年來的巔峰之作,並針對電腦科學史實進行了補充與討論。
多數觀眾認為本片是頻道近年來最優秀的作品,展現了深度知識講解的價值,並對此類內容表示高度歡迎。
觀眾補充了關於 Alonzo Church 在 Entscheidungsproblem 的貢獻,以及 Alan Turing 與 Kurt Gödel 思想關聯的歷史背景。
有觀眾指出影片雖名為電腦科學論文,但內容過度集中於 AI 相關,忽略了密碼學、自動機理論等其他重要領域。
觀眾詢問為何未提及馬可夫決策過程(Markov Decision Processes)等對電腦科學具重大影響的理論。
本摘要僅基於提供的 40 則留言樣本,無法代表全體觀眾觀點。