Chaos Theory
學院師兄
查看詳細資料
TOP
香港呢?
別以為什麼世界中學生能力測試 香港學生水準三甲內就好醒
別以為什麼ALevel 地球數一數二難就 好醒
別以為外國中5先教pythagoras theorem 就好醒
首先 天外有天 大陸學生仲勁
我不談課程, 我談努力
大陸學生, 狂摺library, 努力學習
香港學生, 除了做些 自以為好醒的無聊事(不用我講, 香港間間都有) 之外就沒什麼了不起
non local會小組作戰, 考試一齊A
香港學生 會小組抄功課, 考試一齊F
non local會有心讀上去
local坐等畢業
別以為我講到好差, 我已經留了手
我朋友讀多大(U of T)
year one sem2 99% undergrad 在Jan-Feb已狂send email找summer research opportunities
如果你是undergrad, 特別是現在是year1的人, 你想下, 你2個月前到底在混什麼水摸什麼魚
社會問題
學生問題多
大學,社會 問題一樣多
我知會有undergrad以上的人看此post, 我就特登講
是學生的你也應該知一下
香港的教育太少research experience給學生
社會都一樣, 支援太少(這個問題就有待social science的人去搞了)
外國大把research experience給學生
而且 "視為自然"
大把undergrad可以有機會有更多experience
香港的大學除了冇錢之外
就是不支持local學生向上發展
當晒學生99.999%是 等畢業人士 (雖然的確是)
結果有心向上的local就給忽略
research experience除了一個final year project之外基本是0
有人連ground都接錯真是嚇死我
社會請人, 也一般請 鍍過外國大學金牌的人
請local只是給一些無聊 job
有時所謂 summer internship是一些 F5都識做的些普通技能
根本沒有experience可以學, 混帳地混水摸魚
學生有research experience不是沒有
要去MIT, Yale等等寶貴經驗
不過要GPA 3.999999, A++++++等等基本上99.999%都是mainland搶晒的所謂funding
也不幸地, 有時有些local有實作機會, 不過本身太沒料, 作不了什麼
學習不只是GPA大晒, 有人是慢熱性質
慢熱不等於廢
徐立之教授就是一例
結果 不請local, 訓練也不給, 教就是但教(打工心態)
結果在 "學生都本身是鈍人" 的基礎上
這樣就做成 香港的大學, 研究生 過50%是 普通話人士這個鐵一般的事實
香港學生不爭氣
大學社會支援少
好一個惡性positive feedback, loop loop loop
如果看文章的你是位有志向上的大學生(any field)
我不是嚇你
也別以為這樣就叫做嚇你
這些都是事實
如果你有心讀上去
想做所謂科學家
麻煩有應該有的心態, 應該有的技巧, 應該有的知識
而非 "我想讀physics" 這些智障都懂的句子
未完待續(#74)等我話你知大學的殘酷 http://lsforum.net/board/viewthread.php?tid=219909&page=5#pid6188618
課題1. EM Wave
Engineering 重視 怎樣用, 所以都以wave作重點
engineering的EM書和physics EM書不同的是, Physics重視力學
所以作為 linking EM to dynamics的Lorentz Force Law, Static Field 等等, 會較多較詳細
部份engineering EM書 基本上會跳晒, 直接Maxwell's Equations 所以我都直接Maxwell Equations
這個就是Maxwell Equations, 部份term是因為用Duality Principle 可以快得到solution
Engineering和Physics的分批就在此
Engineering不要求要有Physical explanation, 要求夠準, 夠快
所以會有一大堆神奇equivalent methods, 快和準(precise solution exact solution )
Duality Principle 我就不多講了 作為要用Wave做某些事, 當然就是solve wave equation, 不過就當然先要有equation啦
以下都是standard steps, 所有EM書一定有
Standard 到爆的techniques steps
Wave in source free region :
之後狂sub equations, Helmholtz equation就出來了
之後就standard technique, separation of variable + Fourier Series / Fourier Integral / Green Method 之類 超standard PDE solve法 就會有solution
不過正因為要快, 多數不用time domain, 而是用complex phasor
Alpha 是 decay constant , Beta 是 propagation constant , 2者都是material dependent
一般而言個solution都這個樣
Solve 完個wave, 正式開波 (sorry intro講完, 我大跳一下)
正正是因為不同物料 , 不同特性 你可以 design material property去 "玩個Wave "
例如, 特別地, 設計個material (left hand), 有 Negative Refraction index (當然, 人工做的, 方法就唔講啦, 自己search啦)
就會出現cloaking effect
中間那一層Wave是"向後", 不是向前
這代表什麼 ? 這代表隱形!
老實講我仲想打字, 不過已到一個post的字數上限, 不能再講
Engineering EM剛剛正式開波, 還有Antenna, Transmission Line, Waveguide, Resonator, biaxial uniaxial dispersive lossy blablablabla
太多野, 遲些再講
不過Cloaking就幾interesting, 所以講下
另外如果有心讀EM有以下方向 : CEM (Computational Electromagnetics, 研究 "solver") RF EM / RF electronics / RF system ( Radio Frequency device, high freq的話 LRC會變)
Antenna (有冇听過fractal antenna? it is interesting !)
Multi-physics ( 在photonics先講)
高frequency的circuit (distributed circuit model)全部都是Maxwell's equation (S-parameter, ABCD, Slot Line, blablabla, i/o impedance )
V=IR (lumped circuit model)會錯到離晒大譜
Solid State Electronics / Hardware Electronics / Digital Electronics
電子學, 是一大分支, 基本上任何EEE人都一定會知BJT & MOS
電子學一樣, 超大超廣, 簡單講可以分3層 : Device Level, Circuit Level 和 System Level
-----------Device Level-----------
開始部份是Quantum Physics / Device Physics , 例如Mean-free path, crystal structure等等
其中一條重要equation就是Fermi-Dirac Statistics
有了這個就可以推算出 Build in voltage, PN Junction, Reverse Current等等一大堆equation
----------Circuit Level------------
之後就到了Amplifier Circuit, BJT CE amplifier 和 MOS CS amplifier
equation太長, 我都廢事打
肯睇晒
Sedra/Smith 本Microelectronic & Neamen 本 Microelectronic , undergraduate 已經夠晒
( 2本都是字典, first reading 會很辛苦 )
(圖上網找的)
呢2本磚頭(丟落街絕對可以殺人)所有EEE人都要硬食一次
Electronics 有什麼用 ? 基本上 electronics就是iPhone, Apple ,所有電子產品的根本
下圖叫CMOS, 等價於一個 not gate
而這個是 714 opamp
基本上可以講, solve circuit的功力一定要好
一些 gate 就是如此 build 出來
之後開始build向上, 由logic gate組合做 logic unit
-------System Level ---------
電腦的CPU中的ALU
Microprocessor
未完待續 (4)
Optics, Photonics, & Phononics
Waveguide
什麼是waveguide?
就是一條管, 哈哈
世界是很大的, 沒你想像中那麼簡單
don't under estimate everything
連條普普通通的四方管都可以搞一大堆野
Waveguide是怎樣來的?
基本上solve EM wave propagation to conductor就會出現
我唔在此solve equation (因為太長)
自己去看MIT open course 啦
( http://www.youtube.com/watch?v=rp1orH7OC1c , 大約22分鐘就是我講的東西)
除此之外, 另一個Standard Waveguide problem
之後 Separation of variable + ODE techniques + Boundary Condition + Fourier Series / Fourier Integral 就會
例如其中一種答案是 ( 2D , 打鼓個wave)
Cartesian 算極極極好solve了
如果是 圓柱 和 球體 的 coordinate 的話
下 面 2 條 Equation 就 會 殺 過 來 了
基於篇幅所限, 我基本上是不打算講這2個equation的
另外, 讀Physics的人一定會知這2條是什麼鬼, 哈哈
數先到這裡, 那Waveguide有什麼用?
嘩, 多到唔識講
2個字夠殺 : 光 纖
Photonics
未完待續 (5)
Dynamical System and Control Theory
另一篇introduction : (copy the whole line below)
http://lsforum.net/board/viewthread.php?tid=200555&page=16#pid6708615
動態系統 和 控制論
相對其他分支, 這個分支是最數學的
要研究一個動態的系統, 當然先要有maths model
Control Theory的Maths Model 是 s-domain transfer function
其形態可以有 single variable, vector function, matrix form
其實即 single input single output system 還是 multiple input multiple output
其中 matrix form 有個專有名詞叫 State Space
那麼如何有maths model ? 對一系統, 由物理知識 可set up 時域system of ODE , 留意, x, y可以是n-by-1 vector
經Laplace Transform後, 抽common factor X(s) , re-arrange後可得
這個就是 General Transfer Function
有了Transfer function, 正式開波
一般而言, undergrad的control課會有
ODE & Laplace Transform
System Modeling based on Transfer Function
Feedback
Stability, Accuracy, Reference Tracking
Nyquist Analysis
Bode Analysis
Routh Analysis
Root Locus Analysis
Lead Lag PID
有時候會有
State Space
Lyapunov
時間關係, 不可能講晒
我先講一個general theorem
對於2nd order system (例如LRC circuit, Spring-mass-damper )
都可以寫做
之後根據不同物理量而會有不同constant, 就會有不同的response
G和g 是怎樣來的呢
我下面這一句很長的說話就解釋了
基本上用Laplace Transform 個time continuous 的linear ODE之後re-arrange terms 再用Heaviside Cover Up method / Cauchy Residue Method 去 partial fraction 個 s domain equation 之後查Laplace table去take inverse Laplace transform 而得出的就是個system function convolute with input finction 的result
上面這句 "文字"
太complicated, 而且描述不到我想 up muk對吧
現在 你明 點解 數學是如此重要吧
不過正因為如果我寫晒D equation會長到唔夠位
所以我skip一下
(是但找的一個網, 自己睇啦唉 http://www.facstaff.bucknell.edu/mastascu/econtrolhtml/SysDyn/SysDyn2.html )
以上野是control最最最最最基本的基本 (沒有騙你)
我接下來講講勁野
別以為低B, 這個circuit 大有名堂, 叫 蔡少棠電路
基本上呢, circuit這科, 作為EEE基本
熟到自動用s-domain method 去做
這個circuit , 如果去solve的話 (其實很簡單)
會出現 Chaos
EEE正正有一科就是研究Chaos現象,
Chaos Theory中文叫
混 沌 理 論
哇, 听落好型, 研究 混沌
用個示波器去measure一些parameter, 例如voltage, resistance等等
plot 個graph, 從2D看就很一般的 lead-lag relation
不過如果從3D看的話 http://www.chuacircuits.com/sim.php
我想up muk?
我講過
Engineering要求 Solve到有用的東西
不要求 EXACT solution
只要 合理的approximation就可以
所以呢, 有時候為了solve一個問題
會用很多等效原理
其中一個所謂"等效原理", 只是
"把觀察角度上升一維"
這個"概念", 其實是Linear Algebra的Basis Transformation
一個很基本的東西
最基本的transformation 就是rotation (這個M2中學生都識)
不過呢
"東西難不難不重要, 重要是用到, 而且用到盡就是神 "
有時low dimension看不出一些pattern
要high dimension才可以
例子太多,
別以為只有Dynamical system先有
Robotics中, 會有coordinate transform
例如3D的Rotation R + Translation d
如果你用 4D Matrix的話可以一個matrix去表示晒
特登用大一點的matrix
等4行個0001好像很無聊
事實上不知幾有聊, 超好用
我再講個例子
有樣野叫Pattern Recognition
簡單就是"分類"
紅線分到2堆點, 藍綠都失敗
要找個 直線equation 很易
問題是, 這些點分得好, 如果D 點亂一點呢
這個情況下要找個curve equation,就很難
特登從更高dimension去做個problem, 有時會更快更有效
即是說,有時一些problem
從另一個角度去看
會有精彩的發現
Control & Dynamics System呢 就很多這一些東西
例如State Space, 就是特登用Matrix去表達一些原本可以普通equation表達的control law
例如Bode Analysis, 唔睇f(x), 特登用log f(x) , 去發現個 asymptotic properties
而Nyquist Analysis, 更是更好的例子, 不去理個equation, 走去理個Cauchy index , 和turn number
一條普通equation,走去屈做轉圈的equation之後去數轉了幾多次
Instrumentation : Transducers, Sensors, Actuators
何謂 meter ?
中學學過 ammeter, voltmeter
其實都是假的
meter 其實也是Control Theory
叫 Tracking
即一個system A 去 追 個input
假設個input突然由0變1
基於delay, 個response一定跟不上
上圖, 個blue line 是input, 其他都是output
"如果個output個樣和input 100% 一樣, 就是好儀器"
Control Theory 證明 : This is impossible
任何儀器去measure physical quantity, 都要向這條理論低頭
禁點算? 當然有補救方法, 用PID Controller
上圖等於
這就是 "控制"
你用一些contoller去改個system到去最好performance ( 不是ideal ! 因為impossible)
而基本上
所有儀器機器
我理得你 ammeter 定 哈勃望遠鏡 定 強子對撞機
係儀器就一定要用control theory去 "tun機"
接下來
講下一些儀器是怎樣work的
講下 Temperature Sensors
一件物件的溫度, 有很多方法去測量
例如用 Resistance-Temperature Relationship
then change in temperature 可以用resistance 來 測量
不過這種溫度計要接觸
如果不能接觸 / 不想接觸
例如火山口, 星球 等等
就要用Pyrometer
簡單講, 用voltage測temperature
所以有時要用上Bridge circuit
用這個(還有其他)來"adjust" 個range
例如 如果temperature range 由 0K 到 1000K, 太大, 那就要用到scale adjustment
例子 : Laser cooling 可以去到 "6K" (-267C)
如果用平時的 電子儀器, 會爆scale就要用一些circuit去adjust個range (linear / quasi-linear / log asymptotic 等等) 其實temperature sensor還有很多例如contact potential / thermistor / thermal couple / magneto-thermal effect 等等 太多太多 之後講下 Force Sensor 最簡單的force sensor就是彈簧彈簧 受力 會變形是 3D 變形 (e.g. stress tensor )讀mechanical engineering or material engineering 的話一定會知 "Poisson Ratio / Modulus " 等等簡單講 物料受力會變形
如果用平時的 電子儀器, 會爆scale
就要用一些circuit去adjust個range (linear / quasi-linear / log asymptotic 等等)
其實temperature sensor還有很多
例如contact potential / thermistor / thermal couple / magneto-thermal effect 等等 太多太多
之後講下 Force Sensor
最簡單的force sensor就是彈簧
彈簧 受力 會變形
是 3D 變形 (e.g. stress tensor )
讀mechanical engineering or material engineering 的話一定會知 "Poisson Ratio / Modulus " 等等
簡單講 物料受力會變形
變形的話, 物料的resistance會變
中學physics :
結果呢
"力 就可以用 voltage 去表示"
這就是 " 怎樣去測量一部車幾重" 的方法
未完待續 (7)
其中一個研究大課題 是 控制
design 個gear ratio 小 (接近0) , then
未完待續 (8)
Signal Processing
人聲由不同wave合成
那equation是什麼?用harmonic analysis
最簡單原始無人用的方法叫FT Fourier Transform(我skip Fourier Series)
Engineering講究好用, FT有什麼用?
1.有時對待事物,一角度不夠, 你用time domain看可能完全沒資料,不過用frequency看可能有突破
例,湍流,brain wave, 會認為是一堆noise,沒pattern, 那就錯了
如果用spectrum看法,就會發現隱藏pattern
2.transform可令計算更快
例FT,Laplace Transform, Zeta Transform, solve ODE, PDE, difference equation時,狂用
基本精神是,把問題變易,之後transform back
所以transform到處都是
通訊有Hilbert, Robotics有Homogeneous等
不過FT有weakness
例,去听orchestra,用FT可由energy spectrum分析音樂有什麼樂器
不過不能知幾時有哪樂器,因FT用overall range, 而且慢
點解決?用FFT,更快
用STFT,把signal斬開,一個個check,連幾時有乜都知
講樣野你知,量子力學uncertainty principle,你知唔知signal processing都有呢
(量子力學discrete level, quantize,thermo的entropy, engineering一樣有
Discrete在wave guide, entropy在communication, 而Quantize整個EEE都有)
基本上,音樂和圖像軟件,例如Midi,PS完全是signal processing
另一點,以更高level看法,transform可看做operator
原本function是excitation, 個trans完function看做system output
可當FT是種system特性
最出名叫Green’s Function, 系統你不知樣子
沒問題, input個Dirac Impulse
看output response是什麼,從而推想system的Transfer function.(這想法不就是experimentalism嗎?)
而Green出名因為,是Impulse Response外還是Laplace Poisson Eqn的solution
FT有weakness,所以就FFT, DTFT, DFT, STFT (一大堆變種)
never perfect(老實講Transform名多到..)
再高vl點, 如果個operator可“變形”,就更快更準,這就是再下一代transform,叫Wavelet
Information & Communication Theory
係人都知 double angle formula, 無錯, 答案就是用 double angle formula
因為 第2個term , frequency X 2 , 是 high frequency term, 我們可以 filter 走 (用Low Pass Filter, 即RC circuit)
結果就可以get back x(t) , 之前那個只是個scalar, 可以用放大器KO
Engineering 的精神
Engineering 和 Pure Science 的分歧 就在此, 數很簡單 ( 超簡單, 中四都識 ), 不過呢
你要意識到 一個A乘B後可經再乘一次B + 用B的特性去重組個A
這是什麼Engineering的精神 ?
易難非重點, 而是 可以用, 而且是要 用到盡
AM 就是應用到 double angle formula的特性 : 有 identity term ( 個 "1" )
再者, AM 是 給你feel 下"通訊"是什麼
如果我一開始就講 OFDM, 你根本就不會知道我講什麼
剛才的AM方法, 留意下, 只是 單對單 對話
不可以撞 frequency
地球N個人, 怎樣用有限的frequency 去支持 近乎 無限人的對話? (人數多, 而且一人可以一日打N次電話)
這就是 Orthogonal Frequency Division Multiplexing
不過如果我突然就講MIMO system的話就太難, 所以用AM做開場白
下圖叫 QAM, 是一個支持 2個signal的方法
Information Theory
Computational Neuroscience, Artificial Neural Network, Fuzzy System
EEE的魔掌, 什麼都入侵到, 哈哈
等我model 神經 給你看
神經元 怎樣運作?
因為離子分布不均, 而且通透性不同 細胞膜內外有電位差 (potential difference) 細胞外是 + , 細胞內是 - Then 個細胞有n條dendron, 當受刺激, ino會流入細胞膜內
個cell 多了 + charge, 自然potential increase
當個potential 上升至個 "要求值"時
個nerve cell就會 "fire" signal 出去
即是發送訊號出
再去經一些方式去回到原狀
OK
Let input 叫 x
一個nerve cell有n條dendron, 即有n個input
不同地區不同ion concentration, 即input有不同weighting , w
個potential 要去到某值才會work, 即是要高過 base value , B
個cell 一係fire signal, 一係not fire signal, OK , 二元值, Sgn( )
所以, 上面一大堆字等於
老賓講, 這個叫Neural Network Perceptron, 是Information system的一個concept
Information system = ?
Information system 研究怎樣給個蠢機器一些智慧 !!
Smart machine是很重要的一門
如果沒有Smart machine, 機器很
簡單講, 研究 A.I.
續 (11)
Others : Related Mathematics
Related Mathematics in Signal Processing & Control : Optimization & Estimation & Noise Reduction
例如, 一個系統, 我不知道 系統特徵, 可以怎樣做 ?
最簡單, 就是 對系統 輸入不同的 input, 再看看個output是什麼樣子, 去推算系統
例如個 系統 是一個 squarer , 入5 會出25, 入8會出64, 入10出100, 自自可以由experiment試下就知個系統是一個 squarer
不過
真實世界是不完美的, 是充滿noise的
怎樣去獲得 最準的 系統資料? Use optimization !
例如輸入, 叫
個output 叫
Then
你入 m 個 input
注意, 是一個最大是mXn的system
怎樣可以有最好的 X ? 當然就是要有最小的 n
最簡單的就 Linear Least Square Esitmation
Where
So ,
"Quadratic Function " 不就是 嗎?????
Sorry, 現在是N dimension ( N - variable )的Quadratic Function
點找min point ?? M2 Plot 過graph 就知 用d , 所以
中學生的你可能不知道 : 乜都可以 D
結果,
這個就是 最基本的system detection method, 用了optimization和 least square 的方法
未完待續 (12)
Algorithms
Algorithm就是"步驟"
這個東西無處不在
algorithm太精彩, 我要用2 part去講
也因為algorithm concept可以很深, 我講concept
如果我一開波就講computational complexity, Turing State Machine就太嚇人
由數學一點的Numerical Analysis開始
有沒有想過怎樣計sin29 , ?
基本上, 地球人能solve到exact solution的問題的數量 和不能solve到的
少n 倍
不信?計下
這個integral會經常出現在"天線的E-field"這個課題
如果想知"怎樣"計
"Analysis of the Radiation Resistance and Gain of a Full-Wave Dipole”
Antennas& Propagation Magazine, IEEE, 94
問題出現了 如果沒有人想到個solve法, 難度就不去solve了嗎???
在合理情況下, 如果個%error 小過0.01, 已經可以當做true solution
所以呢 近似估算 是有用的
怎樣去solve ? 太多方法
最簡單Newton's Method
,
如果是multi-variable 呢?例如optimization 問題
找critical point方法是 solve 個 D 1次 的equation
那可用Newton's Method
如果要知max/min , 要再d
如果個問題是 3X3 matrix, 還好 不過如果個問題是 9X9 matrix, 而且個function 很難D
怎麼辦? 那就不要去計個 2nd d, 用Approximation去代換
這個精神就是
Runge-Kutta , Adam, Euler, Broyden–Fletcher–Goldfarb–Shanno等等一堆人名algorithm的精神
"不能exact solve, 用approximation"
你可能會問 "approximation 唔準wo"
放心, 這個蠢問題早有人想到
簡單講
冇人話個approximation一直都要用同一個model
個model 可以"邊用邊變/update"
要描述一件事的equation,有作用限制, 不是無限擴大地合適
所以有時會出現 "split function"
從來沒有一個equation可以打天下
中學學的一條過的function是很很很 abnormal的
如是者epsilon-delta, compact set, lipschitz continuous 等等Analysis字眼就會出現
不過我重點不是講mathematics
重點是
一個equation打天下的case 是 異類 個function斷開是正常的
有時個problem不能solve到exact solution
原因可能是因為個model太complex (例如split function)
所以要用approximation方法
而個approximation方法會有error
then 如果如果個 model懂得update自己
(即個approximation function會update自己的話)
個approximation method會愈計愈準
不會有準確度不高的問題
題外話, 更數學的一句 (high-level野)
對於每一個problem都會有一個相對應的用series去solve個problem的方法
當個problem可以有exact method時
其實只不過是個series solution有closed form
所以series的計算可以當是全部problem都可以solve的最後手段
當然沒有東西是萬能的
algorithm要什麼東西支持呢
要Computer
所以
這就是Computer Science & Computational Science 的支柱
簡單例子
你可以用電腦模擬
宇宙大爆炸 ( computational physics)
化學反應 ( Computational Chemistry )
Genetic Changes ( Bio-informatics )
Electromagetic Field( computational electromagnetics, EEE其中一個分支 )
Population Shift (Economics中的Agent-based modeling)
腦活動 (computational neuroscience)
天氣 , 股票, 地震, 生態圈....等等等
這個學問叫
Simulation仿真
講個有趣的事
有沒有玩過 Sims city ?
其實Sims city可以當computational economics 的agent-based modeling
問題來了
如果你部電腦慢, 不就要等n日?
youtube一下
『フカシギの数え方』 おねえさんといっしょ! みんなで数えてみよう!
是個經典combinatorics問題
睇完個片應該會有個"feel"
知道algorithm的幾個特點
1.要快(計個10X10要25萬年)
2.要準(error大 = 廢 )
3.要細 (如果要99999TB記憶體,會load爆機)
那怎麼辦
最簡單就是
個方法會"自己更正自己"
這個概念是超級勁的!!!!
我下面會詳細講幾個例子
Adaptive Control
Trust Region
Genetic Algorithm
未完待續 (13)