上上個星期六，和我太太去聽底下這個藝文講座，
http://www.accupass.com/event/register/1704171904534187810820
與攻殼機動隊有關的講座，主要是藉由這部電影探討AI、生命、哲學、自我意識、機器學習….收獲頗多，大概的記一下今天聽到的內容:
AI(人工智慧) 的部份，英文（Artificial Intelligence），Artificial(人工) 的部份比較沒有問題，但是 Intelligenc(智慧、智能)就比較有爭議，對於什麼是智慧目前仍沒有一個比較明確的定義或分界。目前對於智慧的認識也是隨著科技不斷的在演變，比如說現在的相機都有人臉辨識的功能，能夠在畫面上把人臉框出來，現在大家不會覺得它是AI，可是在以前若程式能做到人臉辨識的功能，人們就會認為那是AI了。
AlphaGo下圍棋很利害，可以下驘人類，可有人就要說它下圍棋很利害，可是它懂圍棋嗎？這是人類很自大的地方，就好象我跟你下圍棋，可是我下輸你了，然後我說你驘了，可是你懂圍棋嗎？
AI的分類分兩種， Strong AI:擁有心靈及自我意識。 Weak AI:表現出有智慧的行為。現今人類的科技只能達到Weak AI而已， Strong AI 目前只出現在電影、動漫、小說中。
機器學習 Deep learning，目前最大的一個問題就是這些研究者本身害怕的一件事，就是我們餵給它很多資料了，但是它裡面到底學習了什麼東西我們不知道，我們只能觀察到它表現出來的行為。比如說現在google在做的自動駕馭汽車，我們可以設定一堆條件，紅燈停、綠燈行，可若遇到比較複雜的情況時，它判斷錯誤了，把紅燈看成綠燈就開過去了，那你說他是判斷錯誤還是故意的？ 這些我們現在都無法知道，因為我們根本就不知道到底學了什麼東西。 Deep Learning 目前理論的部份很缺乏，但實際的應用面卻很廣，已經應用到很多地方去了，它現在比較強的是圖象分析，有人用它來分析小黃瓜的品種，藉由它開發出將小黃瓜依賣相分類成高中低價位。
還有，當別台車子要來撞你的時候，你是應該加速離開，還是往旁邊閃撞上電線杆，還是撞上人群，什麼樣的做法才能把傷害降至最下這些情況，就是人來判斷也都不一定能做出很好的判斷。
weak AI 分幾個層級
• Level 0:執行規則、行銷用
• Level 1:依照知識庫作搜尋
• Level 2:學習、探索
• Level 3:自動特徵產生、高層次抽象化
人腦比AI優秀
記憶問題，若我今天不提我旁邊這位他今天穿什麼上衣，回去的話，你可能連想都想不起來，因為他有符合你的認知，你就不會去記憶它。不需要記的東西，不會花力氣去特別記它，記憶很花能量的。
AI的現狀
框架問題， 有一個經典的例子常被提起，就是機器人取定時炸彈上的電池，可參考這裡
大意是說，讓AI機器人進房去將定時炸彈上的電池取出來，結果一拿電池炸彈就爆炸了
再做一個AI機器人，教它做事要考慮後果，結果機器人一進去，就開始計算，它走的這一步會不會影響地球的轉動、太陽會不會掉下來….考慮太多不相關的事物，考慮太久炸彈爆炸了。就是說它資料庫裡面的資料要全搜尋一遍、計算一遍。
而我們人類就可以很輕易的做到這點，比如說我演講要打開麥克風，我不會去考慮我打開這麥克風開關會不會影響地球的轉動，或引起大爆炸，很輕易的就能專注在一件事上。
會中大家比較有興趣的議題是 AI 究竟會不會有自我意識？會不會發展到象終結者電影那樣毀滅人類？ 其實就意識本身目前仍沒有一個明確的定論或分界，這部份仍有爭論，比如說你知道你有意識，可是你能說出意識是什麼嗎？ 有人可能會說能意識到”我”的存在，可什麼是”我”？ 有”我”這種東西嗎？
“我” 這就屬於哲學的範疇了，哲學在”我”的論述有很多。笛卡兒的我思故我在，並非將它粗淺的理解為”我思考所以我存在”。 比方說，我們人有時會因為精神狀況不佳，而看錯東西，或誤認東西，那會不會這些東西本來就都是假的，這世界所有的東西其實都是假的，我們只是被以某種型式告知了這個是世界是這樣，這物體是這樣，就有點象駭客任務那樣生活在母體裡的人，他們所生活的世界其實都是電腦灌給他們的訊息，他們的本體其實是生存在膠囊裡。所以懷疑這一切都是假的這個思想，就很重要，才造就了我，只有我(內在)才是真的，除了我以外都是假的…..這個在網路上都可查到相關的資料，我就不多寫了，可參考這裡
https://zh.wikipedia.org/wiki/我思故我在
提問時間時，我提了一個問題，AI研究者不知機器學習了什麼東西，不能寫個程式讓它吐出它所學到的東西嗎？ 于立天副教授回應:目前是有人在做這樣子的事，可是不多，一方面是大家都在努力的提高它的效能和應用，因為這部份有資金贊助，對於讓機器吐出它所學的東西這部份的研究就比較少，一方面是關心安全的人不多，另一方面是沒有資金，還有就是機器學習的語言是類神經學，你要讓它吐讓我們人類能理解的語言，那要經過一個轉譯過程，凡是翻譯必有失真，就象英文與中文翻譯必不能100%照原意翻出來，類神經學語言更是這樣。他推薦了一本書”網路殺神 守護程式”。
會中也有人提問了”機器人三原則”的問題來討論，關於機器人三原則的細節不清楚的可以參閱底下這頁
https://zh.wikipedia.org/wiki/机器人三定律
我簡單介紹一下，它這個理論很經典，常在很多與AI機器人有關的電影裡都會被提到，如威爾史密斯主演的機械公敵…
于立天副教授針對這個問題回應:”機器人三原則”我個人看起來它是無懈可擊，重點在於”傷害人類”這個定義太廣了…..(我自己心裡補充:是的，就是讓人自己來定義”傷害人類”這事的範圍都不一定能定義的很好，更何況交給AI自己去判斷)
請鬼拿藥單
由於AI各方面的發展很快，有些人士就擔心是不是要立法來保護人類…但是文科的人通常不知理工科的人在想什麼，換句話說就是這些要定法律的人根本不知那些研究AI的人在做什麼，那要怎麼定法律呢？因此他們就請了google做自動駕馭的人，這些有實作經驗的人來參與討論或幫忙制定一些法案，這就等於是”請鬼拿藥單”這些人正在努力的發展、研究AI時，你他們幫忙制定法案時，他們會立一些限制他們正在研究、正在發展的一些法案嗎？ 肯定不會嘛!
本來這講座我是不太想去的，因為門票就要250元，兩個人就要500元，覺得有點貴，不太想去，想說他們講的網路上大概都可以看得到。來了之後，也沒白來，收獲不少，至少就AI的部份，今天就講的很全面，幾句話就帶我了解到了目前AI的發展現狀和限制。
I paid $500 for it, make it account!
中譯:我花了500，就要讓它有價值一點!