我相信奇點，但是采用一種預測（prediction）的态度，而非預報（forecasting），言之鑿鑿說2029或2045有點那個了。看人的智慧形成，也存在個奇點，在那之後加速進化，我看人的生理結構，dna編碼，腦和神經系統，那麼精密，常常有種錯覺人就是過了奇點的機器。熙霖老師關于倫理的觀點很認同，機器人三大定律對機器人的限制力是不靠譜的，是以還是得限制機器人的始作俑者——人（就像現在限制人在基因工程上的作為一樣），在機器發展到奇點之前，人必須把他的智慧臍帶剪斷，畢竟在這地球上從沒有兩種可以競争的進階物種，而進階生命的擴張欲望是極其強烈的，在物質守恒的前提下隻能毀滅非我同種者，是以，避免失控的辦法就是提前讓機器的某些方面的智能發育停滞。如果不加限制地發展，在奇點以後人的智能發展很難趕上機器。人類大腦畢竟是有局限的，而機器的運算能力、存儲能力和互聯能力是可以簡單堆疊、（幾乎）無限擴容的，它的學習能力可以不斷提升。當大規模計算基礎設施、大資料和認知科學發展到某個臨界點，會出現機器自生智慧 （如創造力）、複雜情感 、主體意識和自我認知的湧現效應。不确定機器會不會受道德的限制，機器被教會用最優化的算法解決問題，在什麼範圍内是最優的，對機器自身，還是對主人，對機器種群，還是對整個人類社會，就像桑德爾《公正》公開課所講的，不同理論對公正有不同的評判，也許不同的機器有不同的了解。
百度深度學習研究院傑出科學家 吳韌
計算機神經網絡的進化，異構計算，大資料的疊代進化速度，特别是計算智能（computational intelligence）發展的速度，讓奇點成為可能。以前機器一直希望模仿大腦，到國際象棋程式出現後，發現機器可以用另一種方式超越人腦。先了解人腦，再架構電腦的思路可能是錯的。機器智能不應受人類大腦的模式制約，計算智能也許會是更好的方案。歐美的大腦計劃在研究人腦，但人工智能的發展不必須以人腦作為模闆，可以另起爐竈。電腦可以不知道也不了解人腦是怎麼運作的，但完全可以按照自己的一套邏輯做超越人腦的事。人工智能的發展也會遇到各種瓶頸，但山不轉水轉，總有解決方案：例如存儲能力與gpu的加速進化，這一切的快速推進，讓一切皆有可能。而且可能性很大。但人工智能距離道德、情感等人類意識仍然很遠。比如人在與電腦下棋快輸的時候，可以惱羞成怒把電源關掉，這對于機器智能來說是太高階了。
奇虎360副總裁兼首席隐私官 譚曉生
計算機不一定完全理性，程式邏輯也可以讓機器失常。從電路上來講，0-1其實是電壓決定的，和電壓相關的是電流，電源功率小點，電流一變，電壓跟着變，計算機就會出匪夷所思的結果。馮諾依曼體系結構，修改資料即修改程式，資料突變有很多種方法，比如宇宙射線。一切按照理性的前提是不成立的。甚至高密度內建電路本身就有随機特性，而曆史往往是小機率事件影響的。最近20年，機器學習在算法和應用上， dnn深度神經網絡取得突破。算力的提升，分布式計算技術的進步改變了一些東西。遊戲規則的改變，比量變影響深遠的多，網際網路改變了資訊的流動方式，這點也會對社會，對人和機器的關系産生影響。例如機器學習了全人類的知識，見過各種僞裝，你覺得它對僞裝的識别能力比單個人類個體強還是弱？這是低端智能還是高端智能？前面吳韌和吳甘沙也提到大資料的發現是多元的，可以發現人類發現不了的細節。也許機器能識别出上萬個特征，但人類隻能識别出上百個。360在用這種方法識别網絡攻擊。目前看，比人整理的ips規則靠譜。我寫過不少代碼，見過詭異的事情，錯誤的代碼，加上錯誤的資料，能出正确的結果。機器出錯了，未必一定是糟糕的結果，而機器出錯幾乎是一定的，程式bug，硬體錯誤，甚至intel cpu都出過bug，現在的硬碟磁存儲都已經是機率事件了。當有幾千台存儲伺服器的時候，每個月要對硬碟資料重新校驗一遍，每次都能發現有資料錯了-當初寫入後是校驗過的！是以，誰說機器是理性的呢？理性的機器能幹出這事兒麼？故意出錯？還有，寫程式的人也會出錯。文明的進化不用過分擔心。哪天機器進化超過人了，從優勝劣汰角度，機器會帶來更高的文明，人類為啥還要占着茅坑呢？看看三體，星艦文明，我很能了解。為了文明延續，要讓最強者得到機會，四艘星艦留存一艘，其它艦人員甚至淪為食物，so what？更何況，即使從文明延續的角度，機器智能與人類也未必不能共處。
<b>原文釋出時間為：2014-04-14</b>
<b></b>
<b>本文來自雲栖社群合作夥伴“大資料文摘”，了解相關資訊可以關注“bigdatadigest”微信公衆号</b>