《未來簡史》完整版讀書筆記

　　幸福感

　　幸福感是一種大腦的一系列化學(xué)反應(yīng)，無論外界的刺激如何提高，這種化學(xué)反應(yīng)帶給人類的體驗總是有天花板的，而且很早就已經(jīng)接近了上限。所以人類進(jìn)入文明社會以來，無論科技如何發(fā)達(dá)，物質(zhì)如何豐富，幸福感并沒有提高多少。吃冰激凌很愉悅，找到真愛也令人愉悅，但是吃很多冰激凌所得到的愉悅既不能線性增加，也不能等同于找到真愛。

　　幸福感的核心是你的收獲和期望的差值，而不是收獲的絕對值;所以，我們要向內(nèi)心尋找幸福，改變認(rèn)知模型，降低期望值都有助于幸福感的提升。

　　但是，事物都有兩面性。人類的進(jìn)步也得益于先輩們的冒險追求和持續(xù)探索，而內(nèi)在的驅(qū)動力就是欲望、好奇心和不滿足。如果全人類都降低期望值，很容易獲得滿足感，從而停止外在的追求、不再冒險，那么人類社會的進(jìn)步速度也會大大降低。

　　如果有一種藥物，能欺騙大腦，直接催生這種幸福化學(xué)反應(yīng)，讓人類輕易得到幸福感，滿足感，那么人類就會沉迷于這種藥物而無法自拔。這種藥物確實存在，我們稱之為海洛因，或者簡稱毒品，因為絕大部分人一旦嘗試，就幾乎會不可避免地上癮，放棄外在的所有努力和追求，只想借助著一種最輕松的方式獲得滿足感體驗。所以我們都不敢輕易嘗試挑戰(zhàn)自己的“定力”。做為騎象人，我們很難駕馭“本能”這頭大象。在通過電極刺激老鼠獲得快感的試驗中，那只可憐的老鼠就會不停地按下電源開關(guān)而無法自拔，直到精疲力盡后倒下。人類的自控力并不比老鼠高多少。

　　還有一個令我細(xì)思極恐的事實是，戰(zhàn)爭導(dǎo)致了互聯(lián)網(wǎng)和很多科技的發(fā)明、發(fā)現(xiàn);如果沒有殘酷的戰(zhàn)爭，人類科學(xué)進(jìn)展和生活水平，要比現(xiàn)在落后的多。

　　多么痛的領(lǐng)悟，再次說明了這個世界不是非黑即白，而是中國文化中的太極那般，白中有黑黑中有白啊。

　　————————————————————

　　生物也是算法

　　算法指的是進(jìn)行計算、解決問題、做出決策的一套有條理的步驟。算法并不是單指某一次運(yùn)算，而是運(yùn)算時反復(fù)采用的方法。生物行為也是算法控制的，生物算法是通過感覺、情感和思想來運(yùn)作的。

　　有只狒狒看到附近樹上掛著一串香蕉，但是旁邊埋伏著一只獅子。狒狒該冒著生命危險去摘香蕉嗎?這就需要生物的概率算法做運(yùn)算了。不去摘香蕉餓死的概率和摘香蕉被獅子抓住吃掉的概率作對比。這里面需要測算狒狒與橡膠的距離、獅子距離香蕉的距離、獅子的狀態(tài)、狒狒的速度、獅子的速度預(yù)估、狒狒的饑餓程度、香蕉的成熟度等等。最后狒狒得出一個決策結(jié)論，然后去執(zhí)行。

　　狒狒的生物算法會讓狒狒感覺到饑餓，看到香蕉又會流口水，但是獅子出現(xiàn)卻讓狒狒感到恐懼和顫抖，所有的情感和欲望都在大腦里面通過神經(jīng)遞質(zhì)交互，最后根據(jù)這個生物自己的膽子大小以及對香蕉食物的喜好程度等綜合做出決策，導(dǎo)致執(zhí)行。如果這次生物算法運(yùn)算的結(jié)果是搶香蕉，否則要餓死，那么狒狒就可以瞬間感受到一股力量充滿四肢，肌肉緊繃，血脈膨脹，幫助它快速沖向香蕉并逃離獅子的追蹤。最終，能夠傳承到今天的生物，都是算法比較優(yōu)秀和能夠適應(yīng)環(huán)境的，否則就會中途夭折，物種滅絕。

　　人類每時每刻的選擇，都是算法決定的，小到該吃什么穿什么，大到擇偶和投資，都是生物算法的結(jié)果。而且據(jù)統(tǒng)計，99%的人類決策是由進(jìn)化而成的“直覺算法”主導(dǎo)的，而且是嚴(yán)重受到底層欲望驅(qū)使的，那個所謂的理智的大腦只不過是為這個直覺算法的結(jié)論尋找一個邏輯上靠譜的因果關(guān)系而已，只是起到了“解釋”的作用，并不主導(dǎo)決策。

　　一見鐘情的本質(zhì)就是生物算法，所以你不能預(yù)測你會對誰一見鐘情;甚至當(dāng)你遇到一見鐘情的人之后，你會發(fā)現(xiàn)Ta跟你的很多所謂的愛情觀并不完全吻合。當(dāng)你跟一個戀人走到了盡頭而分手以后，回看當(dāng)初，你也不知道自己為什么會鬼迷心竅愛上Ta。這里的鬼迷心竅所提到的“鬼”就是“算法”。

　　不過呢，人類的決策算法相對于其他動物而言，具有強(qiáng)更大的“自我升級能力”，這個自我升級就像人工智能領(lǐng)域的“機(jī)器深度學(xué)習(xí)”一樣，人類通過讀書、思考、實踐這個循環(huán)來不斷訓(xùn)練并提高自己的決策算法，然后讓自己在物種繁衍的過程中獲得更多的優(yōu)勢。這個提高決策算法的過程就是認(rèn)知升級、認(rèn)知迭代的過程。

　　生物算法還決定了，哺乳動物天生都會依戀母親以及一些柔性物可以給予的接觸感，比如紗布或者毛茸茸的玩具，科學(xué)家稱之為接觸性安慰(contact comfort)。母親和嬰兒之間都有母嬰聯(lián)結(jié)(Mother-infant bond)，這也正是哺乳動物這個詞Mammal的來源，其詞根是拉丁文的mama，語義就是乳房。

　　————————————————————

　　意識和倫理道德

　　機(jī)器沒有情緒和欲望這樣的主觀體驗，而人類有，可人類大腦本質(zhì)上也是一系列神經(jīng)元之間的電化學(xué)反應(yīng)而已，主觀體驗究竟是如何產(chǎn)生的，是不是進(jìn)化的副產(chǎn)品?如果沒有主觀體驗，人類理論上還是可以進(jìn)行一系列的社會活動，只是沒有了酸甜苦辣痛那些主觀體驗，沒有了情緒，只留下了了算法和執(zhí)行，但那樣的人類還是人類嗎?

　　人類之所以有虐待和強(qiáng)奸這樣的道德倫理問題，也是因為人類有“主觀體驗”這個概念。雖然本質(zhì)上，虐待和強(qiáng)奸的體驗也是大腦神經(jīng)元之間的一系列電化學(xué)反應(yīng)，和其他體驗沒有本質(zhì)差異，但是“主觀體驗”的存在讓這個行為變得不可接受，主觀體驗導(dǎo)致了喜怒哀樂，從某種意義上來講，主觀體驗決定了人類道德倫理的框架界限。

　　機(jī)器就沒有主觀體驗，所以一臺機(jī)器Hack入另一臺機(jī)器，算不上虐待和強(qiáng)奸吧;人類黑客Hack一臺機(jī)器，可能構(gòu)成信息竊取的罪名，但一定不會背叛強(qiáng)奸電腦罪。

　　1952年，偉大的數(shù)學(xué)家，計算機(jī)科學(xué)奠基人阿蘭圖靈被判犯有同性戀行為，并被迫接受化學(xué)閹割。兩年后，圖靈咬了一口毒蘋果自殺，留下了那個被咬過一口的蘋果(logo)。人類的主觀體驗和社會倫理道德也不是一層不變的，是與時俱進(jìn)的。當(dāng)社會中越來越多的人對同性戀的行為以及人權(quán)的概念有了新的認(rèn)知之后，道德和倫理在新一代人中便會迭代升級。同樣是圖靈，如果他生在21世紀(jì)，就不會被判刑，也不會被化學(xué)閹割，更不需要服毒自殺。行為沒變只是環(huán)境變了，結(jié)局就大不相同。

　　這些社會倫理道德的根基僅僅是人類的主觀體驗而已。如果主觀體驗是虛幻的，那么道德倫理也一定是虛幻的。

　　圖靈的同性戀行為本質(zhì)是什么并不是關(guān)鍵，關(guān)鍵是社會中的其他人怎么想。這也是未來我們面對計算機(jī)人工智能的問題。人工智能是否有“意識和主觀體驗”，這不是關(guān)鍵，關(guān)鍵是我們?nèi)祟悤�怎么想。這就是著名的難纏問題，他心問題(Problem of other minds)：

　　如何證明宇宙中除了我以外的其他人不是機(jī)器人或者夢境的虛幻，而是跟我一樣有意識的智人?

　　————————————————————

　　人類的互聯(lián)主觀

　　人類的現(xiàn)實有三類：

　　1)客觀現(xiàn)實、

　　2)主觀現(xiàn)實、

　　3)共同主觀現(xiàn)實(intersubjective，互聯(lián)主觀)

　　客觀現(xiàn)實就是萬有有力這種亙古不變的物理法則;

　　主觀現(xiàn)實就是我們內(nèi)在的感受和情緒、酸甜苦辣;

　　互聯(lián)主觀并不是因為個人的信念或者感受而存在，而是依靠許多人的溝通互動及認(rèn)可而存在。上帝、國家、貨幣、公司、民族、價值觀、道德、婚姻、信用、等都是人類虛構(gòu)出來的互聯(lián)主觀，他是基于不同群體的共同想象而存在與一個族群和文化當(dāng)中的一種共同的主觀現(xiàn)實。

　　讓人類主宰地球的不是智力和使用工具的能力，而是大范圍的靈活協(xié)作，促成人類在全球范圍內(nèi)靈活協(xié)作的根本能力是——想象力。領(lǐng)導(dǎo)就是要激活一群人的共同想象，編制一個共同認(rèn)可的故事，讓群體相信這個故事，形成信仰，從而組織他們進(jìn)行大規(guī)模高效協(xié)作。

　　大多數(shù)人生活的意義，都只是存在于彼此講述的故事之中。在教堂結(jié)婚、結(jié)婚要戴戒指、初一十五燒香拜佛、在節(jié)假日放炮慶祝、過年給紅包等等的意義就在于我們的父母和前輩，鄰居和朋友都認(rèn)為這有意義。人類會以一種不斷自我循環(huán)的方式，持續(xù)增強(qiáng)彼此的信念。每一次互相確認(rèn)，都讓這張意義的網(wǎng)收的更緊，直到你別無選擇，只能相信大家都相信的事。

　　星座、易經(jīng)、畫、鉆石、玫瑰、比特幣、米老鼠、可口可樂、釋迦摩尼和貓王這些都屬于互聯(lián)主觀的概念，都有一個高度認(rèn)同的群體。

　　人類不僅可以跨性別、跨年齡、跨文化，跨種族，跨國界協(xié)作，甚至還可以跨越時空協(xié)作，我們的所有科學(xué)成就，其實就是與前人協(xié)作的結(jié)果，所有的這些協(xié)作，除了基于共同想象的很多虛構(gòu)概念之外，還有一項重要工具就是”語言”，語言也是一種共同的互聯(lián)主觀，離開了人類的主觀意識，語言就失去了存在的意義!而即便說著相同語言的北朝鮮和南韓，他們的區(qū)別并不是氣候和山川，也不是基因和民族，而是他們分別相信截然不同的兩套故事。

　　通過文字和語言，人類不光實現(xiàn)了計算和存儲從大腦內(nèi)走向大腦外，而且還實現(xiàn)了從單人計算到集體計算的跨越。人類的成功，是個體退化，集體進(jìn)化的綜合結(jié)果。

　　————————————————————

　　智人的統(tǒng)治

　　人類通過語言和社會協(xié)作主宰了整個地球，在農(nóng)耕社會和工業(yè)社會的發(fā)展下，消滅了大部分野生動物，馴化了無數(shù)的家畜。為了滿足人類的私欲，我們大量圈養(yǎng)動物并屠宰它們。究竟是什么賦予了人類如此特殊的權(quán)力，可以肆意奪取其他生物的生命?

　　人類不斷地給自己尋找各種倫理上的理由，來支撐這種殺生的行為。雖然有小部分人類開始反對，甚至以身作則吃全素，但這并不能阻擋工業(yè)化畜牧業(yè)的發(fā)展態(tài)勢。一種科學(xué)解釋是，這些家畜選擇了和人類的協(xié)作，提供肉食給人類，它們也獲取了物種的繁衍，那些拒絕跟人類協(xié)作的野生動物，正在逐漸被大自然淘汰，處于物種瀕臨滅絕的邊緣。

　　全球總共有20萬只野狼在外游蕩，而最早的那只比較弱的狼，通過與人類的協(xié)作，繁衍至今已在全球擁有了4億家犬后代。世界上現(xiàn)有4萬只雄獅，但有6億只家貓;有90萬頭非洲水牛，但有15億頭家牛了;有5000萬只企鵝，但有200億只雞。全球大型動物有超過90%不是人類就是家畜。到底人類滅絕了動物還是繁榮了它們。

　　其實，就在100年前，一次禽流感也奪走了1億人類生命。在大自然面前，生命似乎根本不值一提，不管是人類的還是其他生物的。但是對于人類宗教和社會倫理來說，這個是天大的事。

　　宗教的出現(xiàn)，是人類給自己不理解的這個世界虛構(gòu)出的一種可理解的邏輯;也給自己不能主導(dǎo)的自然現(xiàn)象一種超現(xiàn)實的神性，把對一切美好的期待都獻(xiàn)給對這種“超自然神性”的依賴和信仰;讓自己面對一切未知和不確定的時候，多一些情感層面的堅定和堅強(qiáng)，不會輕易崩潰。不過這一切就像盲人描述世界的色彩一般，只是一廂情愿的臆想而已，共同想象并非真相。但是，不論任何宗教的追隨者，都相信只有自己的宗教才是真實的。

　　所謂的強(qiáng)大的人，都是因為自己內(nèi)心堅信了某一套邏輯自洽的信仰體系，不管是全然接受某一個現(xiàn)有的宗教體系，還是自創(chuàng)了一套獨有的宇宙法則，本質(zhì)上人的內(nèi)心都是有著某種信仰體系的。

　　————————————————————

　　宗教和科學(xué)

　　科學(xué)讓我們相信，根本沒有上帝。但是，信仰上帝能夠激勵我們自己去做成某些事情。這就是宗教給予社會組織的力量。宗教不等于迷信，因為大多數(shù)人都不可能把自己相信的事稱為迷信。自己相信的，就是真理;只有別人相信的，才是迷信。

　　宗教和靈性的差距也比我們想象的大。宗教就是一份契約，約定了社會行事準(zhǔn)則和道德觀，告訴我們什么是對的，什么是錯的;而靈性確是一個旅程，它通常以神秘的方式把人們帶向未知的目的地。

　　對于宗教來講，靈性是危險的。遇佛殺佛講的就是：在靈性的道路上如果發(fā)現(xiàn)佛教已經(jīng)落入制式、僵化、固定的窠臼，就必須要擺脫。虔誠苦修的修士馬丁·路德就拒絕接受教會用各種禮儀、儀式、和契約(如：贖罪券)得出的答案。

　　宗教故事幾乎總是包括三個部分：

　　1)倫理判斷、

　　2)事實聲明、

　　3)具體指示。

　　科學(xué)想要打造成可行的人類制度，必然需要宗教的協(xié)助。很多重要問題需要科學(xué)提供論證，預(yù)測和數(shù)據(jù)，但最終的決策涉及到的倫理問題卻需要宗教的支持。比如建造大壩有諸多的好處，但是會導(dǎo)致白鱀豚的滅絕;另外，決定是否打胎，從來就不是一個醫(yī)學(xué)手術(shù)那么簡單。

　　科學(xué)和宗教都是為了追求真理，但各自卻推崇不同的真理。雖然他們的真理體系不同，但卻不影響他們互相妥協(xié)，尋求合作。他們其實也沒那么在乎真理。

　　宗教最在乎的是秩序，宗教的目的是為了創(chuàng)造和維持社會結(jié)構(gòu);而科學(xué)最在乎的是力量，科學(xué)的目的是為了治療疾病，研制武器，生產(chǎn)糧食等。

　　————————————————————

　　人文主義時代

　　人文主義認(rèn)為是“人類體驗”為宇宙賦予了意義。現(xiàn)代宗教革命并不是對神失去了信心，而是對人類更有信心了。過去我們需要宗教來幫助我們判斷善惡、正誤、美丑，宗教曾經(jīng)讓我們相信只有神可以定義道德標(biāo)準(zhǔn)。而現(xiàn)在，人文主義的口號是：“要聆聽自己的聲音，對自己真誠，相信自己，追隨自己的內(nèi)心，讓自己做快樂的事。”

　　假設(shè)公元1300年某個英國少婦出軌了，她可能會坐立不安，然后去教堂找神父懺悔。神父會根據(jù)《圣經(jīng)》的內(nèi)容告訴他上帝對出軌的看法，并且基于《圣經(jīng)》來判斷她的罪行，并警告她如不悔改則要下地獄。悔改的方式也容易，捐10個金幣(購買贖罪券)給即將出征的十字軍，半年吃素，然后去某個大教堂朝圣。

　　而現(xiàn)在，她自己完全可以為自己做出判斷，她知道自己要什么，她知道自己為此會付出什么樣的代價，權(quán)衡利弊后她就可以作出決定，對自己負(fù)責(zé)，承擔(dān)后果。這個后果不包括下地獄，可能是孩子的撫養(yǎng)權(quán)判給丈夫，也可能是分不到一分錢。當(dāng)然，她如果處境尷尬不知如何選擇，也可以求助閨蜜或者心理醫(yī)生。心理醫(yī)生并沒有一本定義善惡的《圣經(jīng)》，也不會把自己的意見強(qiáng)加在病人身上。他/她會尊重她自己的感受和看法，幫助她梳理和診斷她的心理狀況，引導(dǎo)她走入自己內(nèi)心最私密的地方，尋找答案。

　　在人文主義看來，上帝的訓(xùn)誡根本不如人的感受來的實在和真切。不管是婚外情還是同性戀，人文主義都不會用一個凌駕于人類之上的神的道德標(biāo)準(zhǔn)來橫加判斷。當(dāng)以色列的LGBT社群在耶路撒冷游行時，那些傳統(tǒng)的猶太教徒、穆斯林教徒和基督徒們，也只是說：同性戀游行竟然穿過耶路撒冷這個圣城的中心，實在是深深傷害了我們的感情。同性戀希望我們尊重他們的感受，他們也應(yīng)該尊重我們的感受。這可以稱為社會的進(jìn)步!

　　在中世紀(jì)，如果沒有上帝，就沒有了政治、道德和美學(xué)的權(quán)威來源，無法判斷正誤、好壞、美丑。當(dāng)時的哲學(xué)家和政治家們認(rèn)為，如果沒有宗教，所有的法律和秩序都會消失。而今天，對全球法律和秩序造成最大威脅的正是那些繼續(xù)相信唯一真神的人。對神懷有敬畏的敘利亞，比世俗的荷蘭要暴力的多。

　　1917年，杜尚買了一個量產(chǎn)的普通小便池，宣布這是一件藝術(shù)品，命名為《噴泉》，簽了名，放到了巴黎博物館。這是一個重要的藝術(shù)里程碑。全球無數(shù)的美術(shù)老師讓學(xué)生們欣賞這個作品，并問他們，這是不是藝術(shù)?當(dāng)學(xué)生們吵得不可開交的時候，老師說：只要有人認(rèn)為是藝術(shù)，就是藝術(shù);有人認(rèn)為美，就是美。

　　這就是今天深深影響我們的人文主義觀念。在現(xiàn)代自由市場中，顧客意志取代了上帝意志。如果有幾百萬人通過自由選擇購買了公司產(chǎn)品，你憑什么說他們錯了?

　　顧客永遠(yuǎn)是對的，顧客就是上帝。

　　人文主義還把教育從“提問和背誦”引向了“引導(dǎo)和思考”高度，知道亞里士多德、所羅門王和阿奎納對政治、藝術(shù)和經(jīng)濟(jì)的看法很不錯，但是因為意義和權(quán)威的本源在于我們的內(nèi)心，所以更重要的是你自己對這些事情的看法。

　　天堂和地獄也不再是云端或山川，而是人內(nèi)心的精神狀態(tài)。只要你心中燃起憤怒和仇恨的火焰，就是經(jīng)歷地獄的痛苦;只要你原諒敵人、懺悔錯誤、與窮人分享財富，就是享有天堂的幸福。

　　尼采說，上帝已死。但是，你可以繼續(xù)選擇相信上帝，因為你內(nèi)心能夠感受到上帝的存在;你也可以選擇不相信，因為你感受不到他的存在。不論如何，權(quán)威的本源都是人類自己的感覺。

　　在中世紀(jì)，獲得知識的主要公式是：知識=經(jīng)文x邏輯。

　　科學(xué)革命的知識公式則非常不同：知識=實證數(shù)據(jù)x數(shù)學(xué)。

　　但是科學(xué)本身無法處理價值和意義的問題，我們可以發(fā)明火車，但是卻不知道火車該開向哪里�？茖W(xué)家無法做出道德判斷。所以，基于人類的自信，人文主義提供了一個新的獲取倫理知識的公式：

　　知識=體驗x敏感性

　　體驗是一種主觀現(xiàn)象，主要有三個部分：知覺、情緒及想法。

　　敏感性包括兩方面：

　　第一、注意到自己的直覺、情緒和想法;

　　第二、允許這些知覺、情緒和想法影響自己。

　　要保持對新體驗的開放態(tài)度。體驗和敏感性會形成一個彼此加強(qiáng)的無限循環(huán)。敏感性不能靠讀書和演講來培養(yǎng)，必須在實踐中慢慢成熟。喝茶、品酒、審美概莫如此。人文主義認(rèn)為生命就是一種內(nèi)在的漸進(jìn)變化的過程，靠著經(jīng)驗，讓人從無知走向啟蒙。

　　人類存在的目的就是在生命最廣泛的體驗中，提煉出智慧。

　　生命只有一座要征服的高峰——設(shè)法體驗一切身為人的感覺。

　　You Only Live Once.

　　科學(xué)和人文主義，就像太極的陰陽一樣默契配合，給我們提供前進(jìn)的力量以及生命的意義和道德判斷。人類史上，從沒有任何文化如此重視人類的感受、欲望和體驗。

　　雖然自由人文主義贏得了今天，但等到基因工程和人工智能徹底發(fā)揮潛力，自由主義、民主和自由市場的概念，可能又會想燧石刀和錄音帶一樣過時。以后，科技人文主義可能從根本上會顛覆自由人文主義。因為我們發(fā)現(xiàn)，客戶和選民從來就沒有自由選擇，我們可以用科技來計算、設(shè)計或者擊敗他們的個人感覺。在不久的未來，人類的主觀體驗也成了可以設(shè)計的產(chǎn)品，就像能在超市買到的任何商品。

　　歷史在前進(jìn)，雖然現(xiàn)在還有數(shù)十億人口虔誠信奉著伊斯蘭教、基督教、印度教或者佛教，但對歷史來說，數(shù)量的意義不大，塑造歷史的，往往是一小撮向前看的創(chuàng)新者，而不是向后看的大眾。

　　從狩獵社會到農(nóng)耕社會、從農(nóng)耕社會到工業(yè)社會、從工業(yè)社會到信息時代、每一次人類社會和科技的變革，都是一小部分人推動和率先獲益的。借助生物科技和人工智能(計算機(jī)算法)為代表的科技力量，人類長生不死、永遠(yuǎn)幸福并化身為神的愿望將很有可能實現(xiàn)。

　　21世紀(jì)初的這場科技革命，很有可能是人類升級的最后一班車，錯過的人，可能永遠(yuǎn)都不會再有上車的機(jī)會。

　　————————————————————

　　所謂的自由意志

　　21世紀(jì)的科學(xué)正在破壞自由主義秩序的基礎(chǔ)�？茖W(xué)越發(fā)達(dá)，我們越是發(fā)現(xiàn)，自由人文主義的基礎(chǔ)，也是建立在一個虛構(gòu)的概念之上的，人類的“自由意志”，其實并不是真正的“自由”也找不到所謂的“意志”。

　　如果“自由意志”指的就是“依據(jù)自己的欲望行事”，那么人類確實有自由意志。如此，黑猩猩、狗和鸚鵡也有自由意志。我們和所有的動物都有欲望，大部分時候，我們也都是依據(jù)自己的欲望在行事�？�“欲望”是誰決定的?我們的“欲望”在微觀層面，本身就是細(xì)胞和神經(jīng)元的電化學(xué)反應(yīng)，一個想法和一個行動都是一系列微小事件的連鎖反應(yīng)，而每一個微小的事件都是前一個事件決定的。而追溯到源頭的觸發(fā)事件，可能是來自生物預(yù)設(shè)(對外界信號的刺激反應(yīng)，看到骨頭流口水)、隨機(jī)或者兩者的結(jié)合。生物預(yù)設(shè)和隨機(jī)都不代表“自由意志”，我們不能控制下一秒有什么樣的想法，也不能預(yù)測今晚做什么樣的夢，而這些看似微不足道的想法和夢境，卻實實在在會影響我們的決策和選擇。

　　我們對“自由”的理解，背后有一套錯誤的邏輯。人的欲望不是一種選擇，我們只能是感受到欲望，再據(jù)以行事。看起來，我們所謂的“意志”，大部分時候是為了滿足“欲望”而存在的。我們能否通過意志消除自己的欲望，能否通過某種訓(xùn)練讓自己腦海中的所有想法都消失。又或者，一個自控力強(qiáng)的人可以抵御美食美女的誘惑，但能否抵其他的情感刺激?比如看到殺人的場面不恐懼，看到感人的畫面不落淚?這些情緒都會影響我們的決策，影響我們的投票。商業(yè)廣告和總統(tǒng)大選都在用盡一切辦法“引導(dǎo)、誘導(dǎo)、誤導(dǎo)”我們做出看起來“自由”的選擇。

　　我們的選擇，從來就不是真正的自由意志主導(dǎo)的，所以我們經(jīng)常會后悔昨日的決定。買錯商品、嫁錯人、選錯總統(tǒng)、走錯路這都是我們經(jīng)常干的事，不對嗎?被銷售大師的口才折服和江洋大盜詐騙，又或被揮舞的切糕刀恐嚇，花費(fèi)一樣的成本，得到同樣的次品，感受卻有著很大的同，這里只有“心甘情愿”和“上當(dāng)受騙”的區(qū)別，第一種感覺好點，但也并不是真正的自由意志，因為你回家發(fā)現(xiàn)這個商品你還是不需要，不滿意，只是當(dāng)時鬼迷心竅套了腰包。

　　現(xiàn)在我們?yōu)榱艘龑?dǎo)別人做出有利于我方的選擇，還需要通過公關(guān)和營銷等多種手段，利用人性的弱點，擊中要害，讓他們“自愿下套”。未來，我們通過新科技，根本都不需要這么復(fù)雜的社會市場行為就可以直接操控他人的欲望，通過操控欲望引導(dǎo)決策。美國軍方已經(jīng)有了類似的可以植入人腦芯片和“頭盔”，只要帶上頭盔，就能進(jìn)入到一個沒有雜念的狀態(tài)，把全部注意力放在重要的事情上，發(fā)揮出最大的潛力，比如槍擊訓(xùn)練。當(dāng)然，控制抑郁癥的良藥百憂解其實也是直接作用于大腦，讓那些惱人的情緒直接關(guān)閉。我們既然可以通過吃藥關(guān)閉一些大腦區(qū)域，就一定能通過吃藥打開一些區(qū)域，不同的區(qū)域帶來不同的思想體驗，導(dǎo)致不同的決策。

　　通過腦科學(xué)實驗，我們更加發(fā)現(xiàn)，左腦和右腦本來就是兩套不同的決策體系，因為它們中間通過一束神經(jīng)纖維“胼胝體”連接了起來，所以最后作出的決策看起來是一致的，內(nèi)心的煎熬只有我們自己知道，到底投票給希拉里還是特朗普，很多人也左右搖擺過。

　　在一些腦裂病人的試驗中，科學(xué)家剪開了胼胝體，左腦右腦完全獨立決策的時候，我們發(fā)現(xiàn)它們經(jīng)常做出矛盾的行為，左手開窗右手關(guān)窗。當(dāng)我們讓右腦看到雪景(只給左眼看)，左腦看到雞爪(只給右眼看)的時候，左腦控制的嘴巴的回答是看到了雞爪，右腦控制的左手的回答(通過拼字)看到了雪景。然后讓他們繼續(xù)選擇跟前面的圖相關(guān)的圖片的時候，左手選擇鐵鏟因為右腦(左眼)之前看到的是雪景，右手選擇雞因為左腦(右眼)之前看到雞爪;這個時候問左腦(問題寫在板子上只給右眼看)為什么左手拿著鐵鏟，從來沒見過雪景，只見到雞爪和雞的左腦控制在嘴巴回答說：因為要給雞舍清理垃圾。

　　原來，左腦還負(fù)責(zé)“合理解釋”的功能，不管主人做出了什么樣的決策和行為，左腦都會負(fù)責(zé)收拾攤子，給出看似邏輯合理的解釋，為我們的生活找出意義。就像中情局在巴基斯坦執(zhí)行無人機(jī)空襲任務(wù)犯了事，美國國務(wù)院并不知道，但是面對媒體的質(zhì)問，總是要編出一套堂而皇之的說法，回應(yīng)大眾。

　　所以，我們今天所理解的“生命的意義”，只不過是左腦的強(qiáng)詞奪理。

　　人體內(nèi)至少有兩種自我：體驗自我和敘事自我。體驗自我是我們每時每刻的意識，但是卻沒有記憶能力，所以我們經(jīng)常“好了傷疤忘了疼”，經(jīng)歷了劇痛分娩也擋不住女人會繼續(xù)生二胎三胎四胎。敘事自我就像一個旁觀者，負(fù)責(zé)提煉總結(jié)，通常都是用體驗自我的峰值和終點兩者的平均值得出一次體驗的感受，這叫峰終定律。我們改變不了很多事件的體驗峰值，但是我們可以調(diào)換順序甚至僅僅是在結(jié)尾的時候增加一個更好的體驗環(huán)節(jié)，就能讓整個體驗感提升。所以醫(yī)生懂得，一次相同的體檢，僅僅是因為最后一項安排的不太痛苦而讓整個體檢的感受好受了很多。敘事自我還懂得，給體驗賦予不同的意義，能讓體驗感受變得天壤之別。

　　在齋戒日禁食和因為貧窮挨餓、捐贈和被騙、參加馬拉松和被罰跑步這些都有著巨大的體驗差，而本質(zhì)上的身體經(jīng)歷是相同的。核心的區(qū)別是我們?nèi)绾卫斫膺@段經(jīng)歷的“意義”。

　　意義，這個詞本身就是一個人類虛構(gòu)的概念，在宇宙中原本并沒有一個實實在在的東西代表“意義”。我們發(fā)現(xiàn)人類社會一個荒謬的事實是，我們對一個想象的故事付出的犧牲越多，就越可能堅持，只是為了讓我們過去的犧牲和痛苦顯得更有意義。在政治里甚至有個次描述這種現(xiàn)象，叫做：我們的孩子不能白白犧牲綜合征(Our boys didn’t Die in Vain)。因為這個綜合征，無數(shù)的孩子們被繼續(xù)送往戰(zhàn)場送死，即便是活著回來的無數(shù)的傷殘軍人也不愿意相信他們曾經(jīng)為之付出慘痛代價的戰(zhàn)爭，只不過是因為一些政客的一時沖動;第一次沖動的失敗，并不能被及時叫停，那樣前面的犧牲就沒有意義了。多么愚蠢的人類。但我們?yōu)橹畩^斗的國家、神、民族和金錢，本身都是虛構(gòu)的概念。當(dāng)下最令人振奮的行動意義，在后人看來可能又顯得十分的荒誕無稽。

　　沒事，因為我們的左腦會負(fù)責(zé)編制一個天衣無縫的理由來解釋我們過去的愚蠢并接受我們遭受的犧牲，為了這個編造的理由更加合理，我們可能需要繼續(xù)投入，繼續(xù)行動，哪怕付出我們的全部財產(chǎn)甚至生命。戰(zhàn)爭的本性和股市的任性，就是這么回事。

　　原來，自由意志和活著的意義，都是虛幻。

　　————————————————————

　　人類 vs 人工智能(機(jī)器)

　　人類在政治和經(jīng)濟(jì)上的用途會被機(jī)器人大量替代，人類的世俗價值正在急速衰減。社會系統(tǒng)認(rèn)為人類集體有其價值，但大部分人類個體則再無價值，變成無用階級(沒關(guān)系，人類DNA中也有海量的“垃圾”信息，既然自然選擇留下了這些DNA片段，那說明還是有一些我們看不到的意義)，只有極少數(shù)人類精英階層會有獨特價值。

　　只需要短短幾秒，精密策劃的網(wǎng)絡(luò)攻擊就可以讓全美網(wǎng)絡(luò)斷電、破壞航空管制系統(tǒng)、造成核電廠和化學(xué)工廠大量事故、干擾警察、軍隊和情報通信網(wǎng)絡(luò)，甚至抹除所有金融記錄，讓數(shù)萬億美元消失無蹤，沒有人知道究竟誰擁有什么。

　　對于軍隊和企業(yè)來說，智能是必要的，但意識可有可無。所以前線的軍事戰(zhàn)斗只需搭載了倫理算法的無人機(jī)和機(jī)器人，他們應(yīng)該不會獲得意識或者情緒。人類科技正在飛速發(fā)展，達(dá)到超級智能指日可待。除了傳統(tǒng)的生產(chǎn)制造和戰(zhàn)爭等依靠人類“身體能力”的工作之外，股票、金融、醫(yī)生、律師、音樂作曲等絕大部分依靠人類“認(rèn)知能力”的工作都也會被替代，EMI模仿巴赫譜曲的音樂已經(jīng)在盲測中表現(xiàn)超過了巴赫。

　　生物算法和計算機(jī)算法在本質(zhì)上沒有區(qū)別。但受到有機(jī)體的限制，人類無法24小時連續(xù)保持理智和清醒，機(jī)器卻可以，而且這些超級智能不需要意識和情緒就能勝任任何以“模式識別和算法”為基礎(chǔ)的工作。

　　有人認(rèn)為情緒和意識是人類的優(yōu)勢，是創(chuàng)造力的源泉，但需要這種創(chuàng)造力的工作會越來越少，只有1%，對于大部分經(jīng)濟(jì)和政治事務(wù)來講，情緒是多余的，甚至是可怕的。人類智能經(jīng)常會受到情緒的影響而表現(xiàn)失�；蛘叻闯�。

　　到2033年，可能只有考古學(xué)家這樣的差事不會被機(jī)器人及算法替代，主要不是因為機(jī)器做不到，而是沒有人愿意為這個投入產(chǎn)出性價比極地的工種寫算法�？杀�的人類，想要不被淘汰成為無用階級，只能不斷學(xué)習(xí)，打造全新的自己。不過，絕大部分人都做不到。

　　機(jī)器智能超越人類智能后，會不會消滅人類?有可能，雖然機(jī)器算法的設(shè)計“目的”并不是消滅人類，但是在完成其設(shè)定目標(biāo)的過程中，如果人類阻止它(比如拔掉電源)，它就會調(diào)動所有智能消滅人類，只為了實現(xiàn)自人類給他設(shè)置的那個初始目標(biāo)，而這個目標(biāo)就是機(jī)器人活著的意義(如果它有意識的話)。

　　當(dāng)萬物互聯(lián)，當(dāng)所有的數(shù)據(jù)都上網(wǎng)，機(jī)器算法決策就會超過人類自身，人類的大部分決策都會由機(jī)器代替完成(包括一些不知不覺潛移默化被引導(dǎo)的，表面上由人類自己拍板的決策)。而黑客的攻擊也從電腦挾制進(jìn)化到了控制人體內(nèi)的納米機(jī)器人。

　　細(xì)思極恐，一覺醒來，你的身體已經(jīng)被某個黑客接管了，更可悲的是，你卻對此一無所知，你還是按照自己的欲望行事，只不過你的欲望強(qiáng)烈以及什么時候激活，是由遠(yuǎn)在世界另一個角落的某個12歲小黑客操控的。

　　未來會有極少部分精英群體用生物科技和人工智能武裝自己，延長壽命，永葆青春。過去社會醫(yī)療保障人人平等，但平等的是基本的健康需求。而明天，精英們花大價錢購買的是“升級”，記憶力增強(qiáng)、智力提升、性能力加強(qiáng)等。這本來就是不平等的，不會在醫(yī)保的范疇。過去的平民醫(yī)療保障還有一個前提是軍事和經(jīng)濟(jì)需要大量的平民貢獻(xiàn)獻(xiàn)身，而明天他們的工作都被沒有意識的超級智能機(jī)器人替代了，精英們只需要升級自己就足夠了。如果巴西想要超過日本，不再是靠幾百萬健康的工人，而是需要升級少數(shù)幾個精英，把他們變成超人類。

　　當(dāng)身體、情感和智力都遠(yuǎn)超常人的超人類誕生，自由主義的信仰又如何能生存，如果這個超人類小群體的體驗和我們常人智人完全不同，那么該如何選擇。認(rèn)知鴻溝是天塹，難以跨越。就像螞蟻永遠(yuǎn)無法理解人類一樣，超人看待一般人，可能就像我們看螞蟻，或者19世紀(jì)的歐洲人看待當(dāng)時的非洲奴隸一樣。

　　————————————————————

　　意識的海洋

　　科技宗教帶來了“科技人文主義”和“數(shù)據(jù)主義”兩個方向。

　　科技人文主義認(rèn)為今天的智人馬上就要成為歷史，我們要用科技創(chuàng)造出“神人”超人類，一種更優(yōu)秀的人類形式。神人保留一些基本人類特征，但同時擁有升級后的身體和心理能力，并且能夠?qū)�抗�?fù)雜的無意識智能(算法)。因為無意識的智能正在飛速發(fā)展，所以人類如果不想集體淪陷，只能積極升級“心智”。

　　七萬年前的第一次認(rèn)知革命，人類DNA有了一點點小的變化，大腦神經(jīng)稍微調(diào)整了一下結(jié)構(gòu)，我們就主導(dǎo)了地球。第二次認(rèn)知革命可能會讓神人接觸到目前還難以想象的新領(lǐng)域，讓神人成為太陽系的主人。

　　上一次升級，我們?nèi)趸�了嗅覺、視覺、聽覺甚至注意力等能力，提升了智力;這次認(rèn)知升級的過程，也有可能會繼續(xù)弱化很多能力，比如專注力“頭盔”用多了，一旦摘下頭盔，我們就會失去容忍各種疑惑和矛盾的能力。如果社會系統(tǒng)希望我們下定決心，而不是心存懷疑，那就會推動我們往這個方向前行。改造心智的過程，升級了一部分，降級了另一部分。農(nóng)民都知道，羊群里最聰明的那個常常會惹出大麻煩，所以農(nóng)業(yè)革命的一點就是降低動物的心理能力。所以科技人文主義推動的第二次認(rèn)知革命，可能對人類造成類似的效果，會讓社會大機(jī)器里面的“人類小齒輪”溝通和處理數(shù)據(jù)的效率更高，但幾乎不會去注意其他事情，不會做夢，也不會懷疑。過去幾百萬年，人類是升級版的黑猩猩，到了未來，人類可能變成放大版的“螞蟻”，個體價值不再重要，集體社會活動才更有價值。

　　聽起來很可怕，我寧愿保持現(xiàn)狀而不去升級成什么神人，成為未來社會系統(tǒng)中的一個超級螺絲釘�？赡且灿刹坏梦�，我也可能等不到那天，社會升級是循序漸進(jìn)的，我們感覺不到這種身體機(jī)能在進(jìn)化中退化;而且，農(nóng)業(yè)社會和狩獵社會相比，我們的社會系統(tǒng)確實更強(qiáng)大了，個人能力卻真實弱化了。未來也一樣，強(qiáng)化整體，弱化個體。

　　黑猩猩也說：“我才不要進(jìn)化成為人類呢，手無爬樹之力。在我生活的叢林里，人類個體毫無生存能力，弱爆了。還是做猩猩好，想吃就吃，想睡就睡，想搞母猩猩就搞，那里那么多限制，什么一夫一妻制，狗屁!”

　　不管什么物種，它們的意識總是會讓它們安于當(dāng)下的一切，恐懼改變，哪怕是升級也是伴隨著一部分生理機(jī)能的退化，“損失厭惡心理”讓所有的物種都覺得：現(xiàn)在最好，此刻最好。

　　進(jìn)化本來就不是變得更強(qiáng)大更宏偉，而是變得更適應(yīng)。

　　數(shù)據(jù)主義認(rèn)為，宇宙由數(shù)據(jù)流組成，任何現(xiàn)象或?qū)嶓w的價值就在于對數(shù)據(jù)處理的貢獻(xiàn)。音樂、股市、文學(xué)、經(jīng)濟(jì)、政治，蟻群、蜂群、菌群背后都是數(shù)據(jù)流的不同模式，都可以用算法來分析決策。以前我們要把數(shù)據(jù)轉(zhuǎn)化為信息，信息轉(zhuǎn)化為知識，知識轉(zhuǎn)化為智能。而今天，數(shù)據(jù)量太大了，人類已經(jīng)無法直接處理海量數(shù)據(jù)并形成信息，于是計算機(jī)算法接管了數(shù)據(jù)處理的工作，而之后得出的的信息、知識，也就隨之成了計算機(jī)算法的收獲，成了計算機(jī)的智能。

　　共產(chǎn)主義本質(zhì)上是一種市場信息集中處理的政治算法系統(tǒng)，統(tǒng)一資源配置、統(tǒng)一商品定價、統(tǒng)一規(guī)劃社會經(jīng)濟(jì)活動的一切;自由市場資本主義是分布式信息處理的算法系統(tǒng)。資本主義能夠贏得冷戰(zhàn)，是因為分布式數(shù)據(jù)處理的效果就是比集中式處理更符合當(dāng)今這個時代。

　　政治科學(xué)家開始把人類政治結(jié)構(gòu)理解成數(shù)據(jù)處理系統(tǒng)，民主和專制在本質(zhì)上是兩套關(guān)于收集和分析數(shù)據(jù)(信息)的對立機(jī)制。而這種政治算法系統(tǒng)正在失去對數(shù)據(jù)的控制，科技發(fā)展太快，政治系統(tǒng)升級太慢，權(quán)力出現(xiàn)了真空。即便是互聯(lián)網(wǎng)星期之后的若干年，各國政府開始意識到這個科技成果對社會和政治格局的影響力已經(jīng)大到失控的地步，他們開始通過各項政策法規(guī)監(jiān)控數(shù)據(jù)，管理數(shù)據(jù)，幾乎拿到了所有的數(shù)據(jù)，但這依然于事無補(bǔ)。就像打牌的時候明明知道對手有什么牌，卻不知道怎么搞的，總是一輸再輸。本質(zhì)上，這是現(xiàn)有政治體系數(shù)據(jù)處理能力的欠缺。

　　未來還有很多新的科技會飛速發(fā)展，挑戰(zhàn)政治體系，尤其是人工智能和生物科技，但現(xiàn)在的政治體系對此毫無警覺。選民和政要對生物學(xué)、控制論、信息論的認(rèn)知不足成了巨大的瓶頸。民主機(jī)制已經(jīng)不能給選民帶來權(quán)力，權(quán)力正在轉(zhuǎn)移，但不知道去哪兒了。英國選民想象中，是歐盟奪走了權(quán)力，所以他們脫歐;美國選民認(rèn)為既得利益者壟斷了權(quán)力，所以他們支持反體制的候選人�？墒聦嵣�，即便英國脫歐，特朗普當(dāng)選，權(quán)力也不會回到普通選民的身上。

　　科技有了神一般的能力，而政治卻依然短視而無知，這樣的搭配問題很大。納粹和原子彈爆炸的歷史告訴我們，權(quán)力不能交給狂妄自大卻無知的政治人物，那是一種災(zāi)難。而權(quán)力也不能完全交給市場，因為自由市場算法也不是萬能的，有時候反而是盲目的，在面對全球變暖的威脅或者人工智能的潛在危險時，市場可能毫無作為。

　　當(dāng)萬物互聯(lián)，所有數(shù)據(jù)都開放上網(wǎng)的時候，算法不僅能知道每個人的投票意向，甚至還能從根本的神經(jīng)原因分析為何某人投民主黨，另一個人投共和黨時，又何必舉行什么民主投票呢?過去的人文主義呼吁：“聆聽自己內(nèi)心的聲音”;而現(xiàn)在的數(shù)據(jù)主義則呼吁：“聆聽算法的意見!”

　　隨著機(jī)器學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò)星期，有越來越多算法會獨立演進(jìn)、自我改進(jìn)、從自己的錯誤中學(xué)習(xí)。最早的種子算法是人類設(shè)計開發(fā)的，但隨著算法逐漸發(fā)展，就會走出自己的路，前往人類未曾踏足的領(lǐng)地，而人類也無力追尋。

　　但是，沒有人真正知道2050年的就業(yè)市場、家庭或者生態(tài)將會是什么樣子，又或是哪些宗教、經(jīng)濟(jì)和政治制度主導(dǎo)世界。這個世界的變化速度比以往更快，而我們又已被海量數(shù)據(jù)、想法、承諾和威脅所淹沒。人類正在逐漸將手中的權(quán)利交給自由市場、群眾智能和外部算法，部分原因就在于人類無力處理大量數(shù)據(jù)。

　　我們無法真正預(yù)測未來，因為科技并不會帶來確定的結(jié)果。

　　至少我們有一點可以明確，未來，本質(zhì)上就是不確定的。

　　不過，細(xì)思極恐!

　　————————————————————

　　文中提到的幾個有趣的小實驗和小故事：

　　倭猩猩的社交

　　倭猩猩常常用性行為來紓解壓力，建立社會聯(lián)結(jié)。所以并不意外，他們之間同性行為也是稀松平常。如果倆群互相不認(rèn)識的倭猩猩噴到一起，一開始會表現(xiàn)出恐懼和敵意，但是很快其中一群的雌性倭猩猩就會走出來，邀請陌生的倭猩猩別打了，來嘿咻吧。通常另一方都會接受這項邀請，不到幾分鐘，原本可能的戰(zhàn)場就成了歡場，倭猩猩用各種姿勢性交，甚至還會倒吊在樹上。

　　智人同樣很了解這些合作技巧，但是不管打斗還是交配，只靠個人認(rèn)知仍無法構(gòu)成大規(guī)模合作的基礎(chǔ)。想解決希臘債務(wù)危機(jī)，辦法絕不可能是邀請希臘政治家和德國銀行家來打一架或者是云雨一番。

　　最后通牒博弈

　　兩人分一筆總量固定的錢，比如100元。一人提出方案，另外一人表決。如果表決的人同意，那么就按提出的方案來分;如果不同意的話，兩人將一無所得。

　　A在提方案時要猜測B的反應(yīng)，此時理性的A所提出的方案應(yīng)該是留給B一點點比如1元，而自己得99元。B接收了能得到一分錢，如果拒絕什么都得不到。這是根據(jù)“理性人”的假定的結(jié)果，而實際則不是這個結(jié)果。

　　真實的案例反映出：提方案者傾向于50:50的方案;而接受者傾向于：少于30%拒絕，多于30%接收。拒絕的理由是“不公平”，人們寧愿不拿這1元，也不想看起來像個傻瓜。類似的實驗在卷尾猴身上也做過，結(jié)果一樣，猴子也有“不公平”意識，會嫉妒，會因為不公平而發(fā)怒，放棄相對較小的既得利益。

　　智人的行為方式并不是冷冰冰的數(shù)學(xué)邏輯，而是有溫度的社交邏輯，我們或多或少受情感的控制。這背后的進(jìn)化邏輯也很簡單。雖然說我接受了1元，總比什么都沒有好，但是長期來講我就永遠(yuǎn)拿1元了。如果我拒絕了，下次你就會給我更多了，否則你也一無所獲。最終會趨向于一種分配平衡界限，比如7：3。

　　老鼠的希望

　　制藥公司經(jīng)常做的一個實驗，需要取100只大鼠，分別放進(jìn)裝滿水的玻璃管內(nèi)。這些大鼠會一次又一次努力想爬出玻璃管，但是都無法成功。經(jīng)過15分鐘之后，大多數(shù)會放棄努力，之時漂在罐子里，對周圍的情況漠然置之。

　　接著，另外取100只大鼠，同樣的實驗，區(qū)別是在14分鐘的時候，當(dāng)他們快要絕望之時，把它們撈出來，擦干，給食物，讓它們休息一下，然后再重新放回去罐子里。第二次，大鼠們都可以支撐20分鐘才放棄。為什么多了6分鐘?

　　因為過去曾有過成功的記憶，觸動大腦釋放了某些化學(xué)物質(zhì)，讓大鼠感覺又有了希望，延遲了絕望的時間。

　　只要我們能夠找到這種物質(zhì)，應(yīng)該就能找到人類的抗抑郁藥物。

來源：網(wǎng)絡(luò)整理 免責(zé)聲明：本文僅限學(xué)習(xí)分享，如產(chǎn)生版權(quán)問題，請聯(lián)系我們及時刪除。

《《未來簡史》完整版讀書筆記》由互聯(lián)網(wǎng)用戶整理提供,轉(zhuǎn)載分享請保留原作者信息,謝謝!
鏈接地址：http://www.weilaioem.com/gongwen/784246.html

• 上一篇：《無聲告白》讀書筆記
• 下一篇：《別讓猴子跳回背上》讀書筆記