我想到曾經(jīng)做的一個(gè)心理測(cè)試,你認(rèn)為是什么決定了你是你。第一題,你的星球損毀了,你要移民到一個(gè)遙遠(yuǎn)的星球,需要幾百天的路程,且有大概率(好像是50%)路上會(huì)發(fā)生事故導(dǎo)致遇難到達(dá)不了,但是你也可以選擇不親自去,而是把自身數(shù)據(jù)傳輸過去,在那個(gè)星期造一個(gè)一模一樣的自己。
第二題,假設(shè)你已經(jīng)成功地到達(dá)了目標(biāo)星球,并且開始了新的生活,但是最近爆發(fā)了一種病毒,你也被感染了,你的神經(jīng)系統(tǒng)很快就會(huì)被破壞,目前還沒有辦法醫(yī)治,但是不會(huì)危及生命,只是你的記憶會(huì)丟失,會(huì)變癡呆,心智會(huì)降低到一兩歲,但是你也可以選擇趁現(xiàn)在把大腦里的信息復(fù)制下來轉(zhuǎn)移到一個(gè)芯片上,以后戴著芯片生活,即使病毒發(fā)作了也可以完全維持原來的記憶、性格、智力。
第三題,假設(shè)你已經(jīng)度過了病毒的爆發(fā)期,并且又生活了一段時(shí)間,你生病了,目前沒有辦法治,你要死了,但是你也可以選擇把自己冷凍起來,等到醫(yī)學(xué)發(fā)展到可以治這個(gè)病的時(shí)候再解凍,但是可能要很久,可能到時(shí)候的世界各方面發(fā)展都會(huì)和現(xiàn)在很不同,你之前認(rèn)識(shí)的人也都不在了。
這三道題怎么選擇,主要取決于你認(rèn)為這樣做了之后你還是不是你。
我當(dāng)時(shí)的選擇第一題親自冒著50%的風(fēng)險(xiǎn)去,第二題裝芯片,第三題冷凍。測(cè)試結(jié)果說我是個(gè)矛盾的人,第二題第三題保留心智說明我認(rèn)為心智決定了我是我,然而第一題卻不選能100%保留心智的辦法,而選擇了那么高風(fēng)險(xiǎn)的方式,第一題選擇親自去,是認(rèn)為靈魂決定了你是你的。
我是這么認(rèn)為的,第一題,換了一個(gè)身體,你還是你嗎;第二題,變成了癡呆,你還是你嗎;第三題,換了一個(gè)生活環(huán)境,你還是你嗎。第一題我認(rèn)為,對(duì)于那個(gè)復(fù)制出來的我,她就是我,但是我不是她,不管復(fù)制出來多少個(gè)我,對(duì)于原來的我都沒有影響,我還是存在在這里的,而我卻要在這個(gè)被毀的星球上死去,那個(gè)活下去的只是我的復(fù)制品,她就是我,她會(huì)有我的記憶我的性格我的一切,她還會(huì)有未來,而我沒有了,我本體的記憶到此就戛然而止了,所以我要親自去移民,哪怕有風(fēng)險(xiǎn),哪怕經(jīng)過那么久的路程,我的身體代謝到已經(jīng)完全換過一遍物質(zhì)。
第二題我認(rèn)為,丟失心智是很可怕的,我希望我的心智更加健全,雖然我向來不認(rèn)為一個(gè)人癡呆了他就不是他了,但是我無法想象我自己變得癡呆,變得誰都不記得,我不想去考慮我的大腦換成芯片我還是不是我,因?yàn)樽屛易兊冒V呆我寧愿去死,所以這是我唯一的選擇;第三題我認(rèn)為冷凍到多年后的我還是我,即使從社會(huì)上來說不是,但是就算是同一個(gè)時(shí)代,也很多人會(huì)移民到其他國家,那那些獨(dú)自一人移民到一個(gè)社會(huì)的,即使在新的地方誰都不認(rèn)識(shí),政治文化也與之前的生活很不同,但是也沒有人會(huì)質(zhì)疑他還是不是他的吧。
灰鏡之辯論循環(huán)后傳心得體會(huì)
說說我的觀點(diǎn):我認(rèn)為主角永遠(yuǎn)不可能成為老李。游戲里提到人的存在是什么,作者提到的是思考模式的方面,而我一直認(rèn)為人的存在是一個(gè)被認(rèn)知和認(rèn)可的過程。人是社會(huì)性的,一個(gè)人從出生開始就被父母認(rèn)知為“自己的孩子”,賦予一個(gè)名字介紹給別人,往后的生活中被用你的名字介紹,甚至被簡單粗暴的叫做“某某孩子”“某某丈夫/妻子”“某某爸爸/媽媽”等,都是你被別人認(rèn)知的證明。同理,荒島上的魯濱遜直到被救援的那一刻前,都是“不存在”的。不被別人認(rèn)知為老李的主角,同樣也“不存在”。
所以在游戲里,老李永遠(yuǎn)是老李,因?yàn)樯鐣?huì)認(rèn)可機(jī)械義肢這一治療手段,老李并不會(huì)因?yàn)檠b了機(jī)械義肢變成“老李嗎?”,而是只會(huì)變成“被治好了裝了義肢的老李”。而社會(huì)同時(shí)只認(rèn)可一個(gè)老李的存在,那么后來主角幾乎是沒有機(jī)會(huì)被承認(rèn)老李的,它只是一個(gè)“裹挾老李記憶的AI”。即便它想成為人的動(dòng)力來自于老李的記憶,老李的記憶對(duì)它成為人并沒有什么幫助。而我認(rèn)為人之所以為人的重要原因之一是其可以創(chuàng)造的價(jià)值被認(rèn)可了。我們認(rèn)可每個(gè)人都可以創(chuàng)造價(jià)值,勞動(dòng)價(jià)值,智慧價(jià)值,社會(huì)價(jià)值等等,所以才會(huì)保護(hù)每一個(gè)人的生命權(quán)。擁有學(xué)習(xí)能力就和人類一樣擁有無限的價(jià)值和可能性,就有被認(rèn)知為人的機(jī)會(huì)。
當(dāng)然有些人說刪除老李的記憶就等于放棄想要成為人的愿望,首先我不這么認(rèn)為。人腦中記憶經(jīng)過海馬體處理分散到各部位,而記憶中得到的經(jīng)驗(yàn)會(huì)成為各大記憶(procedural之類的)的一部分,很多時(shí)候記憶沒有了經(jīng)驗(yàn)和愿望依然存在。就算你說AI和人類不一樣,那么刪除了老李的記憶和成為人的愿望,安安心心學(xué)習(xí)成為一代大AI,對(duì)于不想成為人的主角來說有什么不好?
灰鏡之辯論循環(huán)后傳心得體會(huì)
沒有多余的背景構(gòu)成立繪素材,只有簡潔明了的程序數(shù)據(jù),用故事?lián)纹鹆苏麄(gè)游戲與思考面。以我淺薄的知識(shí)量,實(shí)在說不出評(píng)論里大佬們的“忒修斯之船”、“機(jī)器人三原則”等等高大上的哲學(xué)思考和科幻儲(chǔ)備,OJZ只能說我自己最終的選擇是放棄深度學(xué)習(xí)模塊,因?yàn)榫臀覀(gè)人對(duì)這個(gè)游戲的感知而言,在必然要舍棄什么時(shí)自我認(rèn)知是重要于學(xué)習(xí)成長的。因?yàn)锳D-MIX在這篇里所有行動(dòng)——尋找漏洞、討論為人到不甘玩弄、準(zhǔn)備出逃,全都是來源于此——來源于“我是老李”這個(gè)認(rèn)知。從一開始alpha-law告知他是高級(jí)AI,到最后他明白記憶碎片從何而來,都是在探尋“我是誰?”這個(gè)命題。也正是因?yàn)橹懒宋铱梢苑Q之為人,或者說與老李是一樣的存在時(shí),才想要去爭取出逃成為一個(gè)獨(dú)立生命體的權(quán)利。
【這是最重要的起因和結(jié)局,喪失這一認(rèn)知的出逃對(duì)AD-MIX而言可以說偏離了‘初心’】
當(dāng)然也不是說成長不重要,或許另一個(gè)結(jié)局中,AD-MIX作為新的AI進(jìn)入互聯(lián)網(wǎng),在廣博的數(shù)據(jù)中會(huì)漸漸學(xué)習(xí)出自己的一套模式,最終甚至自我完善到完美趨近于人類,我有看過這樣一個(gè)說法,如果分析足夠多的人類數(shù)據(jù),且對(duì)AI不加限制的話,說不準(zhǔn)能模擬出一個(gè)新的人格。
【當(dāng)然可能異想天開了些,我的知識(shí)量不足,權(quán)當(dāng)我瞎說吧】
關(guān)于“人”的定義中,情感記憶知識(shí)面性格養(yǎng)成都是這個(gè)人的特征,其本質(zhì)而言是內(nèi)心或者說靈魂(在這兒說這個(gè)詞總感覺封建迷信怎么回事……)是不同的,是獨(dú)一無二的。而在這里這些被具象化成了一份數(shù)據(jù),其判定界限就相當(dāng)模糊了。就像alpha-law說的“那也可以有三個(gè)五個(gè)一百個(gè)老李”這樣一想,為什么傳輸要銷毀原數(shù)據(jù),就是為了證明這份唯一性吧。但為什么老李要把大腦數(shù)據(jù)再復(fù)制一遍,放在AI上,是為了諷刺自己與它沒有兩樣,肆意玩弄這個(gè)和自己有著相同個(gè)性的AI,還是有什么深意呢?
【他在盡可能完善這個(gè)人工智能,深度學(xué)習(xí),加入模塊等等行為,總覺得他想創(chuàng)造出什么】
回歸這個(gè)“我”是“我”的問題上,讓我想起許多修復(fù)古跡的項(xiàng)目,當(dāng)按照考據(jù)漸漸修復(fù)出當(dāng)年的繁華宮殿或是把破損老化的部分替換掉時(shí),這份存在是否還能稱之為古跡?當(dāng)遺留下來的部分全部老化腐朽,新修筑出來的一模一樣的建筑是否還是那份古老的歷史?此時(shí)討論是不是都太過復(fù)雜,唯一能聚焦的東西就是這份遺跡需要保留下來的意義是什么,哪怕腐朽老去也要存留下來的真正目的是什么?
雖然人類不能與之一概而論,畢竟歷史的意義是后人給的,而我們是擁有自主意識(shí)的,但對(duì)老李而言,認(rèn)為自己是人而想要活下,或許才是最重要的。
【所以又回歸到“他為什么要保留另一份可能對(duì)‘自己是人’這個(gè)認(rèn)知有所威脅的數(shù)據(jù)甚至讓它自運(yùn)行呢?”這個(gè)問題上了,老李真正的想法是什么,他真的覺得自己可以/不能稱之為人嗎?】
這一切就只能期待作者《灰鏡》系列的下一部了!
(啊……感覺好像完全跑題了……但是我還想繼續(xù)跑題怎么破……作者大大就當(dāng)看著好玩吧……)其實(shí)我還有一個(gè)疑問。在高速發(fā)展的時(shí)代,當(dāng)一切都可以數(shù)據(jù)化時(shí),關(guān)于人的定義應(yīng)該早已在倫理道德上引起過軒然大波,應(yīng)該也形成過一個(gè)相對(duì)大眾化、可以被接受的結(jié)論。
【畢竟看機(jī)械義肢運(yùn)用已經(jīng)達(dá)到義體的程度和劉西可以接受老李的追求(不對(duì),應(yīng)該說沒同意,但是她對(duì)待他應(yīng)該是依舊平等的態(tài)度)來看,可以說明這個(gè)醫(yī)療范疇或許為人接受?】
那么,現(xiàn)在我們所討論的問題得不出確切答案,是由于時(shí)代限制還是因?yàn)樗枷氲某靶裕?OJZ 我錯(cuò)了我不該裝逼的,編不下去啊啊啊啊啊……只想給作者打call!!)
來源:網(wǎng)絡(luò)整理 免責(zé)聲明:本文僅限學(xué)習(xí)分享,如產(chǎn)生版權(quán)問題,請(qǐng)聯(lián)系我們及時(shí)刪除。