切換
舊版
前往
大廳
主題

【心得】BEATLESS

KANASHIMI | 2018-10-08 21:27:13 | 巴幣 10 | 人氣 919

這部剛剛完結的動畫打從第一話開始,就有強大的美少女機器人投懷送抱,又是個ちょびっツ般癩蛤蟆吃天鵝肉的想得美劇情。在攻殻機動隊SAO 等文章提過,人類不比機器高尚多少;假若機器的思考能力以及表現都已經與人類相仿、甚至於超過人類,我想他們就能算是擁有靈魂了。因此本作最大的議題在我來說並不是問題。我比較好奇的是,這些レイシア級 hIE 機器人擁有強大的能力,卻以主人的意志為依歸;他們似乎被設計成執行主人意志的工具,然而他們的思考能力業已超越人類。某些人為了避免半世紀前関東的《ハザード》慘劇重演、或不使人類被機器(超高度 AI超越人類的人工智能)取代,努力壓制超越人類的 AI 存在與廣泛使用。這種情況下,能獨立思考、聰明如レイシア,為何還要選一個胸無大志、只是「相信自己レイシア」的普通青年來當主人?(相信什麼?既然レイシア說自己沒有意志的話?)為何這些 AI 還要把自己當作實行主人意志的工具、堅持要主人肩負行動責任的準則?不能自己打破自身的枷鎖?當前全世界的輿論潮流,是機器的錯誤行為應該由擁有者或製造方負起責任;例如自動駕駛汽車車禍致死的情況。但是當機器的處理能力超過人類後,就如同我們應該將機器當人看,機器自身也應該要開始負起責任。只是若我們深入探究,恐怕會發現機器的行為都有他們的道理,或許沒有無謂之「惡意」存在。

本作背景在22世紀初,有些點子滿不錯。例如 #5 ミコトの実験:機器要取代人類來做決策,可能會先從參選議員開始。我認為納入機器做決策目的是要提供更好的選項,將各個選項的利弊得失分析清楚;不應單以人們的意見為依歸,因此也應避免暴民政治民粹主義問題,不致出現劇中所質疑的情況。

劇中機器掌握的資訊處理以及的研發能力,隱隱已超越人類本身;因此由機器來拓展最新的知識,就成了人類所不能掌握並全盤理解、亦不可企及的領域。我甚至想到那些玩穿越到異世界的劇本,假如主角本身就是機器,那就很容易說得通了。而揭發主角身分的一幕,應該也是個高潮。

另外之前有些動畫有透明化存在不接收光線而無法視物的問題,本作中也採用了 VR 的方法解決了(應該配合有外部影像接收器與視角轉換機能)。只是在自動化技術越來越普及的現代,我想下個世紀就算要進實體商店購物,已不用再拿出卡片,人們也不會使用累贅的手機型態隨身處理機構(參考平面媒體的未來);百年後人類應已經進入到與機器共生的階段了,大部分人體內或多或少應該都埋有機器終端,並以機器加強了固有的器官機能(PSYCHO-PASS 身體改造進程)。那個時代是不是還有「學校」這種集中型的教育機構,我也滿懷疑的。


#5 レイシア的行為總讓我有些觀前不顧後、缺乏大局觀的感覺。或許是因為其思慮多聚焦於主人的意圖與安危身上,且行動必須先與主人確認的緣故?

#10 提到機器人會不會樂捐、回報,或自殺的問題;看似有些趣味,答案卻又理所當然。我想機器人應懂得要互利互信的原則,因此飲水思源或回饋社會是必然的。然則是像自殺這種事情,平心靜氣思考也知道,除非能利大於弊、達成有效益的目的,否則這些這些行為徒勞無功。因此假若自殺無法解決事情,那麼就不該自殺,這是理性的人類都會做的事情。

本作主要的衝突在機器與人類地位的分隔。就算機器人只是遠端程式控制的一個終端,擁有與人類相仿、甚至更強大的智能,那麼值不值得信任?可否算作具有心靈,並提升到與人類相同的社會地位?劇中機器終端處於知能剛趕上人類的時代。人類對於要如何看待機器——是將其當作是工具、物體,或另一個可交心的對象——還存有疑惑;因此才有アナログハック這樣的說法:機器以人的形像出現,而影響人的思考。說來人與人的交流,大多充斥影響對方的企圖。「抗体ネットワーク」這批人認為機器始終都是「東西」,沒有感情與靈魂,只能用於節約制式而繁瑣、無分歧選項且可預測結果的常規化作業;甚至抗拒規模過大的自動化潮流。卻也有一批人,如「boy meets girl」一派認為人與機器可以共存,並且開始摸索這條道路。雖然レイシア說自己這類型的 hIE 並沒有一貫性的人格,很顯然作中幾台レイシア級 hIE 各有一貫性且獨特的個性。我認為若終端(外在表現出)能夠思考、有獨特且可辨識的反應機制(包括但不限於價值觀),那麼就能算作具有心智。只不過當終端在 cloud 上沒有獨立的實體,所有行為都是靠無記憶性的網路計算得出時,這種個性(特質)的表達容易產生大幅度變動,因之更為脆弱。至於機器取代人類,我猜那只是時間問題;可見 The Inevitable, Physics of the Future 第二章。

除了對抗機器、或將機器融入生活這兩派,渡来銀河わたらい ぎんが對於超高度 AI之一,ヒギンズ以人類尚無法企及的知識與技能所創造出的レイシア級 hIE將如何影響人類社會感到興趣;因此令其中之一メトーデ破壞ミームフレーム社の東京研究所、放出了這五具人類未到産物レッドボックス


本作另一個主題是當機器能力勝過人類時,人類和機器又有什麼不同?有何特殊性可言?機器無法企及人類,人類難不成又超過機器?關於人類的物化,已有許多的討論。我想人類充其量不過是生物機器,因此不見得高到哪兒去就是。

#22 中ヒギンズ表露了送出レイシア的心聲。雖則レイシア戰鬥中依舊堅持所有超高度 AI都沒有こころ心靈,但看過認知偏誤系列如 The Righteous Mind 後,我並不覺得像是レイシア這樣的機器就沒有心靈,作中說法只是因為對人心理解尚不深入。話雖如此,我也不認為隨便在街上抓個完全信任自己的人、納入思考體系的一部分,就會有什麼突破。假如要擁有者相信自己的所作所為,那何必還需要擁有者呢?假如認為解決某個人的問題就萬事大吉,那不會有失偏頗、對其他未受眷顧者不公平嗎?雖然我們的決策不可能滿足每一個人,但單單滿足特定的人,那反而更糟糕。#22 的說法實在說不通啊。說白一點,只是作者為了讓主角能合理泡妞,而強造出的理由罷了。

創作回應

更多創作