早陣子在 Netflix 無意間看到《鋼之鍊金術師 Brotherhood》，忍不住重看了這部我超愛的作品，除了初看時那份感動，這番重看才發現，賢者之石竟跟 AI 驚人相似。《鋼鍊》是廿多年前的作品，AI 顯然不是作者有意識的植入的隱喻，然而神作之謂神作，正是能跨越時空，預視未來吧。
2001 年，《鋼鍊》開始於《月刊少年 GANGAN》連載，旋即大受歡迎，推出單行本之餘，動畫版也在 2003 年播放，並於 2004 年初，約第 25 集追上漫畫進度，在原作者荒川弘的提議下，動畫組直接「hard fork」出一條新的故事線。
動畫專屬的情節不算太爛，但鋼鍊迷如我多數更鍾情於原著，因此又再有了鋼鍊動畫 2009 版，原汁原味呈現原著的故事，取名《Brotherhood》。一輪背景交代，為的是釐清本文討論的是原著，不然只看過鋼鍊 2003 年版的觀眾，可能會摸不著頭腦（以下含大量劇透）。
廿年前的神作，如何預言生成式 AI？
鍊金術：理解、分解和重建物質的科學。然而，它並非萬能的藝術，不可能無中生有，如果想得到什麼，就必須付出同等價值的東西。這就是等價交換法則，所有鍊金術的基礎。根據這條法則，鍊金術師之間有一個禁忌：嚴禁人體鍊成。因為，甚麼能等同於人類靈魂的價值？
——《鋼之鍊金術師》
等價交換，是鋼鍊世界觀中最為人津津樂道的概念，然而，它是否牢不可破的鐵則，卻大有討論空間。
鋼鍊的兩位主角愛德華與阿爾馮斯，試圖以鍊金術讓母親復活而觸犯禁忌，結果哥哥愛德華失去左腳與右臂，弟弟阿爾馮斯更失去整個身體。意外後，兄弟二人開始追尋賢者之石，相信它能打破等價交換原則，挽回身體及手腳。
旅途開始不久，二人驚訝地發現，賢者之石雖然非常強大，但竟是由人的靈魂鍊成，即使是一小片賢者之石，也需要用上大量人命鍊製。二人其後揭發更驚人的大陰謀，原來整個國家被規劃成一個超巨型鍊成陣，終極大 boss 父親大人打算犧牲全國的人命，鑄造超級賢者之石，讓自己擁有超越人類，神一般的能力。
說到這裏，有沒有令你想起 Anthropic 掃描並銷毀幾百萬本書，訓練出超強大語言模型 Claude 的巴拿馬計劃？還有 AI 巨企投入深不見底的資源，希望開發出 AGI，於各方面超越人類的通用人工智能？
賢者之石與大語言模型：無代價創造的錯覺
在鍊金術的世界，只要持有賢者之石，就能打破等價交換法則，不用祭出鍊成陣，無需付出代價，隨手就能鍊成各種物品甚至生命。
在我們的世界，有了 AI，人類彷彿也能打破等價交換法則，不用準備各式工具，無需付出努力，彈指之間即能生成各種文章、圖片、音樂、影像、程式。
隨著劇情開展，我們得知賢者之石打破等價交換法則是錯覺，事實是賢者之石先是吞噬了無數人命，才有後來以靈魂為代價鍊成各種物品及生命的能力，是如假包換的「人血饅頭」。
人類以 AI 生成各種內容及「創作」，瞬間跳過數十年的閱讀與苦練，事實是 AI 事前抓取、提煉、蒸餾人類數十年甚至上千年的智慧、創作及心血，再於每次生成時以電力作為代價。正如 OpenAI 執行長 Sam Altman 曾打趣說，單是用戶在對話中加入 Please 及 Thank you，就讓 OpenAI 耗費上數千萬鎂。
上週郵報所附的民意調查「AI 巨企購入大量二手書，掃描並銷毀...」，戰況激烈，最後，「雖然沒有違法，但在道德層面十分可惡」以 36% 排名第一。
另外，我也首次把民調同步貼到 Threads 收集意見。由於 Threads 容不下五個選項， Substack 上最少人選的「褻瀆神聖的紙本書，罪該萬死」被拿掉，餘下的四項中，「雖然沒有違法，但在道德層面十分可惡」再次勝出，得票率更達 53%。
賢者之石極度邪惡，既然 AI 公司訓練大語言模型就如鑄造賢者之石，因此「在道德層面十分可惡」，似乎合情合理。
真的是這樣嗎？
銷毀之必要：版權法框架下的荒謬現實
銷毀書籍的畫面確實令愛書人痛心，然而斥責之前，最好先去了解背後的原因。
事實上，就算出版社本身，銷毀書籍也是常有的事。除非一開始就不要過量印刷，否則當作者的合約期滿，剩書唯有銷毀；即使在合約期內，若存貨多得無論如何賣不出，也可能會銷毀部分減省存倉成本。
所謂「版權所有，翻印必究」，版權之謂版權，核心是不容複製。轉移格式，在 Bartz 控 Anthropic 一案中獲裁定合法，法庭認為，擁有一本書，有權將它數位化。然而，假如變成電子檔後保存著紙本，那就是從一變二，換言之就是盜版。主流認為銷毀書籍「雖然沒有違法，但在道德層面十分可惡」，然而，造成這個現象的除了 AI 公司的需要，根本原因正是用這套邏輯去保護作者的版權法。
在道德倫理層面，這帶出甚為有趣、卻讓人相當為難的問題。守法地銷毀書籍十分可惡，那違法地在掃描後留住書籍，會否變得可愛？還是說，只要把書籍數位化，就無論如何都很可惡？
傳統的道德倫理往往首先受直觀感受主導，進而演化成法律制度保障。直觀感受跟法律制度在大部分情況一致，比如我們感受到殺人不對，成熟的社會都會立法禁止。然而，當出現一種情況，直觀感受跟法律制度提供的答案相反，對與錯該如何分辨？
超越等價交換：紙本的文物價值與 AI 的共存之道
雖然我經常借用動漫解釋概念，但引喻失義，比喻一定有它的邊界，切勿照單全收。
無論賢者之石跟大語言模型有多相似，前者的材料是無可替代的寶貴生命，後者的材料是技術上可以無限複製的數位內容。AI 公司購入二手書，不是因為要吃紙，而是要把它合法數位化，作為訓練的材料。
換言之，假如 AI 公司能跟作者與出版業達成共識，合情合法合理地獲取用於機器訓練的數位內容，銷毀紙本書是毫無需要的。
回到上週的民調，一方面「雖然沒有違法，但在道德層面十分可惡」得票最高，另方面「褻瀆神聖的紙本書，罪該萬死」得票最低，既然沒有誰把紙本書視為不可褻瀆的聖物，為甚麼又有那麼多人認為銷毀書籍在道德層面十分可惡？
我大膽推斷，那是因為紙本書同時帶有內容及 artifact（姑且翻譯為「文物」）的屬性。買書是一回事，看書往往是另一回事；買書非為看書的人多的是，看書不買書而找其他方法的人亦多得很。AI 公司要的只是內容，卻因而銷毀了有紀念價值、具文物屬性的紙本書，是讓人大火的原因。
我雖然功能導向、不解溫柔，但認同紙本書作為文物、紀念品的面向，也快將出版只印一百本精裝的《進擊的自由》（已售罄）。我相信，這種以紙本滿足文物的屬性，電子版滿足流通的需要，既是出版業界的出路，也能化解 AI 與書籍之間的張力。
大語言模型不是賢者之石，只要作者有足夠強的意志讓作品完整留下，AI 要強大，不必以書籍的消亡作為等價交換。
如果只是收到十就交還十，那根本沒有改變。所以，這次換我們把幸福傳回去了。如果收到十，就把自己的「一」加上去，變成十一再傳給下一個人。這雖然很渺小，但卻是我們好不容易想出來的「否定等價交換的新法則」！
——阿爾馮斯・愛力克
p.s. 有別於一般人的刻板印象，《鋼之鍊金術師》的作者荒川弘是位女性，原名荒川弘美，出道時為避免讀者對女性的定見，從本名拿掉一字作筆名。荒川弘出生於北海道，從農業高中畢業後，當上漫畫家之前，在家族的農場從事了七年的耕作與酪農工作，有「牛媽」之稱，作品中充滿生命體驗和人文關懷。
貴族百姓~~ 少見的酪農生長背景~ 日本性別之別還蠻嚴重的，女漫畫家改名的還有鬼滅作者~