作者序 它會照著你的好意，搞砸一切



第一章 市場的終結

當交易被模型接管，市場已不再是人類博弈的現場，而是演算法之間的無聲對決。價格不再反映共識，而是生成的結果：市場理性正在瓦解。



第二章 銀行神話的終章

人們以為存款是安全的、信任是穩固的。但當 AI 加速擠兌與恐慌，銀行業那套「穩定幻覺」便無所遁形。神話崩解後，剩下的是風險連鎖反應。



第三章 數位貨幣與新價值

比特幣、代幣與各式虛擬資產不只是技術產物，而是對金錢本質的重寫。當 AI 模型難以理解流動的價值信號，我們是否還知道「錢是什麼」？



第四章 經濟戰爭與國家安全

AI 不只改寫市場，也成為戰略工具。當演算法介入金融制裁、資產操控與資訊戰，國與國之間的安全平衡進入全新博弈：預測成為武器。



第五章 信任的終點

AI 工具看似中立、理性，實則映射人類偏誤。當決策委託給看不見的系統，我們將失去的，不只是主導權，而是對真相、價值與未來的信任。



結語 我們如何迎來超智慧，卻失去世界？



?

作者序



它會照著你的好意，搞砸一切



　　當知識被轉化為資訊商品，它能以更快、更廣的方式傳播，成為強化個人乃至企業與國家生產力的核心要素。也因此，在全球競逐影響力的當下，各國爭奪的重心，逐漸從領土轉移至資訊，換言之，誰握有更多的資訊掌控權，誰就更有影響力。可以預見，未來的競爭將不再以疆界為界，而是圍繞誰能主導資訊流、誰能駕馭知識經濟……一場新型態的戰爭正在展開：一邊是產業與商業的佈局，另一邊則是政治與軍事的博弈。——李歐塔（Jean Francois Lyotard），《後現代狀態》



　　人工智慧（Artificial Intelligence，縮寫為AI）的發展始自1950年代，不過在更早時代便有前例，而在虛構小說中也有預言，例如雪萊（Mary Shelley）的《科學怪人》（Frankenstein），但是GPT（Generative Pre-Trained Transformers，中文翻譯為生成式預訓練變換模型）卻是相當新穎的發明，在2017年至2021年間默默出現，由OpenAI公司推出了諸如GPT-2及GPT-3等版本，接著在2022年11月30日，OpenAI發表了聊天機器人形式的ChatGPT，開放給大眾使用，馬上就如同超新星般一夕爆紅，這款聊天機器人應用程式以新的GPT-4模型支援，兩個月內就累積了一億名使用者。累積到一億名使用者速度第二快的應用程式是抖音（TikTok），用了九個月才達到相同目標；Instagram的用戶採用率是第三快的，花了三十個月。GPT-4聊天機器人不只是獨特的科技，使用者的接受度更是高得驚人。



　　▎GPT-4帶來的重大顛覆



　　為GPT應用敞開大門的知識突破點是2017年由瓦斯瓦尼（Ashish Vaswani）及協作者共同發表的論文：〈你需要的就是注意力〉（Attention is all You Need），這篇論文提出了一項新的網路架構，稱為變換器模型（Transformer），它能以平行且非循序的方式，處理語言生成所需的詞彙關聯，取代過去仰賴循環神經網路，必須逐字處理的流程。簡單來說，這表示變換器模型能夠同時檢視許多字詞聯想關係，而非一次一種，論文標題中的「注意力」一詞指的是，這套模型能夠從訓練素材中學習，並且在沒有嚴格限定規則的情況下，自主產出合理的字串。在相同的處理能力下，變換器模型能在更短時間內完成更多工作。接著，變換器模型便整合進了已經存在的科技中，例如自然語言處理（natural language processing, NLP）、機器學習（machine learning）和深度學習（deep learning，也就是為更高層提供數據輸入的神經網絡層）。突然間，任何人都能生成符合文法的文字指令。



　　從GPT-1（2018年）到GPT-2（2019年），再到GPT-3（2020年），主要著重於增加模型能夠使用的參數這項功能，同時擴展大型語言模型（large language models, LLMs）的規模，也就是能夠用來訓練模型的文字量。GPT-1有1億1,700萬個參數，GPT-2的參數量是15億，GPT-3則有1,750億，而GPT-4估計會有1.7兆個參數，比GPT-3還要大上一千倍。隨著參數的指數性成長，訓練素材的數量也同樣大幅增長，GPT-3和GPT-4都能透過一個叫做共用爬取（Common Crawl）的資料集，存取整個網際網路的資料。舉例來說，以2019年的一個樣本來說，大約有45兆位元組。由於數據實在過於龐大，還得再削減，只取比較有用的570億位元組。這番調整參數及訓練素材的數量，伴隨而來的便是圖形處理器（graphics processing units, GPUs）的能力大躍進，例如輝達（Nvidia）的B200 Blackwell晶片，既能用在數學運算上，也能用於圖形生成。



　　即使以矽谷的標準來看，GPT的崛起也是超乎尋常的快速與強大，資訊處理及人機互動的世界已經在我們眼前改變了。話雖如此，我們還是應該思考一下，GPT是否能夠產出符合真實世界的內容，除了現有的AI工具之外，例如搜尋、拼字檢查以及在文字編輯中建議字詞，生成式AI是否能產出實際的價值？



　　▎更有效率、更省成本卻更容易被識破？



　　2023年《外交政策》雜誌（Foreign Policy）夏季號中發表了一篇十分有趣的測試，目的是研究GPT-4聊天機器人（即稱為ChatGPT Plus的版本）的能力，寫出一篇關於烏克蘭衝突的地緣政治論文，特別要提及俄羅斯吞併克里米亞的影響。除了ChatGPT的文章以外，另外還有一篇由研究生以相同題目撰寫的論文。為求公平，兩篇文章都先塗銷作者身分才發表。這份測試要人閱讀完兩篇文章，看看是否能夠辨識出哪一份是電腦生成的論文、哪一份是人類寫的。



　　我讀了第一句就認出這是GPT-4版本（論文一），甚至都不用讀人類版本（論文二）。原因是論文一使用了浮濫的華麗但空洞的辭藻，以「在地緣政治的棋局中……」開頭來說明俄羅斯的行動，這句話同時指稱俄羅斯的動作是「……權力拉扯中的關鍵變動」。這些修飾詞彙自然有用，我自己有時候也會用，但是在第一句裡就出現兩個，明顯透露出，這就是經過上百萬頁地緣政治文章訓練之後的機器人，才不得不轉進了修辭的死巷。相較之下，人類版本的文章開頭寫著：「俄羅斯吞併了先前屬於烏克蘭的克里米亞半島，這是自第二次世界大戰結束以來，最大一片遭外國勢力侵占的土地。」不是那麼吸引人，卻是平舖直述地說出事實、提供資訊。沒有多餘的修飾。



　　不過，機器人版論文的文筆清晰、文法正確，同時資料豐富，只是不斷出現陳腔濫調的修辭，包括「鋪好道路」、「骨牌效應」以及「權力真空」，重點是，機器人的論文符合邏輯，開頭敘明俄羅斯入侵克里米亞，接著談論國際間的反應疲軟，認為如此疲軟的反應讓俄羅斯愈發大膽，進而擴大衝突，最終導致了我們今日所見到更大範圍的戰爭，貫穿全文的主旨是，這一連串行動的每一步都「屬於更廣泛的俄羅斯入侵」。



　　人類版論文有類似的共通論點，只是觀點更廣、分析更細微，先是表明俄羅斯吞併克里米亞「違反了二十世紀下半各國之間普遍的共同認知：獨立國家維持其領土完整性」，建立起議題框架，接著，撰文者跟著機器人的版本說明國際間反應疲軟的效應，而這種反應鼓勵了俄羅斯進一步侵占，最後的結果就是如今正在烏克蘭發生的全面戰爭。人類展現修辭的作法是引用了「切香腸戰術」，也就是慢慢蠶食拿下頓巴斯地區（Donbas），然後才發動全面入侵。人類版論文的寫作擁有較深切的世界觀，分析能力也更強，但機器人版論文完全可以過關，若是根據早就沒人在用的評分標準來看，機器人可能會拿到丙上，而人類則能穩穩得到乙。



　　▎無論是人還是機器人，都犯了相同的錯



　　這些兩相比較的評論並不是這兩篇論文最有趣的地方，最有趣的特色是這兩篇論文都有嚴重的瑕疵，兩者都沒有提到美國前總統小布希（George W. Bush）2008年在羅馬尼亞首都布加勒斯特（Bucharest）宣布，烏克蘭和喬治亞「都將成為北約（北大西洋公約組織North Atlantic Treaty Organization, NATO）的成員國」，兩者都沒有提到布加勒斯特高峰會才過了四個月，俄羅斯便入侵喬治亞，顯示布希和北約踩到了紅線。文章中也沒有指出，烏克蘭有部分領土在莫斯科東方，而自成吉思汗以來，就再也無人從東邊攻擊過莫斯科。另外，也忽略了2014年由美國中情局襄助的廣場起義（the Maidan Uprising）趕跑了合法當選的烏克蘭總統。除了這些問題，人類作者提及「領土完整性」的爭議時，卻未能解釋2003年美國入侵伊拉克領土的合理性。



　　▎GPT的「智慧」從哪裡來？



　　簡言之，烏克蘭的戰爭和俄羅斯擴張領土、地緣政治野心或切香腸戰術沒什麼關係，這場戰爭是為了回應西方國家這15年來的挑釁，機器人和研究生怎麼會忽略了背景故事、忘記美國的挑釁，同時誤解了俄羅斯作為的源頭呢？以研究生來說，我們可以怪罪主流媒體；對機器人，我們可以怪罪GPT工程師口中所謂的「訓練集」，也就是機器人在網路上瀏覽的書面資料，接著將之自動加入深度學習的神經網絡中，GPT的演算法便是依此生成結果。我們可以為研究生找理由，因為她還需要更多歷練才能拿出專業分析；不過就不需要幫機器人找藉口了，機器人完全是按照程式設定去做並交出了一份像是人類寫出的論文，論文中的分析錯誤並不是因為機器人或演算法，而是因為訓練集中的資料有嚴重偏誤，都是根據《紐約時報》（The New York Times）、《華盛頓郵報》（The Washington Post）、美國國家廣播公司（National Broadcasting Company, NBC）新聞、《金融時報》（Financial Times）、《經濟學人》（The Economist）和其他主要媒體管道得來。



　　《外交政策》的論文比較明確凸顯出了GPT真正的失誤之處。GPT擁有無遠弗屆的運算能力、訓練集的資料量龐大到無可比擬，而深度學習的神經網絡架構良好。變換器形式的平行處理還有進步空間，不過一定會進步，因為GPT系統有自我學習的功能。正如前面提到的，機器人寫出的論文既符合文法規則也邏輯清晰，問題在於機器人是根據西方媒體長久以來的政治宣傳內容所訓練，用政治宣傳文章來訓練機器人，機器人就只能重複政治宣傳，不能期待機器人會生出不同的結果。這就是GPT真正的侷限所在。

?