(SeaPRwire) –   我們現在已深入AI時代，每週都有AI能完成的新功能或任務。但鑑於我們已經走得這麼遠，現在更需要跳脫出來，思考更大的問題：我們要走向何方？如何在這項技術演進的過程中充分發揮其潛力？以及，我們在共同演進的過程中，又如何充分發揮自己的潛力？

最近山姆·奧特曼（Sam Altman）出現在塔克·卡爾森（Tucker Carlson）的播客節目中，那是一個很有啟發性的時刻。卡爾森追問奧特曼關於ChatGPT的道德基礎。他認為這項技術具有一種基礎性的宗教或精神成分，因為我們假設它比人類更強大，並向它尋求指導。奧特曼回答說，對他來說，這沒有任何精神層面。卡爾森說：「那麼，如果它只不過是一台機器，僅僅是其輸入的產物，那麼顯而易見的兩個問題是：輸入是什麼？輸入到這項技術中的道德框架是什麼？」

奧特曼隨後提到了「模型規範」（model spec），即AI模型被賦予的一組指令，這些指令將決定其行為。他說，對於ChatGPT而言，這意味著要以「人類的集體經驗、知識和學習」來訓練它。但他補充說：「然後我們確實必須使其在某種程度上表現一致。」

當然，這就引出了著名的「對齊問題」（alignment problem）——即為防止AI接管的生存風險，我們需要使AI與人類價值觀對齊。這個概念實際上可以追溯到1960年和AI先驅諾伯特·維納（Norbert Wiener），他這樣描述對齊問題：「如果我們使用一種我們無法有效干預其操作的機械機構來實現我們的目的……那麼我們最好非常確定，輸入到機器中的目的，就是我們真正渴望的目的。」

但實際上，還有一個更大的對齊問題，其歷史遠早於1960年。為了使AI與人類價值觀對齊，我們自己需要清楚我們所認同的普世價值觀。我們的「輸入」是什麼？我們的「模型規範」是什麼？我們正在以什麼來訓練自己，以便過上有意義的生活？

這些是我們在決定AI應該汲取哪些輸入之前需要回答的問題。即使我們能夠使AI與人類目前所處的狀態完美對齊，結果也將是次優的。因此，現在是我們澄清自身價值觀的時候，然後再建立旨在融入和反映這些價值觀的技術。

因為現在我們正經歷著深刻的錯位。在我們的現代世界中，我們已經失去了與我們的文明——無論是西方還是東方——賴以建立的精神基礎的連結。我們已經生活在其餘暉中幾個世紀，但現在連餘暉也已黯淡，我們變得漂泊無依、茫然失措。

這個基礎從啟蒙運動和工業革命開始緩慢崩潰，但仍不斷汲取著這些永恆的真理。我們曾比以前更少地表達它們——甚至更少地相信它們——但我們仍然受到它們的引導。但現在，這種連結已被切斷，為了訓練AI與人類價值觀對齊，我們首先需要挖掘並重新連結這些價值觀。

保羅·金斯諾斯（Paul Kingsnorth）在他的新書中探討了每一種文化都是建立在神聖秩序之上的。他寫道：「這當然不一定是基督教秩序，它也可以是伊斯蘭教、印度教或道教。」啟蒙運動使我們與那種神聖秩序斷絕了聯繫，但正如金斯諾斯所說，「社會並未察覺，因為舊神聖秩序的紀念碑仍然屹立著，就像羅馬帝國垮台後的羅馬雕像一樣。」我們所看到的是當這種秩序崩潰時社會所付出的代價：「社會各層面的劇變，從政治層面一直到靈魂層面。」

這不正是現在正在發生的事情嗎？金斯諾斯寫道：「這將解釋這個時代奇怪、緊張、破碎和令人沮喪的氛圍。」

在與卡爾森的對話中，奧特曼談到AI正在接受人類「集體經驗」的訓練。但我們自己是否真的正在體驗人類的全部集體經驗呢？

當我們建立一項將改變我們生活一切的變革性技術時，我們需要確保我們以定義我們作為人類的基本且不變的價值觀來訓練它。