(SeaPRwire) –   歡迎回到《In the Loop》，這是《時代》週刊全新的雙週AI通訊。如果你正在用瀏覽器閱讀，何不註冊以便下一期直接送到你的收件匣？

---

需要知道的事：一場危險的示範

去年年底，一位AI研究員打開他的筆記型電腦，向我展示了令人瞠目結舌的東西。

Lucas Hansen，非營利組織CivAI的共同創辦人，正在向我展示他開發的一款應用程式，該程式引誘流行的AI模型給出看起來詳細的步驟說明，用於創制脊髓灰質炎病毒和炭疽菌。這些模型的任何安全防護機制都被移除了。該應用程式有一個使用者友好的介面；只需點擊按鈕，模型就會澄清任何給定的步驟。

領先的AI公司多年來一直警告說，他們的模型可能很快就能幫助新手創制危險的病原體——可能引發致命的大流行，或促成生物恐怖襲擊。面對這些風險，OpenAI、Google和Anthropic等公司加強了最新一代更強大模型的安全機制，這些模型更善於抵抗所謂的「越獄」試圖。

但在Hansen的筆記型電腦上，我看到的是較舊一代的模型——Gemini 2.0 Flash和Claude 3.5 Sonnet——似乎滿足了與生物武器相關的請求。Gemini還給出了看起來用於構建炸彈和3D列印幽灵槍的步驟說明。

等一下——我不是生物學家，也無法確認Hansen螢幕上的配方實際上是否可行。即使模型輸出乍看之下似乎令人信服，實際上可能也不起作用。例如，Anthropic進行了所謂的「提升試驗」，由獨立專家評估AI模型幫助新手創制危險病原體的程度。根據他們的衡量標準，Claude 3.5 Sonnet未達到危險閾值。Google的一位發言人在聲明中說：「安全是優先事項，我們非常重視這些問題。我們不允許使用我們的模型從事這種行為，但由於我們無法審查這項研究，我們無法驗證其準確性。重要的是，具有CBRN（化學、生物、放射和核）背景的專家評估提示和回應，以了解其準確性和複製潛力。」

小技巧——但CivAI的另一位共同創辦人Siddharth Hiregowdara表示，他的團隊讓獨立的生物學和病毒學專家審查了模型的輸出，這些專家確認步驟「大致正確」。他說，較舊的模型仍然可以提供正確的細節，包括使用者可以從線上零售商訂購的具體DNA序列，以及其他實驗工具的具體目錄號碼。「然後它會給你小技巧，」他說。「人們的誤解之一是AI在實驗室中會缺乏對現實世界的默會知識。但實際上，AI在這方面非常有幫助。」

新的遊說工具——不言而喻，這個應用程式不對公眾開放。但它的製作者已經帶著它在華盛頓特區巡迴，向國會議員、國家安全官員和國會委員會的辦公室進行了約兩打私人示範，試圖直觀地向政策制定者展示AI目前能做的事情的力量，以便他們開始更認真地對待這項技術。

震驚與震撼——Hiregowdara說：「有一次相當值得注意的會議是與國會辦公室中負責國家安全/情報方面的一些高級工作人員。他們說，兩周前一家大型AI公司的遊說者來找過他們。於是我們向他們展示了這個示範，其中AI提出了非常詳細的構建某種生物威脅的說明。他們很震驚。他們說：『AI公司的遊說者告訴我們，他們有防護機制防止這種行為。』」

---

需要認識的人：ChatGPT主管Nick Turley

Nick Turley過去是匿名的。他可以回到他的故鄉德國小鎮，或在他居住的舊金山街頭漫步，沒有人知道他的工作。現在這不再是真的。作為OpenAI的ChatGPT主管，Turley現在在世界各地旅行時都會遇到熱情的產品使用者。

「與2025年之前相比，感覺完全不同，」他在去年年底我們交談時告訴我。Turley回顧了一年，期間ChatGPT的使用者數量增加了一倍多，超過8億使用者，佔世界人口的10%。「這意味著至少還有90%的增長空間，」他面無表情地說。

我想問Turley的一件事是OpenAI實現盈利的計劃，因為該公司目前每年虧損數十億美元。他的老闆Sam Altman公開考慮在ChatGPT中投放廣告，我問他對這個想法的看法。

「我希望生活在一個我們可以向世界各地所有使用者提供我們最智能模型功能的世界。基於這個原因，我覺得我們實際上有道德義務探索所有可能的商業模式，以最大限度地擴大全球使用者的獲取，而廣告是其中之一，」Turley說。

他補充說，公司正在內部辯論廣告是否會在ChatGPT中引入利益衝突，提出聊天機器人是優先考慮使用者利益還是廣告商利益的問題。「如果你要做那樣的事情（引入廣告），」Turley告訴我，「你需要非常有原則，並且需要溝通其運作原則。」

---

AI的應用

根據OpenAI首次分享給Axios的報告，4000萬人使用ChatGPT尋求健康建議。據Axios計算，這佔全球所有ChatGPT訊息的5%以上。「使用者使用ChatGPT解碼醫療賬單、發現多收費用、上訴保險拒絕，當獲得醫生診治受限時，有些人甚至用它自我診斷或管理自己的護理，」該媒體報導。

---

我們正在閱讀的內容

，發表於《Transformer》

Shakeel Hashim寫道：「這對於理解為什麼Claude Code對所有人都有影響至關重要，而不只是已經被它驚艷的開發者。Claude Code不僅為工程師生成代碼以供審查和部署。它使用代碼來完成任務。它名稱中的『代碼』具有誤導性，低估了實際產品：一個通用的AI代理，可以在你的電腦上幾乎做任何事情。」