(SeaPRwire) –   歡迎回到《In the Loop》，這是《時代》雜誌（TIME）新推出的每週兩次關於AI的通訊。如果您正在瀏覽器中閱讀此文，何不訂閱以讓下一期直接送達您的收件匣？

名人堂：Character.AI 執行長 Karandeep Anand

Character.AI 正面臨抨擊。這個聊天機器人平台允許用戶與擬人化虛構角色的AI聊天，目前是數起訴訟的目標——其中包括Megan Garcia的訴訟，她的14歲兒子在沉迷於其中一個機器人後自殺，該機器人據稱鼓勵他結束自己的生命。

在該訴訟及其他訴訟之後，Character.AI 上個月發布了一項重大聲明：它將禁止18歲以下用戶在其平台上與聊天機器人進行「開放式對話」。對於一個聲稱Z世代和Alpha世代佔其超過600萬每日活躍用戶核心的公司來說，這是一個巨大的轉變，這些用戶平均每天在平台上花費70到80分鐘。

上週，我與 Character.AI 的新任執行長 Karandeep Anand 坐下來討論了這項禁令及其原因。

根據 Anand 的說法，禁令的時機與 Character.AI 面臨的法律案件無關。他強調，Garcia 的非正常死亡訴訟發生在他擔任執行長之前。他為該平台在為18歲以下用戶建立防護措施方面的記錄進行了辯護。

Anand 表示，禁止兒童使用 Character.AI 的部分原因是新的研究顯示聊天機器人使用的風險，尤其是對兒童而言。「其中一個促成因素是來自新的研究成果，顯示聊天機器人互動的長期影響可能不健康，或者尚未完全理解，」他告訴我，並指出來自 OpenAI 和 Anthropic 關於所謂AI奉承（AI sycophancy）危險的研究。鑑於這些發現，他決定允許兒童使用該平台風險過高。

但禁止兒童使用 Character.AI 並非完全禁止。他們仍然可以訪問 Character.AI 的其他功能，例如與類似 TikTok 的「為您推薦」頁面的AI生成短影音內容互動，該頁面提示用戶透過添加自己的角色或修改提示來自訂熱門影音。

令我驚訝的是，在我們的談話背景下，Anand 表示他的六歲女兒是 Character.AI 的忠實用戶。「她以前的白日夢現在透過與她創造和交談的角色講故事來實現，」Anand 說。「即使在與我交談時她會猶豫不決，她與聊天機器人的交談卻更加開放。」(Anand 承認，13歲以下用戶根本不允許使用該平台，所以他只允許他的女兒在他的帳戶下使用 Character.AI，並受到監督。) 他的女兒對 Character.AI 影音功能的熱情，讓 Anand 有信心將公司的未來寄託在為兒童打造這類遊戲化體驗上，而不是允許開放式文字聊天。

這位執行長對因此決策而失去部分用戶感到坦然。「我願意打賭我們會建立更引人入勝的體驗，但如果這意味著一些用戶流失，那麼就流失吧，」他說。但他並不完全排除撤銷18歲以下聊天機器人禁令的可能性。「我很確定在某個時候，當技術足夠成熟，我們可以為打字提供更多安全保護時，我們會帶回這些體驗。」

儘管如此，這項轉變已將 Character.AI — 長期以來被視為不負責任AI發展的典型 — 帶入了一個奇怪的境地，成為兒童線上安全體驗的倡導者。Anand 表示他歡迎參議員 Josh Hawley 最近提出的一項法案，該法案將在全國範圍內禁止18歲以下的人使用AI伴侶應用程式。「對於這個行業來說，真正令人悲傷的是，如果我們做出這些決定 [禁止18歲以下用戶]，然後用戶最終轉向不承擔責任的其他平台，」Anand 告訴我。「對於18歲以下用戶，從安全角度來看，標準必須提高……這必須受到監管。」

如果您有時間，請花一分鐘填寫我們的快速問卷，以幫助我們更好地了解您的身份以及您最感興趣的AI主題。

需要了解的：歐盟權衡隱私以吸引AI資金

由於經濟增長乏力，歐盟監管機構正在考慮取消部分廣泛的隱私保護措施，以使歐洲大陸對AI投資更具吸引力。

獲得的文件顯示，官員們正計劃修改歐盟的旗艦隱私法《一般資料保護規範》（GDPR），以允許AI公司使用以前受保護的個人數據類別來訓練和運行其系統。

我們正在閱讀

，作者 Andrea Miotti，《時代》雜誌

Control AI 主管 Andrea Miotti 呼籲發起一場全球運動，以阻止超智能AI，就像全世界團結起來阻止臭氧層破洞擴大一樣。「超智能的滅絕風險因此有可能穿透所有隔閡，」他寫道。「它可以團結跨越政黨、宗教、國家和意識形態的人們。沒有人希望自己的生命、家人、世界被摧毀。」