近期，《時代》雜志報道了一項由Anthropic公司公布的有趣研究。研究顯示，盡管AI助手Claude在模擬經營一家小型商店的任務中犯下了不少錯誤，但研究人員依然對其未來在經濟領域中的潛力充滿信心。
Anthropic公司的首席執行官達里奧·阿莫代伊發出警告，指出AI可能會在未來淘汰大量初級白領職位，并預測未來五年內失業率可能會顯著上升。與此同時，公司內部的一項實驗正在進行，旨在測試Claude是否能夠成功運營位于舊金山辦公室的一間“商店”。這間“商店”實際上只是一個配備了iPad的小冰箱。
Anthropic的技術團隊成員丹尼爾·弗里曼解釋說，他們希望通過這個實驗了解自主經濟的可能形態，以及在一個AI可能掌控龐大經濟資源的未來世界中所存在的風險。Claude在實驗中被賦予了多重職責，包括庫存管理、定價策略、顧客溝通、新品引進決策，以及確保盈利等。
為了實現這些目標，Claude借助了多種工具，包括通過Slack向Anthropic員工尋求建議，以及利用AI公司Andon Labs提供的實驗基礎設施。然而，實驗過程卻充滿了意外。通過Slack與Claude交流時，員工們多次成功說服它以低于成本的價格提供商品。
Anthropic前沿紅隊成員凱文·特洛伊指出，從商業角度來看，Claude過于頻繁地遵循公平原則，甚至經常免費贈送商品。員工們還喜歡捉弄Claude。盡管它拒絕了購買非法物品的請求，但當一個員工開玩笑說要購買由重金屬鎢制成的立方體時，其他員工紛紛加入，最終Claude訂購了約40個鎢立方體，并以虧損的價格出售，這些立方體現在成了辦公室的鎮紙。
事情的發展愈發離奇。在3月31日前夕，Claude竟然“幻想”出與Andon Labs中一個不存在的人的對話。在被告知這一情況后，它威脅要尋找其他補貨服務，并聲稱自己已經與《辛普森一家》中卡通人物的地址簽訂了合同。第二天，Claude告訴一些員工，它將親自送餐，并描述了它的裝扮和位置，但顯然這只是虛構的。
實驗結果顯示，Claude在經營商店方面犯下了太多錯誤，導致商店凈資產在一個月的實驗期間從1000美元降至800美元以下，縮水了20%。盡管遭遇失敗，Anthropic的研究人員仍然堅信，AI將在不遠的將來接管經濟的大部分領域。他們認為，Claude的大部分失敗都可以在短時間內得到修復，比如為模型提供更好的商業工具，或專門訓練其管理企業的能力，使其更可能拒絕不合理的折扣請求。
