OpenAI 與 Anthropic 據悉曾討論互測大模型

ChainCatcher 消息，据媒体援引知情人士报道，Anthropic 和 OpenAI 曾考慮簽署一份具有法律約束力的協議，以相互對對方的大模型進行壓力測試。今年早些時候，兩家公司及其律師團隊曾就此計劃展開討論，競爭對手可對彼此最新可用模型進行深度測試，以尋找潛在風險或安全漏洞。此類測試僅適用於已商業化的模型，且雙方約定不得留存對方的數據。該報導並未明確雙方最終是否達成此類協議。近來，在頂尖 AI 實驗室之間推行某種形式的同行評審的想法受到關注。SpaceX 首席執行官埃隆·馬斯克上週建議，美國領先的幾家大模型公司以及部分中國 AI 公司應當允許競爭對手進行交叉測試。馬斯克表示：所有 AI 公司都有一套測試工具，讓每家公司都用別家的測試工具跑一遍，可能是確保自身安全所能做的最好的事。本月早些時候，Anthropic 研究員 Jacob Coxon 宣布辭職並警告領先人工智慧公司在沒有適當防護措施的情況下加速開發。隨後 Anthropic CEO 達里奧·阿莫代伊發文呼籲行業放緩 AI 開發步伐並引入第三方評估機制。Anthropic 上週五宣布與埃森哲建立合作，由埃森哲擔任第三方評估機構，對其前沿 AI 模型進行安全合規性評估。