OpenAI 一次公開 722 篇 AI 生成的數學手稿,做法卻和獨立顧問團的建議有落差。
(前情提要:OpenAI 稱正在訓練的新模型已解開超 100 道數學難題,同步成立學者顧問團)
(背景補充:OpenAI 聲稱解開世紀數學難題,但陷入「挪用他人未公開研究」羅生門)
美東時間 6 日下午一點,《WIRED》刊出一篇報導,多位數學家集體批評 OpenAI,其中一位甚至形容同行之間對 AI 公司「有一種黑幫行徑的觀感」。不到 5 小時後,OpenAI 把 722 篇 AI 生成的數學手稿一次放上 GitHub。
9 月,OpenAI 宣稱解開千禧年大獎難題 Navier-Stokes(與流體運動方程式有關)時,動用上萬個 AI 代理,公司自己估運算花費達數百萬美元。
這一次,README 寫明平均每個結果相當於 3 小時的 ChatGPT Pro 運算量。解題的成本掉到這個程度,剩下的問題是成果該怎麼交到數學家手上、功勞怎麼算。因為這批手稿的公開方式,和獨立顧問團的建議有落差。
報導才刊出,成果就上線
8 月,OpenAI 召集約 40 位數學家開會,討論 AI 在數學上超越人類時該怎麼辦。據與會者轉述,公司暗示旗下模型已解開數百道長年未解的題目,也保證不會一次全部公開,並向大家徵詢發表方式。但 OpenAI 發言人 Lindsay McCallum 則回應,公司對這項保證「並不知情」。
《WIRED》刊出時,McCallum 對該刊表示,新的內部模型除了 Navier-Stokes,還解開超過 100 道長年未解的題目,公司「尚未訂出公開時間」。
可是美東時間當天下午 6 點,OpenAI 在 GitHub 上公開成果,並發表官方公告。README 寫明目前收錄 722 篇手稿,歸成 372 組相關論文。許多手稿附有 Lean(可由電腦檢查證明的程式語言)形式化,但並非每篇都有。
README 承認,部分還沒做形式化的結果可能有問題,會盡快修正。
建議是一回事,做法是另一回事
西北大學數學家 Bryna Kra 向《WIRED》表示,8 月那場會議的與會者當時請 OpenAI 不要光靠部落格或推文公開成果,而是寫成論文,讓數學家能吸收、消化、使用。她的評價是:
「看起來,這些意見被無視了。」
獨立顧問團 AGMAI 設在普林斯頓高等研究院之下,9 位成員不為這份工作收取報酬。顧問團根據 600 多份數學家的意見回覆,在 9 月 29 日的建議書中提出要求:成果應存放在不受任何 AI 實驗室控制的學術典藏庫;每個結果都該公開模型名稱、提示詞、推理摘要、耗時與運算成本;數學成果也不該被當成行銷工具。
對照 OpenAI 的做法,手稿放在公司自己的 GitHub 帳號下,公告自承仍在找符合準則的社群代管方案。公開的是平均運算量和 10 份推理摘要,沒有逐題提示詞。
據《Scientific American》報導,OpenAI 發言人表示會認真看待準則,但公司不受這些建議約束,並說幾乎每個結果都是單一提示詞交給單一 AI 代理做出來的。MIT 數學家 Andrew Sutherland 認為,模型公開、結果能被重現之前,這類說法應視為未經證實。
《WIRED》報導,9 月攻破 Navier-Stokes 時,OpenAI 是聽到有人逼近解法的「傳聞」後,才投入大批 AI 代理。紐約大學數學教授 Tristan Buckmaster 質疑 OpenAI 搶跑:因為他與 Anthropic 員工 Levent Alpöge 的私人合作成果尚未發表,而兩人當時正用 OpenAI 的工具輔助。
怕的不是 AI,是 AI 公司
開頭那句批評,出自紐約大學客座數學教授 Nestor Guillen。OpenAI 回應「不同意這種形容」。Guillen 接著說,這種焦慮在數學界同事身上越來越常見,「不是衝著 AI 來,而是衝著 AI 公司」。他認為,焦慮有很大一部分來自權力集中在同一個地方。
受訪的數學家覺得,數學成了 OpenAI 與 Anthropic 的展示場,兩家公司都在準備大型 IPO,搶著出成果時,傳統的發表與歸屬流程被丟在一邊。與 OpenAI 員工談過的人轉述,內部有數名員工認為這項技術已讓數學走到盡頭,McCallum 的回應是公司「不認為數學的未來已成定局」。
但也有數學家認為公開是好事。多倫多大學的 Daniel Litt 對《Scientific American》表示,他看不出有什麼理由要求公司把答案對大家保密。顧問團同日回應,強調顧問角色不代表替這批成果或 OpenAI 的流程背書,公開不過是理解的起點,建議有沒有做到,要由數學社群自己評斷。
Kra 參與起草的萊頓宣言,有超過 4,000 名數學家連署,要求 AI 公司達到數學界的標準。她不認為 OpenAI 的作為與宣言一致,要求的是公司把揭露做得更好,讓她能信任這些結果。她說:「這是個令人害怕的時代,但也確實是個深深令人興奮的時代。」
📍相關報導📍
數學家對 AI 公司不爽!菲爾茲獎 25 人連署砲轟:只會解題不是數學
AI 接管數學界?OpenAI Astra 模型破解 10 大百年難題,學者憂:人類貢獻將被抹煞
OpenAI 曝光下一代主力模型 Astra:一次解決十道卡了人類 10 年的數學難題

