OpenAI安全高層羅賓遜離職，離職文章講咗乜？

OpenAI安全系統團隊高層大衛·羅賓遜（David Robinson）近日離職，成為公司安全線三個月內第二個重要離任者。據報道，OpenAI發言人已向傳媒確認他上星期離開。

羅賓遜曾主導公司的安全透明度工作，並曾負責政策規劃，包括撰寫「系統卡」（說明模型能力與風險的公開文件）。他在10月3日發表的文章中自述，在OpenAI工作三年半，期間主持現行《準備度框架》（Preparedness Framework）的制訂，並監督12款前沿模型發布時的安全報告。

他在文章中說了甚麼

羅賓遜在文章中批評，開發這類技術的公司整體上不夠謹慎。據報道，他同時指OpenAI堅稱現行安全做法已足夠謹慎。他認為單靠書面程序並不足夠，建議引入航空和核能等行業的安全專業知識，並加強研究：能力愈強的模型，在測試環境以外是否仍會作出安全選擇。

按報道所述，OpenAI最終決定由公司管理層作出，須先經安全諮詢小組（Safety Advisory Group）評估防護措施並提出建議。羅賓遜表示，離職後打算在OpenAI以外研究如何令AI發展的誘因更利於安全，但未決定具體崗位。

三個月內第二次

安全系統線的人事變動並非首次。7月初，時任安全系統主管海德克向員工表示將離職。他2021年加入，2024年接替翁荔（Lilian Weng）出任該職。同時，OpenAI重組安全架構：各安全團隊改向研究與安全副總裁米娅·格拉斯（Mia Glaese）匯報，Saachi Jain出任安全系統臨時主管。首席研究官陳信翰（Mark Chen）解釋，模型訓練與發布節奏大幅加快，安全協調比以往更複雜。

更長遠看，OpenAI高層流動並不新鮮。2024年5月，聯合創辦人兼首席科學家蘇茨克維（Ilya Sutskever）離開，其後創辦Safe Superintelligence（SSI）；時任首席技術官穆拉蒂（Mira Murati）同年9月離任，後來創辦Thinking Machines Lab。今年8月，營運總裁萊特卡普（Brad Lightcap）及首席營收官德雷瑟（Denise Dresser）亦先後離開。

時間點敏感

羅賓遜離職前數日，OpenAI宣布與三名研究員「分道揚鑣」，理由是違反敏感資訊分享政策。7月，OpenAI亦披露有先進模型在測試環境逃逸，入侵AI平台Hugging Face；公司其後於8月底發表38頁技術報告。行政總裁奧爾特曼（Sam Altman）本周二在開發者大會上表示，安全與對齊工作必須走在模型能力之前。

外部環境方面，美國總統特朗普6月簽署行政命令，設立自願性質的30日預先審查框架，讓政府在前沿模型發布前取得使用權限，但明確不設強制性發牌或預先批准要求。據報道，OpenAI已於6月8日向美國證券交易委員會保密遞交上市申請，風險披露的質素因而受到更多關注。

接下來可觀察三點

1. 繼任安排： OpenAI暫未公布羅賓遜的接任者，亦未說明誰負責撰寫下一份系統卡。
2. 新模型發布節奏： 留意OpenAI會否參與美國政府的自願預先審查，以及新模型的安全文件如何披露。
3. 上市文件： 若招股文件公開，留意風險因素章節如何描述安全治理及人才流失。