OpenAI權鬥背後的「有效利他主義」

/ 馮睎乾

峰迴路轉的OpenAI權鬥連續劇，今天以Sam Altman回巢當CEO及董事局重組告終。發動「兵變」炒掉Altman的前董事局成員Tasha McCauley和Helen Toner，現在雙雙出局。

對於AI界這場全球矚目的風波，很多人莫名其妙，但若你了解McCauley和Toner二人的思想背景，就知道背後涉及一場意識形態之爭，甚至可說是「宗教戰爭」——如果沒有其他黑手的話。

OpenAI是非牟利的研究實驗室，初心是開發一種能造福人類的AI，但矛盾的是，燒錢到癲的OpenAI不能空談理想，需要金主支持，而它最大的金主並非慈善機構，而是以謀取最大利益為目標的微軟。Altman加快發展AI的步伐，希望繼續吸金，難免跟董事局某些「不忘初心」的成員越行越遠。

OpenAI之前的董事局其實佔盡道德高地。現已敗走的Helen Toner日前義正辭嚴對《紐約時報》說，董事局使命是保證公司創造的AI「有益於全人類」，如果公司被摧毀，那可能符合其使命（if the company was destroyed, she said, that could be consistent with its mission）。聽起來怪怪的，她到底是什麼人呢？

原來跟McCauley一樣，Toner都是「有效利他主義（effective altruism，簡稱EA）」運動的支持者。EA運動始於2009年，由兩個牛津大學學生 Toby Ord 和 William MacAskill 發起。有效利他主義不單旨在助人，更主張利用理性、數據和運算，找出最有效且幫助到最多人的慈善方式。

比方說，一般人認為捐錢、做義工是助人，但EA認為，隨便捐錢和做義工缺乏效率，也不能幫助最多的人。若你本着一片善心，在華爾街做些不太道德的工作，然後把賺到的大筆錢，捐一部分出來助人，那就比你從事一些低薪而正當的工作，更有效地「利他」了。咦，不就是華人說的「發財立品」嗎？

根據有效利他原則，行善必須機關算盡，衡量善舉「能救多少條命」、「成功率有多高」、「捐贈有多少客觀價值」等，是以EA特別重視長遠影響，放眼未來，因為未來千百萬年潛在受益人數，必多於今天這個有限時空。在此背景下，AI發展自然是EA最關心的議題了。

對Toner和McCauley來說，防止AI變Skynet涉及未來人類命運，OpenAI區區一間公司的存亡，相形之下就不足掛齒。兩人到底是杞人憂天、未雨綢繆，抑或別有隱情，我不肯定，但有效利他主義社群（大多數是廿幾歲的高學歷白人，很多從事AI業），卻總讓我嗅到一絲「異端宗教」味道。

這社群成形後，理想主義的首領也呼籲成員「十一奉獻」（捐給最有效率的慈善團體）；很多成員更相信人類面臨存在危機，大家所認識的世界快將終結，而多數普通人卻懵然不知。他們認為只有自己才可以拯救世界，讓人間變成烏托邦式樂土。看了以上描述，像不像某些宣揚末世的教派？

有效利他主義本意似乎是好的，但依靠所謂理性計算，是否真可以找到「最佳」利人方法呢？比方說，OpenAI自己放慢發展步伐，如何推論到人類受益？（我相信西方科技裹足不前，受益者只會是中共。）有效利他主義者又是否每個都是好人？例如FTX 創辦人Sam Bankman-Fried，竊取數以十億美元的客戶資金，本月初詐騙罪名成立，他正是著名的有效利他主義者，也是這運動的一大金主。

OpenAI跟形跡可疑的有效利他主義者割席，我覺得是明智之舉。

https://www.facebook.com/photo?fbid=676325701288062&set=a.295293359391300