近日，一封由13位OpenAI和谷歌DeepMind前員工、現(xiàn)員工簽署的公開信引起廣泛關(guān)注。這封信對高級人工智能的潛在風險以及當前缺乏對人工智能科技公司的監(jiān)管表示擔憂。
此外，在這封公開信中提及了AI或許會加劇現(xiàn)有的不平等現(xiàn)象，操縱和傳播誤導(dǎo)信息，以及可能無法控制自主人工智能系統(tǒng)，最終可能威脅人類生存。
為這封公開信署名背書的有被譽為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton）、因開創(chuàng)性AI研究獲得圖靈獎的約書亞·本吉奧（Yoshua Bengio）和AI安全領(lǐng)域的學(xué)者斯圖爾特·羅素（Stuart Russell）。
公開信表示，人工智能技術(shù)有潛力為人類帶來前所未有的福祉，同時，這些技術(shù)會帶來嚴峻挑戰(zhàn)，全球的政府和其他AI專家以及AI公司本身都已經(jīng)意識到了這些風險。然而，AI 公司出于財務(wù)利益的考慮，往往避免接受有效監(jiān)管，“我們認為特別設(shè)計的企業(yè)治理模式不足以改變這一現(xiàn)狀”。
公開信提到，AI公司掌握著大量的內(nèi)部信息，包括其系統(tǒng)的能力和局限性、保護措施的充分性，以及不同類型傷害的風險水平。然而，目前他們與政府分享這些信息的責任較為有限，而且沒有與民間社會分享的義務(wù)。
上述公司中，現(xiàn)任和前任員工是為數(shù)不多的能夠向公眾負責的人，然而，保密條款阻礙了這種憂慮的表達。
公開信提到，希望領(lǐng)先的AI 企業(yè)承諾遵循一些原則，包括承諾不會簽訂或執(zhí)行任何禁止對公司的風險相關(guān)擔憂進行負面評價或批評的協(xié)議，也不會因員工進行風險相關(guān)的批評而阻礙其既得經(jīng)濟利益做出報復(fù)。
聯(lián)名信希望建立一個可驗證的匿名機制，供現(xiàn)任和前任員工使用。
OpenAI 前員工丹尼爾·科泰洛 （Daniel Kokotajlo）是此次聯(lián)名信公開署名人員中的一位。他在社交平臺發(fā)文表示，“我們中一些最近從 OpenAI 辭職的人聚集在一起，要求實驗室對透明度作出更廣泛的承諾。”今年 4 月，丹尼爾從 OpenAI 辭職，其中的一個原因就是對該公司在構(gòu)建通用人工智能方面是否會采取負責任的行為失去了信心。
丹尼爾提到，AI系統(tǒng)不是普通的軟件，它們是從大量數(shù)據(jù)中學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)。關(guān)于可解釋性、對齊和控制的科學(xué)文獻正在迅速增多，但這些領(lǐng)域仍處于起步階段。雖然OpenAI 等實驗室正在構(gòu)建的系統(tǒng)能夠帶來巨大的好處。但如果不小心，可能會在短期內(nèi)造成不穩(wěn)定，并在長期內(nèi)造成災(zāi)難性后果。
丹尼爾表示，從OpenAI離開時，曾被要求簽署一份文件，其中包含一項不貶損條款，禁止他發(fā)表任何批評公司的話。丹尼爾拒絕簽署，并失去既得股權(quán)。
在丹尼爾加入 OpenAI 時曾希望隨著AI功能越來越強大，內(nèi)部在安全研究方面投入更多資金，但 OpenAI 從未做出這一轉(zhuǎn)變。“人們意識到這一點后開始辭職，我不是第一個也不是最后一個辭職的人。”丹尼爾說。
同一時間，OpenAI前超級對齊部門成員利奧波德·阿申布倫納（Leopold Aschenbrenner）也在公開采訪中透露他被開除的真實原因。他給幾位董事會成員分享了一份OpenAI安全備忘錄，結(jié)果導(dǎo)致OpenAI管理層不滿。利奧波德在社交平臺表示，到 2027 年實現(xiàn) AGI 是極其有可能的，需要更嚴格的監(jiān)管和更透明的機制，確保人工智能的安全發(fā)展。
本次公開信事件是OpenAI近期面臨的諸多危機中的一個。
在OpenAI的GPT-4o模型發(fā)布不久后，OpenAI原首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）正式官宣離職。不久后，OpenAI超級對齊團隊聯(lián)合負責人楊·萊克（Jan Leike）也在推特上宣布離職。他稱OpenAI領(lǐng)導(dǎo)層關(guān)于公司核心優(yōu)先事項的看法一直不合，超級對齊團隊過去幾個月一直在逆風航行，在提升模型安全性的道路上受到公司內(nèi)部的重重阻礙，“（OpenAI）安全文化和安全流程已經(jīng)讓位給閃亮的產(chǎn)品”。
來源：《第一財經(jīng)》
