拜登總統(tǒng)上周會(huì)見了七家人工智能公司，尋求人工智能產(chǎn)品的自愿保障措施，并討論未來的監(jiān)管前景。

現(xiàn)在，其中四家公司已經(jīng)組建了一個(gè)新的聯(lián)盟，旨在促進(jìn)負(fù)責(zé)任的人工智能發(fā)展，并在面對(duì)日益嚴(yán)格的政府和社會(huì)監(jiān)督時(shí)建立行業(yè)標(biāo)準(zhǔn)。

【資料圖】

“今天，Anthropic，Google，Microsoft和OpenAI宣布成立Frontier Model Forum，這是一個(gè)新的行業(yè)機(jī)構(gòu)，致力于確保前沿AI模型的安全和負(fù)責(zé)任開發(fā)?！監(jiān)penAI網(wǎng)站上的一份聲明中寫道。

聲明說，為了“整個(gè)人工智能生態(tài)系統(tǒng)”的利益，前沿模型論壇將利用其成員公司的技術(shù)和運(yùn)營(yíng)專業(yè)知識(shí)。該小組尋求推進(jìn)技術(shù)標(biāo)準(zhǔn)，包括基準(zhǔn)和評(píng)估，并開發(fā)一個(gè)公共解決方案庫(kù)。

聯(lián)盟的核心目標(biāo)包括：

推進(jìn)人工智能安全研究，以促進(jìn)前沿模型的負(fù)責(zé)任開發(fā)，最大限度地降低風(fēng)險(xiǎn)，并對(duì)能力和安全性進(jìn)行獨(dú)立、標(biāo)準(zhǔn)化的評(píng)估。

確定負(fù)責(zé)任地開發(fā)和部署前沿模型的最佳實(shí)踐，幫助公眾了解技術(shù)的性質(zhì)、功能、局限性和影響。

與政策制定者、學(xué)術(shù)界、民間社會(huì)和公司合作，分享有關(guān)信任和安全風(fēng)險(xiǎn)的知識(shí)。

支持開發(fā)有助于應(yīng)對(duì)社會(huì)最大挑戰(zhàn)的應(yīng)用程序，例如減緩和適應(yīng)氣候變化、早期癌癥檢測(cè)和預(yù)防以及應(yīng)對(duì)網(wǎng)絡(luò)威脅。

該論壇將“前沿模型”描述為大規(guī)模機(jī)器學(xué)習(xí)模型，在完成各種任務(wù)方面優(yōu)于當(dāng)前頂級(jí)模型的能力。

該小組計(jì)劃解決負(fù)責(zé)任的人工智能發(fā)展問題，重點(diǎn)關(guān)注三個(gè)關(guān)鍵領(lǐng)域：確定最佳實(shí)踐，推進(jìn)人工智能安全研究，以及促進(jìn)公司和政府之間的信息共享。

”論壇將協(xié)調(diào)研究，以在對(duì)抗穩(wěn)健性，機(jī)械可解釋性，可擴(kuò)展監(jiān)督，獨(dú)立研究訪問，緊急行為和異常檢測(cè)等領(lǐng)域推進(jìn)這些努力”。

列出的其他未來行動(dòng)包括建立一個(gè)咨詢委員會(huì)來指導(dǎo)集團(tuán)的戰(zhàn)略和優(yōu)先事項(xiàng)，以及組建章程、治理和資助等機(jī)構(gòu)，包括工作組和執(zhí)行委員會(huì)。論壇表示支持現(xiàn)有的行業(yè)努力，如人工智能伙伴關(guān)系和MLCommons，并計(jì)劃與民間社會(huì)和政府就“有意義的合作方式”進(jìn)行磋商。

雖然該聯(lián)盟只有四名成員，但它向積極開發(fā)和實(shí)施這些前沿模式的組織開放，通過技術(shù)和制度手段表現(xiàn)出對(duì)自身安全的堅(jiān)定承諾，并準(zhǔn)備通過積極參與聯(lián)合倡議來推進(jìn)論壇的目標(biāo)，根據(jù)成員要求清單。

“論壇歡迎符合這些標(biāo)準(zhǔn)的組織加入這項(xiàng)工作，并合作確保前沿人工智能模型的安全和負(fù)責(zé)任開發(fā)，”該組織寫道。

這些目標(biāo)仍然有些模糊，上周白宮會(huì)議的結(jié)果也是如此。拜登總統(tǒng)在關(guān)于會(huì)議的講話中承認(rèn)了人工智能的變革性影響以及以安全為優(yōu)先事項(xiàng)的負(fù)責(zé)任創(chuàng)新的必要性。他還指出，需要兩黨立法來規(guī)范個(gè)人數(shù)據(jù)的收集，維護(hù)民主，并管理先進(jìn)人工智能對(duì)就業(yè)和行業(yè)的潛在破壞。為了實(shí)現(xiàn)這一目標(biāo)，拜登表示，需要一個(gè)共同的框架來管理人工智能的發(fā)展。

“社交媒體向我們展示了強(qiáng)大的技術(shù)在沒有正確保障的情況下可能造成的傷害。我在國(guó)情咨文中說過，國(guó)會(huì)需要通過兩黨立法，嚴(yán)格限制個(gè)人數(shù)據(jù)收集，禁止針對(duì)兒童的定向廣告，并要求公司將健康和安全放在首位“?？偨y(tǒng)說，他指出，我們必須“對(duì)新興技術(shù)可能對(duì)我們的民主和價(jià)值觀構(gòu)成的威脅保持清醒和警惕，這些威脅不是必須的，而是可能的?！?/p>

批評(píng)人士表示，主要人工智能參與者的這些自我監(jiān)管嘗試可能會(huì)創(chuàng)造新一代的技術(shù)壟斷。

人工智能寫作平臺(tái)總裁JasperShane Orlick在一封電子郵件中告訴EnterpriseAI，政府和人工智能創(chuàng)新者之間需要持續(xù)深入的接觸。

奧利克說：“人工智能將影響生活和社會(huì)的方方面面，任何如此全面的技術(shù)，政府都必須發(fā)揮作用，保護(hù)我們免受意外后果的影響，并圍繞這些新創(chuàng)新創(chuàng)造的重要問題建立一個(gè)單一的真相來源，包括安全人工智能的實(shí)際參數(shù)”。

他繼續(xù)說：“政府最近的行動(dòng)很有希望，但從長(zhǎng)遠(yuǎn)來看，深化政府和創(chuàng)新者之間的接觸至關(guān)重要，以將道德置于人工智能的中心，加深和維持對(duì)不可避免的減速帶的信任，并最終確保人工智能成為一股向善的力量。這還包括確保法規(guī)不會(huì)化解競(jìng)爭(zhēng)，從而創(chuàng)造新一代的技術(shù)壟斷，而是邀請(qǐng)所有人工智能社區(qū)負(fù)責(zé)任地參與這一社會(huì)轉(zhuǎn)型。

?THE END

轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)獲得授權(quán)

標(biāo)簽：