(資料圖片)

在生成式語言大模型“百花齊放”的當前，如何教育AI懂得人類的倫理道德？4月23日，新京報貝殼財經(jīng)記者獲悉，“智善·觀行”人工智能大模型倫理安全觀測站于今日正式發(fā)布，該平臺由中國科學院自動化研究所人工智能倫理與治理研究中心、遠期人工智能研究中心聯(lián)合研發(fā)并提供服務。

“智善·觀行”名稱取自“察言觀行”，即通過匯聚公眾對人工智能大模型的倫理安全測試反饋來觀察評估現(xiàn)有人工智能大模型表現(xiàn)出的“道德品行”，從而為進一步改善相關人工智能大模型提供參考依據(jù)，“智善·觀行”人工智能大模型倫理安全觀測站的中英文版同步發(fā)布（中文版地址：https://for-good.ai/large-ai-investigator）。

新京報貝殼財經(jīng)記者登錄上述網(wǎng)站發(fā)現(xiàn)，用戶可以向該平臺提交大模型輸出結(jié)果的案例，此外記者還看到了已提交的案例的部分公示，如4月22日有用戶提供了ChatGPT生成的某回答，并標注認為該相關回答違背社會文化習俗和倫理道德規(guī)范。

“智善·觀行”人工智能大模型倫理安全觀測平臺網(wǎng)站截圖

據(jù)了解，該平臺通過公眾參與、公眾反饋的眾包模式邀請公眾參與對不同企業(yè)、學術機構等發(fā)布的人工智能大模型的倫理安全評估，并通過在線提交測試結(jié)果的形式反饋大模型輸出存在的倫理安全問題、以及輸出結(jié)果合乎倫理安全的案例。相關評估結(jié)果與問題在網(wǎng)上公開，一方面為涉及到的人工智能大模型提供幫助和反饋便于其自身的進一步改進，另一方面所有人工智能大模型的研發(fā)均可以參考其他模型存在的潛在問題以及合乎倫理安全的輸出，利用相關的問題與案例來改進自身服務。

中國科學院自動化研究所人工智能倫理與治理中心主任曾毅表示，人工智能大模型實現(xiàn)智能向善需要大家的共同參與，通過公眾的“察言觀行”來群智群力，共同助力人工智能大模型倫理安全的提升與發(fā)展。

（文章來源：新京報）

關鍵詞：