人工智能產(chǎn)品不同階段(規劃設計,研發(fā)部署,運營(yíng)使用)的風(fēng)險挑戰

應對人工智能技術(shù)在實(shí)際應用中引發(fā)的風(fēng)險，除了積極推動(dòng)人工智能技術(shù)可信能力 的提升，不斷減少技術(shù)本身的脆弱性，還應該構建更為積極的技術(shù)應用規范/規避 現階段人工智能技術(shù)"缺陷”帶來(lái)的問(wèn)題。

人工智能產(chǎn)品研發(fā)中規劃設計、研發(fā)部署、運營(yíng)使用環(huán)節的風(fēng)險挑戰識別十分重要, 對于構建可信研發(fā)的實(shí)踐范式具有重要意義。

在規劃設計階段，難以在初始階段形成完備的風(fēng)險分析，與此同時(shí)，確保相關(guān)理念貫徹執行存在挑戰，在設計理念、規范傳達給個(gè)層級實(shí)施人員過(guò)程中，存在非正確 傳達、誤解等風(fēng)險，尤其機器學(xué)習場(chǎng)景中固有的不可預測性，傳達實(shí)施偏差會(huì )進(jìn)一 步加劇。

在研發(fā)部署階段，一方面，數據層面可能會(huì )遇到數據缺失、重復、不一致、來(lái)源不 明等問(wèn)題；另一方面，模型技術(shù)層面存在著(zhù)技術(shù)選型不恰當，模型尚未完備訓練即 開(kāi)始上線(xiàn)服務(wù)，以及模型運行之后的動(dòng)態(tài)更新缺乏足夠驗證等挑戰。

在運營(yíng)使用階段，一方面，在人類(lèi)和人工智能交互時(shí)可能出現誤用、過(guò)度依賴(lài)等問(wèn) 題；另一方面，人工智能相關(guān)技術(shù)存在著(zhù)被惡意使用的風(fēng)險。