三大人工智能的風(fēng)險初步探析

一 數據不完備和濫用風(fēng)險突出

1 數據不完備： 人工智能進(jìn)行自動(dòng)化決策時(shí)，如果數據不充分、不達標，就會(huì )造成結論偏離的情況。

2 數據投毒：如果訓練集中混雜了虛假的數據，還會(huì )對算法形成欺騙，在自動(dòng)化決策中給出錯誤 的結果。

3 數據濫用：技術(shù)進(jìn)步擴大了用戶(hù)個(gè)人信息的邊界，互聯(lián)網(wǎng)平臺企業(yè)可以在線(xiàn)且及時(shí)的采集用戶(hù) 購買(mǎi)、收藏、瀏覽等行為，擁有豐富的算力資源和出眾的算法能力，如果企業(yè)在借 助人工智能對用戶(hù)數據進(jìn)行加工、使用的過(guò)程中不能夠嚴格遵守法律法規，則可能因為數據濫用而損害用戶(hù)的權益。

二 人工智能算法存在固有缺陷

當前，以深度學(xué)習為代表的人工智能技術(shù)在產(chǎn)業(yè)界廣泛應用，取得了一系列突破， 但其在可解釋性、魯棒性、偏見(jiàn)歧視等方面尚存在局限。

1 可解釋性不足：深度學(xué)習算法的一個(gè)的顯著(zhù)特點(diǎn)是訓練過(guò)程中自動(dòng)提取特征，通常比人工挑選的特 征效果更好，但這一過(guò)程目前尚不可控，在不恰當的數據集上算法可能選擇錯誤的特征。

2 魯棒性不足：深度學(xué)習算法在訓練過(guò)程中會(huì )對數據的魯棒特征和非魯棒特征逬行學(xué)習,并依據這些特征進(jìn)行識別。

3 偏見(jiàn)與歧視：深度學(xué)習算法會(huì )挖掘訓練數據集中不同因素的相關(guān)性，擬合數據分布特性，訓練數 據集本身的偏見(jiàn)與歧視，會(huì )被引入到訓練出的模型之中。

三 企業(yè)人工智能管理體系不完善

人工智能等新技術(shù)特有的應用特征對企業(yè)的管理措施提出了J大挑戰。一方面，過(guò) 去為了鼓勵創(chuàng )新和效率優(yōu)先，通常讓基層擁有較大的自主權；另一方面，人工智能 新技術(shù)的負面影響通常不會(huì )立即顯現，也難以多面評估。這就使得原有的體系并不 能適應當前人工智能治理原則。

1 算法需要人為干預： 由于人工智能算法固有的缺陷，需要對可能出現的錯誤結果進(jìn)行干預糾偏。

2 用戶(hù)權益保障不足： 人工智能算法用于自動(dòng)化決策，對用戶(hù)帶來(lái)明顯影響，并不能做到完全技術(shù)中立， 需要注意保障用戶(hù)權益。

3 主體責任落實(shí)不到位： 由于人工智能技術(shù)門(mén)檻G，且在企業(yè)中的運用往往呈現出G動(dòng)態(tài)性、G復雜度等特 點(diǎn)，使得外部難以理解其運行機制。