人工智能安全屬性

伴隨著人工智能應(yīng)用的常態(tài)化，人工智能安全問(wèn)題的研討也持續(xù)開(kāi)展。

1、網(wǎng)絡(luò)安全基本屬性，即人工智能系統(tǒng)及其相關(guān)數(shù)據(jù)的機(jī)密性、完 整性、可用性以及系統(tǒng)對(duì)惡意攻擊的抵御能力之外，討論人工智能安全一 般還需要考慮以下屬性。

2、透明性： 指人工智能在設(shè)計(jì)、訓(xùn)練、測(cè)試、部署過(guò)程中保持可 見(jiàn)、可控的特性，只有具備了透明性，用戶(hù)才能夠在必要時(shí)獲取模型有關(guān) 信息，包括模型結(jié)構(gòu)、參數(shù)、輸入輸出等，方可進(jìn)一步實(shí)現(xiàn)人工智能開(kāi)發(fā)過(guò)程的可審計(jì)以及可追溯。

3、可解釋性： 描述了人工智能算法模型可被人理解其運(yùn)行邏輯的特性。具備可解釋性的人工智能，其計(jì)算過(guò)程中使用的數(shù)據(jù)、算法、參數(shù)和 邏輯等對(duì)輸出結(jié)果的影響能夠被人類(lèi)理解，使人工智能更易于被人類(lèi)管 控、更容易被社會(huì)接受。

4、公平性： 指人工智能模型在進(jìn)行決策時(shí)， 不偏向某個(gè)特定的個(gè)體 或群體，也不歧視某個(gè)特定的個(gè)體或群體，平等對(duì)待不同性別、不同種 族、不同文化背景的人群，保證處理結(jié)果的公正、中立，不引入偏見(jiàn)和歧 視因素。

5、隱私性： 指人工智能在開(kāi)發(fā)與運(yùn)行的過(guò)程中實(shí)現(xiàn)了保護(hù)隱私的特 性，包括對(duì)個(gè)人信息和個(gè)人隱私的保護(hù)、對(duì)商業(yè)秘密的保護(hù)等。隱私性旨 在保障個(gè)人和組織的合法隱私權(quán)益，常見(jiàn)的隱私增強(qiáng)方案包括小化數(shù)據(jù) 處理范圍、個(gè)人信息匿名化處理、數(shù)據(jù)加密和訪(fǎng)問(wèn)控制等。

6、可靠性： 指人工智能及其所在系統(tǒng)在承受不利環(huán)境或意外變化 時(shí)，例如數(shù)據(jù)變化、噪聲、干擾等因素，仍能按照既定的目標(biāo)運(yùn)行、保持 結(jié)果有效的特性。可靠性通常需要綜合考慮系統(tǒng)的容錯(cuò)性、恢復(fù)性、健壯 性等多個(gè)方面。