為老年人設計人工智能技術(shù)-14項指導原則

隨著(zhù)全球各地平均壽命的顯著(zhù)延長(cháng)，老齡化成為多國面臨的重要問(wèn)題。在生育率下降、預期壽命延長(cháng)以及移民的推動(dòng)下，全球60歲及以上的人口正在快速增加，預計2050年將超過(guò)16億。幾乎所有國家都將面臨老年人口的增加，因此，各國政府、衛生系統和私營(yíng)部門(mén)都應做好準備，急老年人之所急、思老年人之所需。雖然醫療服務(wù)與經(jīng)濟安全是基礎，但隨著(zhù)人們步入老年，人們需要的不再僅僅是病例表和撫恤金，老年人需要針對性的服務(wù)，以滿(mǎn)足其生理、心理及社交需求。

報告研究了人工智能設計理念、隱私安全與數據安全等關(guān)鍵問(wèn)題，提出了14項指導原則，為人工智能的適老化發(fā)展提供相應指導和啟示。賽迪智庫安全產(chǎn)業(yè)研究所對該報告進(jìn)行編譯，期望對我國有關(guān)部門(mén)有所幫助。

（一）挖掘人工智能服務(wù)老年人的潛在價(jià)值

在產(chǎn)品生命周期的初期，應當明確老年人能夠如何從人工智能中獲益。該工作包括明確老年人的觀(guān)念、待解決的問(wèn)題、技術(shù)解決方法以及老年人如何從中受益。要通過(guò)用戶(hù)與市場(chǎng)調研來(lái)證明人工智能的潛在價(jià)值，還必須分清技術(shù)帶來(lái)的積極與消極影響，并防患于未然。

（二）采用以老年人為中心的設計流程

從早期的概念構想到后期的開(kāi)發(fā)實(shí)踐，須邀請老年人和其他相關(guān)者（如家人和專(zhuān)業(yè)護理人員）在整個(gè)產(chǎn)品開(kāi)發(fā)過(guò)程中提供反饋。訪(fǎng)談、專(zhuān)題小組、相關(guān)群體和相關(guān)設計技術(shù)可以幫助了解這類(lèi)人群的需求、期許和關(guān)注點(diǎn)，從而最大限度地減少推行人工智能可能遇到的障礙。可以通過(guò)多種方式招募老年人進(jìn)行產(chǎn)品調研：報紙、在線(xiàn)招聘平臺（例如亞馬遜在線(xiàn)勞動(dòng)交易平臺）、社交媒體以及與地方機構建立合作等。

（三）將老年群體特征納入人工智能數據集

在機器學(xué)習訓練和測試中，將老年人的數據屬性清晰描述出來(lái)，是創(chuàng )建服務(wù)老年人的人工智能系統的關(guān)鍵一環(huán)。但最近一項公開(kāi)人臉數據集的分析表明，許多數據集對老年人的描述不足，甚至不包含與年齡相關(guān)的元數據。創(chuàng )建捕捉老齡人口多樣化信息的數據集（年齡、性別、遺傳、身體缺陷），并在數據集中標注基本元數據，這是為老年人構建公平、積極的人工智能體驗的第一步。

（四）開(kāi)發(fā)對老年群體包容性強的產(chǎn)品

與常見(jiàn)觀(guān)點(diǎn)相反，生理年齡并不是老年人的關(guān)鍵特征。換言之，老年人的身體、感官和認知能力因人而異，教育水平和科技體驗也各有不同。在人工智能開(kāi)發(fā)過(guò)程中，預先征集和考慮不同群體特征的老年人的需求，包括來(lái)自不同地域、不同社會(huì )經(jīng)濟地位以及生活在農村的老年人，有助于開(kāi)發(fā)普適性產(chǎn)品。

（五）考慮老年殘疾人群體的服務(wù)需求

雖然老年人的殘疾可能是感官、肢體和認知功能隨年齡增長(cháng)而衰退下降所致，但個(gè)別老年人也可能是因為以前的生理?yè)p傷而導致殘疾。除遵循廣泛性原則外，獲取遭受長(cháng)期生理?yè)p傷的老年人對人工智能系統的反饋意見(jiàn)，是使人工智能系統滿(mǎn)足眾多用戶(hù)需要的關(guān)鍵所在。

（六）公開(kāi)人工智能的能力與局限性

用戶(hù)往往對高保真性、高可靠性的人工智能系統抱有更高的期望。當系統功能無(wú)法滿(mǎn)足這些期望時(shí)可能導致用戶(hù)進(jìn)行不當操作，且造成意想不到的后果，因此理清并公開(kāi)人工智能的局限性至關(guān)重要。

（七）建立評價(jià)指標體系評估軟件應用成果

制定用戶(hù)對人工智能技術(shù)滿(mǎn)意度的評估指標非常重要。根據人工智能的預期用途，制定標準時(shí)還應考慮技術(shù)對生活質(zhì)量、孤獨感、幸福感和樂(lè )觀(guān)情緒的影響。此外，通過(guò)遙測技術(shù)和分析錯誤報告，還有助于評估人工智能系統的運行狀況和有效性。

（八）尊重老年人隱私的五項原則

一是僅收集絕對必要的數據，防止人工智能泄露老年人期望保護的隱私。

二是通過(guò)規范數據存儲和刪除過(guò)期數據保護隱私。老年人常常質(zhì)疑長(cháng)期存儲數據的必要性，不能將收集與保留數據設置為默認選項，而只應該用于特定有利用途。

三是在家庭中使用計算機圖像系統時(shí)，應尊重老年人的選擇權，考慮將系統安裝于哪些房間。老年人通常將浴室和臥室等房間視為隱私，因此應尊重老年人的選擇權，讓他們能夠自主權衡保護隱私與獲取安全和自動(dòng)化服務(wù)（例如跌倒檢測）的利弊得失。

（九）公開(kāi)人工智能收集數據的目的和范疇

老年人非常擔心侵犯住宅和網(wǎng)絡(luò )隱私。他們無(wú)法完全理解人工智能技術(shù)是如何運作，或者如何使用用戶(hù)數據的。因此，必須要做好信息披露，并應預先解決老年人可能關(guān)心的所有問(wèn)題：例如介紹他們使用的智能家居設備、被收集和處理的數據、數據收集的目的、對老年人的好處、有權獲取數據的相關(guān)方、數據的保留期限以及現有的隱私保護和安全措施等。

（十）人工智能產(chǎn)品必須獲得老年人群體的認可

構建的人工智能系統必須得到老年人發(fā)自?xún)刃牡恼J可，這既是對各種數據采集的法律要求，也是建立用戶(hù)信任的關(guān)鍵。人們會(huì )考慮數據授權的利好和風(fēng)險，還會(huì )利用既有經(jīng)驗和認識——如其他公司或產(chǎn)品對待他們個(gè)人數據的方式進(jìn)行輔助判斷。

（十一）最大程度降低老年人受騙風(fēng)險

人工智能虛擬化身（例如護理教練）越來(lái)越多地用于與老年人互動(dòng)，并為滿(mǎn)足老年人的需求提供自定義服務(wù)。相關(guān)報告顯示，使用高仿真聲音與老年人互動(dòng)時(shí)，向老年人明確該聲音為合成聲音，有助于調整老年人對人工智能的合理期待，并最大程度降低欺騙造成的危害后果。有關(guān)詳細信息，請參閱微軟關(guān)于如何披露的部分——“披露設計指南”。

（十二）保護數據免遭濫用和意外獲取

應通過(guò)有效的安全防護措施保護老年人的隱私，阻止試圖惡意獲取隱私的行為。

（十三）引導老年人構建對人工智能的合理期望

人工智能是概率系統，不可避免地會(huì )出現偶然錯誤。當老年人在理財或健康管理等高風(fēng)險情況下使用人工智能時(shí)，人工智能的失誤可能造成嚴重后果。此外，由于認識能力隨著(zhù)年齡增長(cháng)而衰退，老年人更容易過(guò)度依賴(lài)人工智能。因此，老年人正是從成功的操作體驗中理解人工智能的操作，準確描述人工智能的作用，并對人工智能的可靠性產(chǎn)生合理期望。出現超出人工智能實(shí)際能力的過(guò)度信任時(shí)，需要將其調整為與人工智能能力相匹配的合理信任度。

（十四）評估護理機器人可能導致的社會(huì )隔離加劇風(fēng)險

為解決護理員的需求缺口，世界各國將目光轉向護理機器人，其中日本處于領(lǐng)先地位。然而，一些學(xué)者認為機器人無(wú)法完全滿(mǎn)足老年人的社交和情感需求，過(guò)度依賴(lài)護理機器人，尤其是將機器人作為與人類(lèi)互動(dòng)的替代品，可能會(huì )降低老人的幸福感。低收入老年人也會(huì )因為過(guò)度依賴(lài)護理機器人而飽受其害。因此，設計人工智能系統應優(yōu)先考慮老年人的幸福感，最大程度降低機器人的濫用風(fēng)險，將高強度勞動(dòng)任務(wù)交給機器人，讓護理人員能夠專(zhuān)注于個(gè)人護理。

附件：為老年人設計人工智能技術(shù)-14項指導原則