794
智研君：
隨著人工智能技術(shù)高速發(fā)展，推動(dòng)可信AI治理成為大勢(shì)所趨。作為業(yè)內(nèi)領(lǐng)先企業(yè)，商湯科技積極響應(yīng)業(yè)界號(hào)召，為可信AI治理實(shí)踐貢獻(xiàn)落地方案。
8月16日，“2022可信AI峰會(huì)”在線上成功舉辦。峰會(huì)期間，商湯科技“人工智能倫理治理體系” 、“算法測(cè)評(píng)工具”榮獲人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）“可信人工智能實(shí)踐優(yōu)秀案例” 獎(jiǎng)。此次案例的獲獎(jiǎng)是對(duì)商湯科技積極推動(dòng)AI治理落地實(shí)踐的有力認(rèn)可。商湯將持續(xù)發(fā)展負(fù)責(zé)任且可評(píng)估的人工智能，助力經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型。
以下是獲獎(jiǎng)案例的簡(jiǎn)介：
“人工智能倫理治理體系”
隨著AI產(chǎn)業(yè)的迅速發(fā)展，AI倫理治理已成為海內(nèi)外重點(diǎn)關(guān)注領(lǐng)域。作為業(yè)界領(lǐng)先企業(yè)，商湯科技主動(dòng)承擔(dān)社會(huì)責(zé)任，積極推進(jìn)AI倫理治理工作，通過(guò)加強(qiáng)人工智能倫理治理體系建設(shè)，推動(dòng)商湯的健康可持續(xù)發(fā)展。
商湯科技在全球首次明確提出“平衡發(fā)展”的AI倫理觀，倡導(dǎo)“可持續(xù)發(fā)展、以人為本、技術(shù)可控”的倫理原則，并基于上述原則，在組建AI倫理與治理委員會(huì)、建立人工智能倫理與治理風(fēng)險(xiǎn)控制機(jī)制、制定AI倫理標(biāo)準(zhǔn)等方面開(kāi)展重點(diǎn)工作。
通過(guò)兩年多的組織建設(shè)、機(jī)制建設(shè)、理念宣導(dǎo)、員工培訓(xùn)，商湯已初步建立起覆蓋項(xiàng)目審批、產(chǎn)品及服務(wù)的發(fā)布，到持續(xù)運(yùn)營(yíng)監(jiān)控，及其后的產(chǎn)品及解決方案迭代的整個(gè)生命周期的人工智能倫理審查程序。積極參與可信AI發(fā)展的實(shí)踐落地，成為商湯堅(jiān)持“知行合一”，推動(dòng)企業(yè)愿景的重要支撐與舉措。
“算法測(cè)評(píng)工具”
由于“算法黑箱”的客觀存在，導(dǎo)致算法的不可控、算法歧視等問(wèn)題存在，也導(dǎo)致公眾對(duì)AI及算法信任的降低。商湯主動(dòng)承擔(dān)算法開(kāi)發(fā)者的主體責(zé)任，基于真實(shí)場(chǎng)景下的數(shù)據(jù)集的算法驗(yàn)證與評(píng)測(cè)，實(shí)現(xiàn) AI 技術(shù)的真正可信與可控。
根據(jù)人工智能治理需求，商湯開(kāi)發(fā)了“算法測(cè)評(píng)工具”：一是通過(guò)對(duì)主要場(chǎng)景和長(zhǎng)尾場(chǎng)景的算法測(cè)評(píng)的全覆蓋，實(shí)現(xiàn)了所有商業(yè)化算法的可信與可控。二是設(shè)計(jì)多元化的測(cè)評(píng)項(xiàng)目和豐富的指標(biāo)體系。三是通過(guò)足夠充分的數(shù)據(jù)集以及全方面的評(píng)測(cè)方案對(duì)算法進(jìn)行充分的評(píng)測(cè)。四是將目前所使用的主算法評(píng)測(cè)的方式與實(shí)踐提煉出來(lái)，打造了一系列行業(yè)標(biāo)準(zhǔn)。
從技術(shù)側(cè)看，商湯通過(guò)算法測(cè)評(píng)工作，保障了算法可用和其性能穩(wěn)定。從倫理和治理側(cè)看，算法測(cè)評(píng)工具確保算法安全，有效規(guī)避算法風(fēng)險(xiǎn)，體現(xiàn)了商湯“技術(shù)可控”的倫理治理原則，同時(shí)彰顯了商湯的社會(huì)責(zé)任感和企業(yè)使命。
作者/
李玥璐 商湯智能產(chǎn)業(yè)研究院助理研究員
編輯/
張學(xué)睿 商湯智能產(chǎn)業(yè)研究院助理研究員
