人工智能應用的廣度和深度不斷拓展，成為了數(shù)字經(jīng)濟發(fā)展的重要驅(qū)動力量，但在此過程中，也暴露出一些風險隱患，主要體現(xiàn)在數(shù)據(jù)濫用導致隱私泄露風險、黑箱模型導致算法不透明、算法安全導致的應用風險等方面。
可信AI嵌入研發(fā)流程
數(shù)據(jù)與算法模型是人工智能系統(tǒng)防御能力提升的兩個重要方向。數(shù)字化時代，人工智能的發(fā)展需要大量的數(shù)據(jù)來訓練，而數(shù)據(jù)的流轉(zhuǎn)過程涉及到用戶的隱私保護，因此，建立完善的數(shù)據(jù)管理機制至關重要。
智慧眼全方位融合了多方安全計算（MPC）、聯(lián)邦學習（FL）、可信執(zhí)行環(huán)境（TEE）等多種技術，利用區(qū)塊鏈、可信計算技術，打造數(shù)據(jù)安全可信共享的基礎設施，通過透明可信分布式架構，端到端的應用閉環(huán)，在保證數(shù)據(jù)安全和隱私保護的前提下，實現(xiàn)多參與方數(shù)據(jù)可信共享、協(xié)同計算，實現(xiàn)數(shù)據(jù)的“可用不可見”。
在算法模型防御方面，智慧眼引入了魯棒性評測、對抗測評、對抗訓練、模型加密等技術，幫助客戶提升模型的安全性。其中運用對抗攻擊的訓練方法能提高模型魯棒性，也就是它在異常和危險情況下系統(tǒng)生存的能力，極大地解決假樣本的攻擊。
通過對抗學習攻擊方案，并基于樣本本身的多樣性，不斷提升樣本的遷移能力，以此來考察業(yè)務當中數(shù)據(jù)鏈路層安全，增強抗打擊能力，從而帶來業(yè)務效果的提升。在產(chǎn)品的運營使用階段，智慧眼持續(xù)開展人工智能風險監(jiān)測，建立用戶反饋渠道，及時收集用戶的真實意見，并對整個系統(tǒng)進行優(yōu)化和迭代，對實際使用過程中的各種風險，不斷監(jiān)督完善。
積極參與可信生態(tài)建設
打造可信的人工智能體系已經(jīng)成為行業(yè)的焦點和努力的方向，智慧眼在做好企業(yè)自身個人信息和隱私保護工作的同時，也積極參與各項重要行業(yè)工作，促進和引導行業(yè)共同進步和良性發(fā)展。
2021年，中國信息通信研究院云計算與大數(shù)據(jù)研究所倡議發(fā)起的“可信人臉識別守護計劃”第一批成員單位誕生，智慧眼成功通過審核。智慧眼作為中國信通院首批“護臉計劃”成員單位，自“護臉計劃”啟動以來，積極參與相關標準建設和實踐工作，深受相關行業(yè)部門認可，有效支撐了產(chǎn)業(yè)各層面開展人臉身份核驗安全、合規(guī)工作。
ISO/IEC 27701:2019是全球首個隱私管理體系標準，也是目前國內(nèi)外業(yè)界公認最具權威性、被廣泛接受并應用的隱私信息管理體系，智慧眼是國內(nèi)率先通過該認證的人工智能企業(yè)。
同時，智慧眼在軟件開發(fā)、集成、系統(tǒng)運維等方面均獲得了信息系統(tǒng)安全等級保護證書，作為中國權威的信息產(chǎn)品安全等級資格認證，智慧眼在信息安全、風險控制和系統(tǒng)整體化建設方面獲得了權威認可，也再次印證了智慧眼一直以來為客戶提供安全、可靠的信息安全環(huán)境的決心。
此外，智慧眼是國際FIDO聯(lián)盟成員單位，并全面參與國家信標委和各行業(yè)人工智能、大數(shù)據(jù)、生物特征識別、行為識別、區(qū)塊鏈和行業(yè)頂層設計等方面的標準制定，在提高安全性、保護隱私及簡化用戶體驗方面，為其提供技術支持，積極推動AI治理和可持續(xù)發(fā)展。
以人為本，技術向善。智慧眼將持續(xù)聚焦可信人工智能技術、產(chǎn)業(yè)和行業(yè)實踐，提供安全可信的行業(yè)智能化解決方案，讓更多用戶能夠享受安心、可信的AI服務，并將與業(yè)內(nèi)共建技術、社會、文化、價值融合共生的健康有序發(fā)展生態(tài)。
湘ICP備20003263號-1