深度學習需要利用大量數(shù)據(jù)進行訓練，人工智能服務(wù)能力很大程度上也依賴于背后的海量數(shù)據(jù)。目前，應用市場上存在許多熱門的人工智能聊天機器，如AI聊天創(chuàng)作機器人、AI問答機器人等，其背后就是大語言模型，核心邏輯便是對海量數(shù)據(jù)進行處理、加工和輸出的過程。然而，這也意味著該類應用很可能在用戶不知情的情況下收集用戶查詢的相關(guān)內(nèi)容，并用于后續(xù)模型的開發(fā)。出于對信息的保護，一些歐洲國家的公司和機構(gòu)禁止使用此類人工智能產(chǎn)品，以防止公司機密數(shù)據(jù)泄露。

       AI技術(shù)的不斷完善，使其成為生產(chǎn)力進步的有力抓手。許多企業(yè)組織將人工智能視為企業(yè)數(shù)字化轉(zhuǎn)型的得力助手，將其應用于移動應用APP，以更好地開展移動辦公，為客戶提供更好的業(yè)務(wù)服務(wù)，同時提高工作效率及降低成本。然而，黑產(chǎn)組織對AI應用的蓄意攻擊也在不斷增加，通過侵入系統(tǒng)破壞組織的業(yè)務(wù)運作，不僅可以竊取用戶和企業(yè)數(shù)據(jù)，還能夠?qū)ζ髽I(yè)的人工智能模型等核心資產(chǎn)進行篡改。因而，對企業(yè)核心資產(chǎn)安全的保護加強也尤為重要。

· 個人需加強信息保護意識，遵守企業(yè)制定的相關(guān)規(guī)范，避免個人及企業(yè)數(shù)據(jù)遭受到安全威脅。

· 企業(yè)在使用AI應用的同時，也需要加強管理制度規(guī)范及員工安全防范意識培訓。

· AI服務(wù)提供方需積極落實《數(shù)據(jù)安全法》、《個人信息保護法》等相關(guān)規(guī)范，確保用戶及業(yè)務(wù)數(shù)據(jù)的安全性，同時更需加強人工智能模型參數(shù)等相關(guān)技術(shù)的機密性，以保障企業(yè)利益不受侵犯。

上訊信息針對人工智能移動業(yè)務(wù)安全提供應用和數(shù)據(jù)的全周期安全防護。

· 通過對移動應用APP程序文件進行全面的、多維度的、自動化安全掃描，發(fā)現(xiàn)程序代碼中存在的安全漏洞和數(shù)據(jù)泄露風險。同時使用隱私合規(guī)檢測功能，盡可能在應用開發(fā)階段，解決應用安全合規(guī)問題。

· 在操作系統(tǒng)原有安全體系基礎(chǔ)上，利用動態(tài)加載、動態(tài)代理、虛擬機保護和加解密等技術(shù)手段，對應用程序進行統(tǒng)一安全加固，保證移動應用的安全性和完整性，防止移動應用被反編譯、動態(tài)調(diào)試和篡改打包，確保移動應用上線發(fā)布后的安全可靠運行。

· 通過應用自動化沙箱加殼，實現(xiàn)應用獨立隔離運行環(huán)境，提供應用權(quán)限控制、應用隱私保護、數(shù)據(jù)防泄漏、數(shù)據(jù)加密保護等，增強移動應用業(yè)務(wù)數(shù)據(jù)和運行時的安全性，保障應用業(yè)務(wù)安全可靠。

在當前快速發(fā)展的人工智能時代，AI的雙刃劍效應不可避免。為確保AI系統(tǒng)不被濫用或操縱，需要各方積極采取措施，將安全性置于首要位置，通過嚴格的隱私保護和數(shù)據(jù)安全措施，共同構(gòu)建值得信賴的AI生態(tài)系統(tǒng)。