人工智能的發(fā)展不能忽視安全
新一輪全球科技革命和產(chǎn)業(yè)變革方興未艾,人工智能作為新一輪科技革命和工業(yè)變革的核心動(dòng)力之一,近年來(lái)在金融、電子商務(wù)、醫(yī)療等領(lǐng)域得到廣泛應(yīng)用。
除了風(fēng)水之外,人工智能行業(yè)也有隱憂:隨著全球人工智能建設(shè)和應(yīng)用的加快,人工智能基礎(chǔ)設(shè)施、設(shè)計(jì)、研發(fā)和綜合應(yīng)用的安全風(fēng)險(xiǎn)日益突出。由中國(guó)信息通信研究所與瑞雷智慧、百度、騰訊等單位共同編寫的"人工智能安全框架"(2020)顯示,隨著深度偽造技術(shù)的開放源代碼和應(yīng)用應(yīng)用的增加,違法分子利用深偽造技術(shù)制作侵犯?jìng)€(gè)人肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)的假視頻并不少見。截至2019年12月,在網(wǎng)上流傳的深度偽造視頻中,假色情內(nèi)容占96%。
這只是冰山一角。指紋和面部識(shí)別留下的生物特征信息,自動(dòng)駕駛儀留下的個(gè)人跟蹤記錄,手機(jī)應(yīng)用程序保存的個(gè)人隱私數(shù)據(jù),醫(yī)院保存的診斷和治療記錄。人工智能的運(yùn)行已經(jīng)進(jìn)入了人們工作生活的許多場(chǎng)景,用戶的各種行為都被記錄下來(lái)并保存為數(shù)據(jù)。由此產(chǎn)生的數(shù)據(jù)泄漏、數(shù)據(jù)偽造、算法瓶頸、隱私安全、倫理困境等問(wèn)題逐漸顯現(xiàn)出來(lái)。據(jù)報(bào)道,今年7月,非法分子在電子商務(wù)平臺(tái)上出售面部信息,并以50美分的低價(jià)出售。盜取的面部信息被用于虛假登記、電信網(wǎng)絡(luò)欺詐和其他非法犯罪活動(dòng)。
人工智能安全框架(2020)"尷尬地表明,現(xiàn)階段人工智能企業(yè)以技術(shù)研發(fā)和產(chǎn)品操作為主,對(duì)人工智能安全投入相對(duì)較少,基礎(chǔ)薄弱,目前人工智能安全技術(shù)大多處于學(xué)術(shù)研究和少量實(shí)驗(yàn)試驗(yàn)階段,尚未形成適用于各種人工智能應(yīng)用的成熟的安全產(chǎn)品和服務(wù)體系。
人工智能產(chǎn)業(yè)的健康有序發(fā)展,安全是形勢(shì)的重要保證,也是形勢(shì)的需要,也是一些技術(shù)著陸必不可少的前提。沒(méi)有安全談?wù)撊斯ぶ悄埽拖褚粋€(gè)沒(méi)有水源、沒(méi)有基礎(chǔ)的木頭。實(shí)踐也證明,當(dāng)前人工智能安全需求與企業(yè)安全投資和人工智能安全產(chǎn)品服務(wù)不足之間的矛盾正成為制約人工智能產(chǎn)業(yè)長(zhǎng)期發(fā)展的瓶頸。
在發(fā)展困境與時(shí)代機(jī)遇重疊的關(guān)鍵時(shí)刻,業(yè)界期待著產(chǎn)學(xué)研部門的合作,不斷改進(jìn)和提升更安全、可信、可靠的人工智能技術(shù),并為人工智能系上安全的柵欄,讓人們放心地享受這一技術(shù)紅利。
-
安卓首家!榮耀上線DeepSeek-R1
-
對(duì)話金旗獎(jiǎng)獲獎(jiǎng)企業(yè):潘多拉飲食集團(tuán)2024金旗獎(jiǎng)復(fù)盤訪談
-
招商蛇口旗下伊敦新春開門紅丨滿房映初心 溫情暖人間
-
即熱式熱水器核心技術(shù)再突破——德國(guó)寶創(chuàng)新科技定義品質(zhì)生活新標(biāo)桿
-
四大熱賣熱水器同場(chǎng)競(jìng)技,德國(guó)寶即熱式綜合優(yōu)勢(shì)顯著
-
九章云極DataCanvas免費(fèi)提供100度算力包,極速部署不蒸餾滿血版DeepSeek-R1!
-
AlphaGPT 與DeepSeek強(qiáng)強(qiáng)聯(lián)合,打造更好用的法律AI產(chǎn)品