30秒快讀

創(chuàng)新互聯(lián)服務(wù)項目包括龍里網(wǎng)站建設(shè)、龍里網(wǎng)站制作、龍里網(wǎng)頁制作以及龍里網(wǎng)絡(luò)營銷策劃等。多年來，我們專注于互聯(lián)網(wǎng)行業(yè)，利用自身積累的技術(shù)優(yōu)勢、行業(yè)經(jīng)驗、深度合作伙伴關(guān)系等，向廣大中小型企業(yè)、政府機構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案，龍里網(wǎng)站推廣取得了明顯的社會效益與經(jīng)濟效益。目前，我們服務(wù)的客戶以成都為中心已經(jīng)輻射到龍里省份的部分城市，未來相信會繼續(xù)擴大服務(wù)區(qū)域并繼續(xù)獲得客戶的支持與信任！

張勇提出AI在5G網(wǎng)絡(luò)智能化應(yīng)用中面臨的五大挑戰(zhàn)。

挑戰(zhàn)一

壞數(shù)據(jù)會產(chǎn)生“偏見”

數(shù)據(jù)、算力、算法，深度學(xué)習(xí)三大關(guān)鍵詞，其中數(shù)據(jù)往往被認為是人工智能最重要的驅(qū)動力，但也正因如此，“壞”的數(shù)據(jù)，或者“不完善”的數(shù)據(jù)，會直接影響計算結(jié)果。不久前，美國杜克大學(xué)研究人員發(fā)明一種新的圖像識別算法PULSE，它可以將低分辨圖片變成高清圖片，但有人將奧巴馬打了馬賽克的照片輸入后，復(fù)原的照片卻有了白人的特征。圖靈獎得主、人工智能標(biāo)桿性人物 Yann LeCun認為，這不僅是算法的問題，而是訓(xùn)練時使用的數(shù)據(jù)產(chǎn)生了“偏見”。

圖源/網(wǎng)絡(luò)

“數(shù)據(jù)不完善，不管是數(shù)據(jù)源數(shù)量，還是已有數(shù)據(jù)的指標(biāo)深度都存在著不足，使用這些數(shù)據(jù)應(yīng)用智能運維效果不佳，甚至?xí)斐蓻Q策錯誤。”張勇認為，當(dāng)前存在標(biāo)記數(shù)據(jù)缺乏、數(shù)據(jù)不平衡/異常標(biāo)注廣泛存在、仿真數(shù)據(jù)難以使人信服等數(shù)據(jù)源問題，這些都會影響AI對智能通信網(wǎng)絡(luò)的優(yōu)化。

挑戰(zhàn)二

目前的AI能力還很“羸弱”

“通信網(wǎng)絡(luò)對可靠性穩(wěn)定性的要求，遠比計算機完成人臉識別、語音識別的要求要高。”雖然AI在語音、視頻、圖像、文本等領(lǐng)域已經(jīng)獲得引人注目的成就，但應(yīng)用到網(wǎng)絡(luò)通信方面還存在著大量困難，張勇舉了一個例子，研究團隊在通過對網(wǎng)絡(luò)流量數(shù)據(jù)進行網(wǎng)絡(luò)攻擊行為檢測，在一個公開數(shù)據(jù)集上進行分類檢測得到一個很好的模型。換一個數(shù)據(jù)集，同樣包含一樣的攻擊行為，檢測效果就非常差。

圖源/Pixabay

“目前的AI還是一種弱人工智能階段，需要耗費大量的計算資源，才可以獲得一個人類很容易擁有的能力。”此外，張勇還指出，AI缺乏邏輯推理能力，那么在網(wǎng)絡(luò)智能運維上所需要的一些邏輯推理問題沒有辦法開展，而且各種模型無法互通，獲得的知識也無法傳遞。

挑戰(zhàn)三

“黑盒子”無法獲得信任

“黑盒子”是當(dāng)前深度學(xué)習(xí)產(chǎn)業(yè)化的攔路虎。由于缺乏數(shù)理基礎(chǔ)的支撐，AI模型的好壞以及原因，通常都是個“謎”。因此，在需要高可靠性的通信網(wǎng)絡(luò)場景中，AI往往得不到信任。

圖源/Pixabay

張勇團隊在和一些企業(yè)合作時，準(zhǔn)備用AI技術(shù)做無線信號識別，對方便提出，能不能不要用深度學(xué)習(xí)，“因為感覺這個不是很可靠。”這為AI技術(shù)在網(wǎng)絡(luò)智能化應(yīng)用帶來挑戰(zhàn)：深度學(xué)習(xí)如何在網(wǎng)絡(luò)智能化上面保持保證高度可靠性，如何說服使用者信任它？

挑戰(zhàn)四

動態(tài)資源分配可能對網(wǎng)絡(luò)產(chǎn)生影響

剛剛于北京時間7月3日晚凍結(jié)的第一個5G演進版標(biāo)準(zhǔn)R16，再次把網(wǎng)絡(luò)自動化提上日程。為了實現(xiàn)網(wǎng)絡(luò)自動化和智能化，國際標(biāo)準(zhǔn)組織3GPP定義了5G網(wǎng)絡(luò)自動化的通用架構(gòu)，新增了網(wǎng)絡(luò)數(shù)據(jù)分析功能，作為大數(shù)據(jù)收集和智能分析的承載實體，不僅能收集數(shù)據(jù)，還具備智能分析的能力，包括計算模型訓(xùn)練、推理判斷與預(yù)測等等。

圖源/網(wǎng)絡(luò)

因此，在很多對未來5G社會的設(shè)想中，使用者可以按需分配、按需使用、按需計費，這個要求必然只能通過AI來完成。但現(xiàn)實情況是，現(xiàn)有網(wǎng)絡(luò)場景遠比數(shù)學(xué)模型場景復(fù)雜，目前網(wǎng)絡(luò)資源分配大多使用強化學(xué)習(xí)方法，張勇指出，在強化學(xué)習(xí)的探索過程中間，如果在現(xiàn)網(wǎng)上直接測試，很容易對網(wǎng)絡(luò)性能帶來負面影響。

于是，研究者遭遇兩難：如果先在測試網(wǎng)絡(luò)上開展工作，想要得到好的結(jié)果，需要提前做大量實驗，但通信場景之多樣性遠超谷歌AlphaGo Zero遇到的情況，訓(xùn)練過程中需要的資源、數(shù)據(jù)量和計算量不可想像，也無法承受。

挑戰(zhàn)五

小心深度學(xué)習(xí)被用來“對抗攻擊”

深度學(xué)習(xí)對產(chǎn)業(yè)發(fā)展帶來機遇，并日益普及，但也使得安全問題被提上了議事日程。有研究表明，深度神經(jīng)網(wǎng)為網(wǎng)絡(luò)安全帶來跨越式的發(fā)展機遇，但也為攻擊者提供了新的攻擊面針對AI模型完整型發(fā)起的攻擊，即所謂的“對抗攻擊”。

“數(shù)據(jù)投毒”和“逃逸攻擊”是兩種常見的對抗攻擊。“數(shù)據(jù)投毒”是指攻擊者通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等行為來破壞數(shù)據(jù)的完整性，進而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。

根據(jù)中國信通院發(fā)布的《人工智能數(shù)據(jù)安全白皮書（2019）》，“數(shù)據(jù)投毒”危害巨大。在自動駕駛領(lǐng)域，“數(shù)據(jù)投毒”可導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故；在軍事領(lǐng)域，通過信息偽裝的方式可誘導(dǎo)自主性武器啟動或攻擊，從而帶來毀滅性風(fēng)險。

圖源/中國信通院

逃逸攻擊則是指攻擊者在不改變目標(biāo)機器學(xué)習(xí)系統(tǒng)的情況下，通過構(gòu)造特定輸入樣本以完成欺騙目標(biāo)系統(tǒng)的攻擊。比如，一個深度學(xué)習(xí)系統(tǒng)原本可以精確區(qū)分熊貓與長臂猿等圖片，但是攻擊者可以對熊貓圖片增加少量干擾，生成的圖片，人看起來仍是熊貓，但系統(tǒng)會誤認為長臂猿。

哪怕是今年最熱門的聯(lián)邦學(xué)習(xí)，也可能存在惡意參與者，如果在原始樣本中加入小幅度的擾動，便可能使生成對抗攻擊時的異常檢測系統(tǒng)發(fā)生誤判。

張勇團隊做了一個實驗，針對基于AI的入侵檢測系統(tǒng)，通過對抗生成網(wǎng)絡(luò)產(chǎn)生攻擊的網(wǎng)絡(luò)數(shù)據(jù)流樣本，對采用不同機器學(xué)習(xí)算法的IDS（入侵檢測系統(tǒng)）進行攻擊，攻擊成功率高可以達到80%以上，也就是說，他們改變了攻擊數(shù)據(jù)級的特征，讓原本具有很高檢測能力的基于AI的入侵檢測系統(tǒng)失效了。

“構(gòu)建一個可靠、安全、可信的人工智能解決方案，需要從數(shù)理基礎(chǔ)上進行梳理研究，但這是一個很漫長的工作，目前來看還沒有好的方法。”張勇表示。

（根據(jù)張勇發(fā)言編輯整理，有刪改）

作者／IT時報記者 郝俊慧

編輯／挨踢妹

排版／馮誠杰

圖片／網(wǎng)絡(luò) 中國信通院 Pixabay

來源／《IT時報》公眾號vittimes

本文名稱：北郵張勇：5G＋AI仍有五大挑戰(zhàn)
轉(zhuǎn)載來于：http://jinyejixie.com/article46/cjdhhg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供企業(yè)建站、小程序開發(fā)、Google、外貿(mào)網(wǎng)站建設(shè)、響應(yīng)式網(wǎng)站、微信公眾號

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)