(相關(guān)資料圖)
一段名人演講視頻,卻可能是通過技術(shù)手段偽造而成;在錐筒上貼一張算法生成的圖案,能讓自動駕駛汽車無法識別,徑直撞上去……首屆人工智能安全大賽上,圍繞這些人工智能安全關(guān)鍵技術(shù)問題,400多支代表隊提交了3000余份技術(shù)攻防方案,展開激烈角逐。16日,大賽頒獎儀式在京舉行,來自清華大學(xué)、北京理工大學(xué)等單位的9支代表隊最終獲獎。
人工智能是北京重點發(fā)展的高精尖產(chǎn)業(yè)之一。目前,北京擁有人工智能企業(yè)超過1600家,上市公司43家,均居全國首位。而在人工智能發(fā)展過程中,技術(shù)局限、惡意應(yīng)用等情況使得相關(guān)安全問題日益突出?;顒又鬓k方表示,人工智能在很多領(lǐng)域都作為通用基礎(chǔ)設(shè)施存在,其“黑箱”特點使得安全風(fēng)險更隱蔽、潛在損失更大。當前,人工智能安全的戰(zhàn)略意義正在逐步凸顯。
首屆人工智能安全大賽是第一個全國性人工智能安全賽事,也是中關(guān)村論壇國際前沿科技創(chuàng)新大賽專題賽之一。一段視頻究竟是否被合成偽造?自動駕駛系統(tǒng)在何種情況下會出現(xiàn)誤判?怎樣仿冒他人身份解鎖人臉識別系統(tǒng)?本屆大賽分設(shè)深度偽造、自動駕駛、人臉識別三個人工智能安全賽道,400多支來自高校、科研機構(gòu)、科技企業(yè)的代表隊,圍繞賽題提交了3000余份技術(shù)攻防方案。通過識別準確率、攻擊成功率等數(shù)據(jù)的比拼,最終,來自清華大學(xué)、北京理工大學(xué)等高校及科技企業(yè)的9支代表隊分獲各賽道一、二、三等獎。
“首屆人工智能安全大賽在北京舉辦,是人工智能科技和產(chǎn)業(yè)在北京聚集發(fā)展的自然之勢。”市經(jīng)信局副局長潘鋒表示,人工智能安全問題與人工智能相伴相生,相信本次大賽的成果將有效反哺人工智能安全領(lǐng)域的技術(shù)創(chuàng)新、場景挖掘和人才培養(yǎng)。
關(guān)鍵詞: