阿裡(lǐ)發(fā)布自動化AI對(duì)抗平台 用AI“體檢很船”AI

Time:2020-12-14

DoNews12月11日消息(記者 翟繼茹)11日,阿裡(l唱聽ǐ)圖靈實驗室整理歸納了學(xué)界針對(duì)AI匠身模型提出的32種(zhǒng)攻擊方法,以此爲基礎搭建了一個自動化AI對(du新路ì)抗攻擊平台CAA,幫助檢測AI系統存在的國和漏洞。


據介紹,經(jīng)CAA“體檢”後(hòu),AI得新專家可針對(duì)被(bèi)檢測AI的薄弱地帶提出建習訊議,幫助AI魯棒性(穩定性)檢測,以此增強AI系話玩統。近日,該研究成(chéng)果被(bèi)人工智能(néng)頂會(hu村是ì)I2021接收。



相比業界此前提出的其他攻擊工具箱,阿裡(lǐ)作空圖靈實驗室研發(fā)的自動化對(duì)抗攻擊平台CAA首度兵術實現了對(duì)抗攻擊的“工具化”。它讓AI應用的使用者即使不具光城備任何專業領域知識的情況下,也可以進我放(jìn)行AI模型的對(duì)抗攻擊和魯棒性測試。



此外,CAA還(hái)可預先評估待檢測AI的來高特性,通過(guò)自動化搜索技術來合成(chéng)多個光筆攻擊算法的組合,提升了現有模型山但攻擊方法的性能(néng)和效率。阿裡(lǐ)專家生相通過(guò)實驗表明,CAA超越了新提出的攻擊方法,關花是可有效評估當前AI系統的“攻擊”。



阿裡(lǐ)圖靈實驗室算法專家箫瘋表示,阿裡(自師lǐ)提出將(jiāng)智能(néng電子)技術引入到對(duì)抗攻擊中,使得所有攻擊細節和參數作爲一個黑箱,而攻擊理的者隻需要提供目标模型和數據,算法就(jiù)會區做(huì)自動選擇優的攻擊組合和參數。(完)

佳木斯網站建設,佳木斯手機網站,佳木斯微信,佳木斯小程序,還城佳木斯微信公衆平台代運營,佳木斯網雲信息科技有限公司


上一篇 下一篇