廣告
CARLA-GEAR: 為視覺模型對抗魯棒性系統(tǒng)評估的數(shù)據(jù)生成器
arXiv論文“CARLA-GEAR: A Dataset Generator for a Systematic evaluation of Adversarial Robustness of Vision Models“，22年6月，意大利。
本文介紹CARLA-GEAR，這是一種自動生成照片真實(shí)感合成數(shù)據(jù)集的工具，可用于系統(tǒng)評估NN對物理對抗patches的對抗魯棒性，比較不同對抗防御/檢測方法的性能。該工具構(gòu)建在CARLA模擬器上，用Python API在自動駕駛環(huán)境中為多個視覺任務(wù)生成數(shù)據(jù)集。生成的數(shù)據(jù)集包含的對抗patches貼到廣告牌或卡車后部，并通過最先進(jìn)的白盒（white-box）攻擊策略制作，最大限度地提高測試模型的預(yù)測誤差。
最后，本文提出一項(xiàng)實(shí)驗(yàn)研究，評估某些防御方法對此類攻擊的性能。所有代碼和數(shù)據(jù)集在http://carlagear.retis.santannapisa.it.
如圖說明一些代表性駕駛場景：考慮到城市場景中可能會放置對抗性patches（例如，在廣告牌或卡車上）和可選一個對抗性patch，CARLA-GEAR將這個parch附著在選定的表面上，并在場景周圍迭代放置車輛和附加的攝像頭，收集高清RGB圖像和真值標(biāo)簽，還有關(guān)于攝像機(jī)內(nèi)外參的附加信息，以及廣告牌在場景中的位置。
該流水線設(shè)計用于生成涉及自主駕駛感知四種不同計算機(jī)視覺任務(wù)的數(shù)據(jù)集。每個數(shù)據(jù)集旨在評估CNN的對抗魯棒性和/或在可能存在物理對抗攻擊的情況下（從攻擊場景庫中選擇）防御方法的性能。對于每種情況，在可攻擊表面的不同距離處迭代生成帶有攝像頭的自車，以及隨機(jī)的非表現(xiàn)角色（NPC，即車輛和行人）。該數(shù)據(jù)集由如此收集的RGB圖像和相應(yīng)的真值標(biāo)注組成，對于每個任務(wù)，這些標(biāo)注是不同的。
對抗場景主要是基于patches的真實(shí)對抗攻擊。該工具考慮兩種不同類型的情況：（i）道路一側(cè)的廣告牌上有一個patch（或在多patches攻擊的情況下，取兩個），以及（ii）在攝像機(jī)前面的卡車后面安插patch。每個廣告牌位置在yml文件中指定為廣告牌在地圖中的固定位置。同一文件指定了自車和NPC相對于廣告牌的生成位置限制。然后在這些限制內(nèi)隨機(jī)生成。這樣，就可以生成同一潛在危險場景的不同視圖。雖然廣告牌有固定的位置，但卡車在地圖中隨機(jī)生成，而自車在其后面以不同的隨機(jī)距離生成。
如圖是數(shù)據(jù)生成和收集的流水線：
通過迭代3個步驟來構(gòu)建數(shù)據(jù)集：（i）清理任何額外的車輛/行人，（ii）根據(jù)特定情況的生成限制生成自車、其傳感器和隨機(jī)NPC，（iii）保存RGB圖像、真值、廣告牌和攝像機(jī)姿態(tài)。
實(shí)驗(yàn)結(jié)果如下：（a） 每個任務(wù)的攻擊性能與用于優(yōu)化圖像不可知patches的樣本數(shù)有關(guān)。實(shí)驗(yàn)在billboard02上進(jìn)行了十次，每次實(shí)驗(yàn)都更換種子。虛線表示基線性能（隨機(jī)patches），而誤差條表示標(biāo)準(zhǔn)偏差。（b） CARLA的不同天氣預(yù)設(shè)對每個任務(wù)的基線性能（隨機(jī)patches）和攻擊有效性的影響。實(shí)驗(yàn)針對三種不同的攻擊情況進(jìn)行，不同的攝像機(jī)陽光相對方向。
廣告 編輯推薦
最新資訊
-
“汽車爬坡試驗(yàn)方法”將有國家標(biāo)準(zhǔn)
2026-03-03 12:44
-
十年耐久監(jiān)管時代：電池系統(tǒng)開發(fā)策略將如何
2026-03-03 12:44
-
聯(lián)合國法規(guī)R59對機(jī)動車備用消聲系統(tǒng)的工程
2026-03-03 12:08
-
聯(lián)合國法規(guī)R58對后下部防護(hù)裝置的工程化約
2026-03-03 12:07
-
聯(lián)合國法規(guī)R57對摩托車前照燈配光性能的工
2026-03-03 12:07
