近期，一些消費(fèi)者利用AI工具制作虛假圖片來騙取退款的行為，被部分商家在社交平臺(tái)上曝光，隨即引發(fā)熱議，AI軟件甚至又多了個(gè)“退款神器”的名頭。發(fā)霉的水果、破裂的鏡子、灑掉的奶茶……據(jù)記者了解，社交平臺(tái)上類似被商家披露的案例中，大多是消費(fèi)者對(duì)AI軟件下達(dá)指令，生成相應(yīng)的偽造圖片后，再聲稱貨品存在質(zhì)量問題，以此申請(qǐng)售后處理。

消費(fèi)者利用AI偽造商品有問題的圖片申請(qǐng)退款，這種行為該如何定性，是否涉嫌違法？平臺(tái)如果沒有盡到審核義務(wù)支持買家退款，商家損失怎么辦？監(jiān)管部門、電商平臺(tái)及商家可采取哪些具體措施予以監(jiān)管和遏制？

?案例一：偽造酸奶發(fā)霉圖片

△人工智能修改偽造的酸奶發(fā)霉圖片，原圖和偽造圖對(duì)比

△圖片偽造過程

?案例二：偽造蛋糕磕碰破損圖片及視頻

△人工智能修改偽造的網(wǎng)購蛋糕磕碰破損圖片，原圖和偽造圖對(duì)比

△圖片及視頻偽造生成過程

在社交平臺(tái)上，有商家曬出了一些所謂商品“瑕疵”圖，部分商品圖片似乎可以以假亂真，但是仔細(xì)看依舊有不少漏洞。例如修改后的圖片中，商品出現(xiàn)了不合邏輯、不合常理、不符合物理規(guī)律的變化等，部分圖片還留有“人工智能生成”的水印或者標(biāo)注。記者檢索發(fā)現(xiàn)，涉事商品大多為食品、生活用品等，雖然單價(jià)不高但是依舊引發(fā)討論。這種行為到底是“薅羊毛”還是涉嫌違法？

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)法治工作委員會(huì)副秘書長(zhǎng) 胡鋼：依照我國(guó)《民法典》和《消費(fèi)者權(quán)益保護(hù)法》的有關(guān)規(guī)定，消費(fèi)者應(yīng)當(dāng)遵循誠信原則，依法維護(hù)自身的合法權(quán)益。消保法實(shí)施條例也規(guī)定，消費(fèi)者通過造假、捏造事實(shí)等方式騙取經(jīng)營(yíng)者的賠償，或者對(duì)經(jīng)營(yíng)者進(jìn)行敲詐勒索的，不適用懲罰性賠償?shù)囊?guī)定。

北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任、教授 謝永江：如果是數(shù)額較小，消費(fèi)者可能涉嫌民事欺詐，商家可以要求返還貨款。如果涉及金額較大或者情節(jié)嚴(yán)重的，消費(fèi)者還可能構(gòu)成行政違法甚至涉嫌詐騙罪。

《治安管理處罰法》就有相關(guān)規(guī)定，這種詐騙要處5到10日的拘留或者2000以下的罰款，情節(jié)較重的話，要處10到15日拘留，3000以下的罰款。如果數(shù)額夠大，比如說3000以上達(dá)到這個(gè)刑事立案的標(biāo)準(zhǔn)，那可能構(gòu)成這個(gè)刑法上的詐騙罪了。

胡鋼表示，除了消費(fèi)者，不少經(jīng)營(yíng)者也利用人工智能等技術(shù)實(shí)施造假。同時(shí)，惡意索賠的消費(fèi)者畢竟僅占廣大消費(fèi)者中極少的部分。那么，如果平臺(tái)沒有盡到審核義務(wù)，支持買家“AI造假”退款，給商家造成損失怎么辦？

胡鋼：依照我國(guó)《網(wǎng)絡(luò)安全法》《電子商務(wù)法》等法律的有關(guān)規(guī)定，平臺(tái)經(jīng)營(yíng)者應(yīng)當(dāng)履行合理的身份核驗(yàn)、內(nèi)容審查、爭(zhēng)議調(diào)處等法定職責(zé)。平臺(tái)經(jīng)營(yíng)者沒有妥善盡到合理的審核義務(wù)和調(diào)處義務(wù)，造成平臺(tái)內(nèi)經(jīng)營(yíng)者損失的，平臺(tái)經(jīng)營(yíng)者應(yīng)當(dāng)與惡意索賠的消費(fèi)者共同承擔(dān)相應(yīng)的賠償責(zé)任。

記者也嘗試使用多款人工智能軟件進(jìn)行“復(fù)現(xiàn)”，發(fā)現(xiàn)部分生成結(jié)果的確可以以假亂真。

商家無法分辨誠實(shí)消費(fèi)者，不得不增加防偽成本，如錄制商品封裝過程等；消費(fèi)者難以甄別商家宣傳的真?zhèn)�，購物決策變得猶豫；平臺(tái)則陷入對(duì)交易雙方行為的審核困境。部分消費(fèi)者利用AI造假破壞市場(chǎng)環(huán)境，監(jiān)管部門、電商平臺(tái)及商家可采取哪些具體措施予以監(jiān)管和遏制？

面對(duì)AI偽造的退貨圖片，商家也探索應(yīng)用了一系列應(yīng)對(duì)措施。部分商家表示，對(duì)于“僅退款”的交易申請(qǐng)已經(jīng)提高審核門檻，例如要求買家提供不同角度的拍攝照片，甚至提供連續(xù)的視頻證據(jù)。還有的購物App要求必須通過自帶拍照功能拍攝商品圖片，無法從相冊(cè)選擇圖片。

胡鋼：從監(jiān)管部門而言，需要不斷完善相關(guān)法律法規(guī)，特別是及時(shí)出臺(tái)有關(guān)AI技術(shù)實(shí)施欺詐等違法行為的專門規(guī)定，或健全有關(guān)技術(shù)指南，從而明確其法律性質(zhì)和處罰標(biāo)準(zhǔn)。其次，要加強(qiáng)技術(shù)監(jiān)管，利用技術(shù)手段來強(qiáng)化對(duì)相關(guān)違法行為的監(jiān)測(cè)、識(shí)別和打擊力度，同時(shí)對(duì)個(gè)別典型的案例嚴(yán)格處罰，形成震懾效應(yīng)。

胡鋼認(rèn)為，要強(qiáng)化國(guó)家強(qiáng)制性標(biāo)準(zhǔn)的建設(shè)和實(shí)施，即強(qiáng)制要求人工智能技術(shù)生成的內(nèi)容必須帶有不可篡改的水印或標(biāo)識(shí)，以便及時(shí)識(shí)別和有效溯源。

胡鋼：對(duì)于電商平臺(tái)經(jīng)營(yíng)者而言，要強(qiáng)化其技術(shù)和管理措施，例如升級(jí)審核技術(shù)，優(yōu)化審核流程，并且加強(qiáng)對(duì)商家和消費(fèi)者的培訓(xùn)和支持。對(duì)于商家，需要強(qiáng)化證據(jù)留存，提高風(fēng)險(xiǎn)防范意識(shí)，并且積極有效維權(quán)。

為規(guī)范AI發(fā)展問題，自9月1日起，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已正式實(shí)施，明確規(guī)定AI生成內(nèi)容需要“持證上崗”，人工智能生成合成內(nèi)容應(yīng)有顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。但是新規(guī)并沒有就不進(jìn)行AI標(biāo)注的法律后果進(jìn)行明示。謝永江建議，對(duì)此類“僅退款”的申請(qǐng)，平臺(tái)方應(yīng)當(dāng)升級(jí)相應(yīng)的技術(shù)手段，對(duì)新規(guī)要求下的圖片或者視頻進(jìn)行實(shí)質(zhì)性審核，盡到合理的審查義務(wù)。

謝永江：平臺(tái)碰到這種新現(xiàn)象，它應(yīng)該對(duì)照片、圖片進(jìn)行實(shí)質(zhì)審核，判斷是否偽造，要有配套的技術(shù)手段，提高識(shí)別率。另外最好也聽取商家的意見，看看商家陳述，對(duì)于商家有救濟(jì)渠道。如果平臺(tái)沒有盡到審核義務(wù)的話，平臺(tái)方就有過錯(cuò)，如果對(duì)商家造成損害，也應(yīng)該承擔(dān)責(zé)任。

此外，謝永江還建議，構(gòu)建跨平臺(tái)消費(fèi)者信用聯(lián)動(dòng)機(jī)制，對(duì)此類惡意退款行為進(jìn)行限制，將不誠信消費(fèi)者納入征信體系。

謝永江：如果能夠跨平臺(tái)進(jìn)行信用聯(lián)動(dòng)，你在某平臺(tái)上用這種手段來申請(qǐng)退款，那在別的平臺(tái)上也把你列入相應(yīng)的黑名單或者是關(guān)注名單。對(duì)消費(fèi)者來講，如果惡意申請(qǐng)退款，那就付出相應(yīng)的代價(jià)。可以通過主管部門來牽頭，或者行業(yè)平臺(tái)來牽頭建立這種機(jī)制。