惠州頭條 掌中惠州
東江輿情研究院 東江創(chuàng)新發(fā)展研究院 東江云媒大數(shù)據(jù)研究院 惠州東江圖片社
東江品牌聯(lián)盟 粵港澳大灣區(qū)主流媒體聯(lián)盟 東籬俱樂部 超網(wǎng)新媒體公司 教育投資公司 報業(yè)印務公司 報業(yè)發(fā)行公司 新文創(chuàng)公司 惠報廣告公司 惠品匯 農(nóng)產(chǎn)品展銷中心 文化藝術發(fā)展中心 惠州日報國旅 教育文化傳播公司 出版公司 天堃文化公司 迭代智能科技公司 惠州國畫院
演播廳 會議室
6月22日，記者獲悉，“網(wǎng)信中國”公眾號日前公布，“清朗·整治AI技術濫用”專項行動自2025年4月啟動以來，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權益、AI內(nèi)容標識缺失誤導公眾等AI技術濫用亂象，深入推進第一階段重點整治任務，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點網(wǎng)站平臺健全技術安全保障措施，推動生成合成內(nèi)容標識加速落地。
第一階段累計處置違規(guī)小程序、應用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個，各項工作取得積極進展。
據(jù)了解，重點網(wǎng)站平臺加強AI技術濫用源頭治理。其中，在處置違規(guī)AI產(chǎn)品方面，騰訊規(guī)范應用程序管理，提高準入門檻，優(yōu)化巡查機制，駁回、處置違規(guī)小程序、應用程序等共計570余款。
在清理違規(guī)AI產(chǎn)品教程和商品方面，微博通過策略識別、用戶舉報等多渠道審核，累計處置違規(guī)內(nèi)容4800余條，并公布典型案例。
在加強訓練語料管理方面，通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系，在數(shù)據(jù)采集、訓練、使用等階段加強訓練語料管理。
在強化安全管理措施方面，抖音建立“紅藍對抗”機制，模擬攻擊案例，修復潛在安全漏洞，優(yōu)化模型對虛假信息的識別能力。
在落實內(nèi)容標識要求方面，阿里、快手、稀宇等重點平臺積極推進元數(shù)據(jù)隱式標識落地落實。在防范重點領域安全風險方面，小紅書在模型后置訓練階段輸入專業(yè)領域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點領域問題的理解能力。
據(jù)悉，下一步，中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類突出問題，開展“清朗·整治AI技術濫用”專項行動第二階段工作，構(gòu)建技術監(jiān)測體系，形成處置處罰規(guī)范，推動內(nèi)容標識如期落地，形成長效工作機制，著力維護清朗網(wǎng)絡生態(tài)，推動人工智能向善向好。
文/廣州日報新花城記者：文靜
