国产亚洲Aⅴ在线观看,精品福利视频一区二区三区,亚洲免费黄片基地,国产精品亚洲产品一区二区三区

  1. <rp id="zzmwn"><menuitem id="zzmwn"></menuitem></rp>
      <u id="zzmwn"><p id="zzmwn"></p></u>
    1. <source id="zzmwn"><menu id="zzmwn"></menu></source>
    2. <b id="zzmwn"><address id="zzmwn"></address></b>

      <source id="zzmwn"></source>
      駐馬店融媒宣傳下載
      您當前所在位置:駐馬店廣視網(wǎng)>法治> 正文

      分 享 至 手 機

      謹防人工智能濫用 規(guī)范信息內(nèi)容生成

      時間:2023-09-10 09:16:29|來源:法治日報|點擊量:25187

      趙精武

      ChatGPT等生成式人工智能服務(wù)打破了社會公眾對人工智能技術(shù)應(yīng)用的傳統(tǒng)認知,其生成內(nèi)容具有高度的智能化、仿真性特征,在特定情況下,甚至能夠替代人工生成相關(guān)營銷文案等信息內(nèi)容。倘若不事前標注網(wǎng)絡(luò)信息內(nèi)容是通過人工智能技術(shù)所生成,一般人甚至無法直接區(qū)分是不是人工撰寫內(nèi)容。在新聞出版行業(yè),部分新聞媒體已經(jīng)在嘗試開設(shè)專版,該版面主要呈現(xiàn)人工智能技術(shù)生成的新聞內(nèi)容??梢哉f,一旦生成式人工智能技術(shù)得到廣泛普及,社會生產(chǎn)方式和分工架構(gòu)必然會發(fā)生顛覆性變化。

      然而,技術(shù)雙刃劍的魔咒同樣存在于人工智能領(lǐng)域。生成式人工智能技術(shù)應(yīng)用的最大優(yōu)勢在于能夠在短時間內(nèi)批量生成同質(zhì)性的網(wǎng)絡(luò)信息內(nèi)容,一旦這種技術(shù)優(yōu)勢被應(yīng)用于電信詐騙、網(wǎng)絡(luò)造謠等違法犯罪活動,既會對網(wǎng)絡(luò)輿論生態(tài)造成毀滅性破壞,也會對國家安全和社會穩(wěn)定產(chǎn)生重大威脅。事實上,在我國已經(jīng)出現(xiàn)了非法濫用生成式人工智能技術(shù)的案例:湖南省耒陽市公安局網(wǎng)安大隊發(fā)現(xiàn)犯罪嫌疑人利用AI智能工具制作、傳播虛假新聞;河南省鄭州市公安局航空港分局發(fā)現(xiàn)犯罪嫌疑人利用AI軟件渲染修改新聞報道;內(nèi)蒙古自治區(qū)包頭市公安局破獲一起利用“AI換臉”進行電信詐騙的案件,等等。

      面對日趨嚴峻的人工智能技術(shù)濫用風險,國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱《辦法》),自2023年8月15日起施行。

      《辦法》囊括了監(jiān)管機構(gòu)、信息服務(wù)提供者、用戶等主體的法律義務(wù)。尤其在第三章“服務(wù)規(guī)范”中,更是明確信息服務(wù)提供者應(yīng)當采取顯著標識、違法內(nèi)容應(yīng)急處置等措施,控制違法不良信息惡意生成的風險水平。《辦法》與《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)共同構(gòu)成了網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理體系,在傳播網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)暴力、虛假信息等傳統(tǒng)網(wǎng)絡(luò)信息內(nèi)容治理路徑之外,補全了機器批量生成違法不良信息的治理模式。更重要的是,《辦法》不僅對用戶終端層面所生成的信息內(nèi)容類型作出了明確限定,更對相關(guān)產(chǎn)品或服務(wù)的研發(fā)設(shè)計階段提出具體的監(jiān)管要求。例如,《辦法》要求相關(guān)服務(wù)提供者在進行預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動時,應(yīng)當采取有效措施提高訓練數(shù)據(jù)質(zhì)量,以此提升生成內(nèi)容的合法性與合理性。

      具體而言,《辦法》在規(guī)范信息內(nèi)容生成層面提出了四個方面的監(jiān)管要求:第一,繼續(xù)延續(xù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的既有規(guī)定,信息服務(wù)提供者應(yīng)當對圖片、視頻等生成內(nèi)容進行諸如“該圖片由人工智能自動生成”等顯著標識。之所以特別強調(diào)圖片、視頻等信息類型,是因為圖片、視頻無法輕易修改以及“有圖有真相”的認知邏輯使得傳統(tǒng)的辟謠難度和辟謠成本大大增加,社會公眾也無法在足以以假亂真的圖片、視頻等信息內(nèi)容中辨別真?zhèn)巍?/p>

      第二,信息服務(wù)提供者應(yīng)當設(shè)置違法內(nèi)容應(yīng)急處置機制。一旦發(fā)現(xiàn)用戶有意生成違法不良信息或者相關(guān)人工智能服務(wù)可能會自動生成違法不良信息時,提供者應(yīng)當立即采取停止生成、停止傳輸、消除等處置措施,同時,也應(yīng)當對算法模型進行優(yōu)化訓練。這些處置措施主要根據(jù)實際情況、整改成本以及技術(shù)可行性等要素予以確定,并不局限于前述措施。此外,提供者還需要及時就生成式人工智能服務(wù)可能生成違法不良信息以及準確采取的處置措施向主管部門報告。

      第三,信息服務(wù)提供者應(yīng)當對使用者的違法行為進行及時處置。從網(wǎng)絡(luò)信息傳播方式來看,從用戶端限制違法不良信息傳播的實際效果遠遠不如從服務(wù)端控制用戶使用行為的效果。因此,《辦法》明確要求信息服務(wù)提供者在發(fā)現(xiàn)用戶利用生成式人工智能服務(wù)從事違法活動時,理應(yīng)對其賬號及其權(quán)限采取處置措施,包括但不限于警示、限制功能、暫?;蛘呓K止向其提供服務(wù)等。同時,信息服務(wù)提供者還應(yīng)當對違法行為以及采取的措施如實記錄并留存,向主管部門報告相關(guān)違法事實。

      第四,信息服務(wù)提供者還應(yīng)當設(shè)置運行有效的投訴、舉報機制。投訴、舉報的事項除了用戶個體權(quán)益受損的侵權(quán)事實之外,還應(yīng)當包括用戶所發(fā)現(xiàn)的生成式人工智能服務(wù)被濫用的事實。并且,《辦法》還強調(diào)信息服務(wù)提供者所設(shè)置的投訴、舉報入口應(yīng)當便于公眾訪問,且在合理期限內(nèi)及時向公眾反饋處理結(jié)果。

      預防技術(shù)濫用風險不能簡單等同于限制技術(shù)發(fā)展,規(guī)范網(wǎng)絡(luò)信息內(nèi)容生成的關(guān)鍵應(yīng)當回歸至多方治理主體共同參與的話語體系之中。在《辦法》中,明確提及了立法目的是促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,而非以安全保障限制技術(shù)創(chuàng)新發(fā)展?!掇k法》體現(xiàn)了協(xié)同治理和系統(tǒng)治理的創(chuàng)新性治理理念,一方面,明確信息服務(wù)提供者在研發(fā)設(shè)計、技術(shù)應(yīng)用和服務(wù)反饋等各個階段的風險預防義務(wù)之外,形成全流程、全環(huán)節(jié)的治理機制;另一方面,明確監(jiān)管機構(gòu)、信息服務(wù)提供者、信息服務(wù)使用者各自的法律義務(wù),形成協(xié)同式、系統(tǒng)性的治理架構(gòu)。

      (作者系北京航空航天大學法學院副教授)

      免責聲明:凡本網(wǎng)注明“來源:XXX(非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺)”的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責,作品版權(quán)歸原作者所有,如有侵犯您的原創(chuàng)版權(quán)請告知,我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品,拒絕任何不保留版權(quán)的轉(zhuǎn)載,如需轉(zhuǎn)載請標注來源并添加本文鏈接:http://lrxmxut.cn/fazhi/show-124-299534-0.html,否則承擔相應(yīng)法律后果。