全部商品分類
言必談ＡＩ、文必查ＤｅｅｐＳｅｅｋ，生成式 ＡＩ 儼然成為今年的潮流所向?？稍谙硎埽粒蓭碇T多便利的同時，我們也應(yīng)該注意它背后的風(fēng)險。
以醫(yī)療行業(yè)為例，具備強大邏輯推理能力的ＡＩ很會編數(shù)據(jù)，它能生成不存在的規(guī)范條例，編造不存在的事實，同時讓人難以辨別真?zhèn)?。比如說首次通過ＤｅｅｐＳｅｅｋ遠程手術(shù)系統(tǒng)完成顱腦血腫清除術(shù)。
一位醫(yī)生也曾告訴健康界，甚至根據(jù)病人的診斷記錄，利用算法和邏輯推理出一段病理數(shù)據(jù)，完全看不出來是假的，甚至高年資的醫(yī)生也無法分辨出真假。
據(jù)報道，來自上海市兒童醫(yī)院的科普達人「志玲姐姐」李志玲就曾表示，科普人最大的煩惱就是「造謠一張嘴，辟謠跑斷腿」。在ＡＩＧＣ（人工智能生成內(nèi)容）技術(shù)的「加持」下，只需幾秒，就可批量生產(chǎn)偽科普作品。
ＡＩ生成的內(nèi)容究竟能不能信？能不能用？這取決于使用者的判斷。因此，更多專家呼吁，必須要合理合法使用ＡＩ，正視ＡＩ的幻覺，出臺相關(guān)的法律規(guī)范做好監(jiān)督引導(dǎo)。
３ 月?。保础∪眨瑖一ヂ?lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），自２０２５年９月１日起施行。
該《標(biāo)識辦法》將以內(nèi)容標(biāo)識為抓手，細化前期相關(guān)部門規(guī)章的標(biāo)識相關(guān)要求，進一步發(fā)揮內(nèi)容標(biāo)識提醒提示和監(jiān)督溯源的技術(shù)作用。
《標(biāo)識辦法》明確規(guī)定，人工智能生成合成內(nèi)容標(biāo)識主要包括顯式標(biāo)識和隱式標(biāo)識兩種形式，顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。
同時，《標(biāo)識辦法》還強調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。
有觀點指出，這項以「透明標(biāo)識」為核心的管理制度，不僅是對技術(shù)狂飆的理性回應(yīng)，更構(gòu)建起數(shù)字文明時代的新型社會契約，其積極影響正在多個維度顯現(xiàn)。
《中國科學(xué)報》的一篇文章中這樣寫道，科學(xué)技術(shù)的發(fā)展史，也是一部科技倫理不斷對新技術(shù)進行必要約束的歷史。對ＡＩ生成內(nèi)容進行顯著標(biāo)識，一方面體現(xiàn)了對公眾知情權(quán)的基本尊重，能夠起到提醒作用；另一方面，也讓一些人不能掩耳盜鈴地把ＡＩ創(chuàng)作據(jù)為己有，盡到了起碼的倫理責(zé)任。
針對一些用戶過分仰仗簡單提示詞，隨意將?。粒伞∩蓛?nèi)容用于商業(yè)目的，造成侵權(quán)。清華大學(xué)沈陽教授在受訪時建議，一方面用戶要謹(jǐn)慎將?。粒伞∩蓛?nèi)容用于商業(yè)目的，另一方面，如用戶想要將 ＡＩ 生成內(nèi)容賦予知識產(chǎn)權(quán)，需融入自己的獨創(chuàng)性提示詞內(nèi)容，在不侵犯他人?。桑小『秃戏?quán)益的前提下，通過相應(yīng)渠道進行知識產(chǎn)權(quán)聲明，以此維護自身合法權(quán)益。
以下為《標(biāo)識辦法》原文：
第一條 為了促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，保護公民、法人和其他組織合法權(quán)益，維護社會公共利益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律、行政法規(guī)和部門規(guī)章，制定本辦法。
第二條 符合《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者（以下簡稱“服務(wù)提供者”）開展人工智能生成合成內(nèi)容標(biāo)識活動，適用本辦法。
第三條 人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。
人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。
顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識。隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。
第四條 服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照下列要求對生成合成內(nèi)容添加顯式標(biāo)識：
（一）在文本的起始、末尾或者中間適當(dāng)位置添加文字提示或者通用符號提示等標(biāo)識，或者在交互場景界面、文字周邊添加顯著的提示標(biāo)識；
（二）在音頻的起始、末尾或者中間適當(dāng)位置添加語音提示或者音頻節(jié)奏提示等標(biāo)識，或者在交互場景界面中添加顯著的提示標(biāo)識；
（三）在圖片的適當(dāng)位置添加顯著的提示標(biāo)識；
（四）在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識，可以在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識；
（五）呈現(xiàn)虛擬場景時，在起始畫面的適當(dāng)位置添加顯著的提示標(biāo)識，可以在虛擬場景持續(xù)服務(wù)過程中的適當(dāng)位置添加顯著的提示標(biāo)識；
（六）其他生成合成服務(wù)場景根據(jù)自身應(yīng)用特點添加顯著的提示標(biāo)識。
服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識。
第五條 服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。
鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識。
文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容。
第六條 提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施，規(guī)范生成合成內(nèi)容傳播活動：
（一）核驗文件元數(shù)據(jù)中是否含有隱式標(biāo)識，文件元數(shù)據(jù)明確標(biāo)明為生成合成內(nèi)容的，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，明確提醒公眾該內(nèi)容屬于生成合成內(nèi)容；
（二）文件元數(shù)據(jù)中未核驗到隱式標(biāo)識，但用戶聲明為生成合成內(nèi)容的，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，提醒公眾該內(nèi)容可能為生成合成內(nèi)容；
（三）文件元數(shù)據(jù)中未核驗到隱式標(biāo)識，用戶也未聲明為生成合成內(nèi)容，但提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者檢測到顯式標(biāo)識或者其他生成合成痕跡的，識別為疑似生成合成內(nèi)容，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，提醒公眾該內(nèi)容疑似生成合成內(nèi)容；
（四）提供必要的標(biāo)識功能，并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。
有前款第一項至第三項情形的，應(yīng)當(dāng)在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺名稱或者編碼、內(nèi)容編號等傳播要素信息。
第七條
互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)。互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者提供人工智能生成合成服務(wù)的，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料。
第八條
服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關(guān)的標(biāo)識管理要求。
第九條
用戶申請服務(wù)提供者提供沒有添加顯式標(biāo)識的生成合成內(nèi)容的，服務(wù)提供者可以在通過用戶協(xié)議明確用戶的標(biāo)識義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識的生成合成內(nèi)容，并依法留存提供對象信息等相關(guān)日志不少于六個月。
第十條
用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進行標(biāo)識。
任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。
第十一條 服務(wù)提供者開展標(biāo)識活動的，還應(yīng)當(dāng)符合相關(guān)法律、行政法規(guī)、部門規(guī)章和強制性國家標(biāo)準(zhǔn)的要求。
第十二條 服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識相關(guān)材料，并加強標(biāo)識信息共享，為防范打擊相關(guān)違法犯罪活動提供支持和幫助。
第十三條 違反本辦法規(guī)定的，由網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。
第十四條 本辦法自２０２５年９月１日起施行。
參考資料：
關(guān)于印發(fā)《人工智能生成合成內(nèi)容標(biāo)識辦法》的通知，網(wǎng)信中國，３．１４
注：文章來源于網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系刪除
