深圳新聞網(wǎng)2025年5月9日訊（深圳特區(qū)報記者 周元春）面對發(fā)展迅猛的人工智能，如何在用好AI的同時對其進行有效的監(jiān)管？近日，深圳市政協(xié)文化文史委以“生成式人工智能發(fā)展與管理”為主題，邀請政協(xié)委員、專家學者舉行“深聊會”，圍繞生成式人工智能生成內容和圖像對傳統(tǒng)的內容生產(chǎn)管理構成的挑戰(zhàn)，在完善相關法律法規(guī)、政策制度、應用規(guī)范、倫理準則、技術監(jiān)測、風險預警等方面提出前瞻性的思考。
版權概念或將因AI改寫
AI生成內容（AIGC）到底算不算“作品”？作品被當成免費“飼料”投喂給AI，版權該怎么保護？AI生成內容版權歸誰？
“深聊會”首先從AIGC的屬性和版權問題開聊。
市政協(xié)委員、深圳市作家協(xié)會副主席兼評論家協(xié)會副主席于愛成認為，從文本獨立性角度看，他傾向于AIGC算作品。但他也指出，目前對于AI“作品”仍有諸多疑問待進一步梳理和研究。
市政協(xié)委員、深圳報業(yè)集團法務部主任、市版權協(xié)會副會長申應東表示，依靠AI，一個博主一個人可以運營多達二三十個賬號，一天產(chǎn)生1000多條推文，這樣的行為是不是創(chuàng)作、算不算作品，目前很難界定。同時他也提出，當前版權概念是基于文字出版時代，在AI時代應該會被改寫。
在市政協(xié)委員、廣東微眾律師事務所主任黃德華看來，AIGC是新生事物，不能用現(xiàn)有的版權概念去評價，對于AIGC的版權保護或者運用，需突破傳統(tǒng)思維，構建新的規(guī)則體系。
“AI時代，未來的版權保護是不是也會轉化為數(shù)據(jù)思維，也就是所有投喂原創(chuàng)物料，都需要按次付費?！笔姓f(xié)委員、中國銀行深圳中心區(qū)管轄支行黨委書記、行長林華明提出新的思考。
應該為AI+政務上好“緊箍咒”
今年以來，多地政府部門在“AI+政務”上有了諸多嘗試。深聊會主持人、市政協(xié)委員、福田區(qū)融媒體和網(wǎng)信中心主任余治國認為，面對百萬級別居民的訴求，以人工智能方式實時收集，然后又分配指令給相應的政府相關部門，這樣的模式對未來政府管理可能帶來革命性的變化。
但AI在政務領域應用過程中，卻存在隱私泄露等風險，不僅威脅公民個人權益，也可能影響政府公信力和政務系統(tǒng)穩(wěn)定運行。
與會委員和專家學者認為，應該為AI+政務上好“緊箍咒”。在法律層面，應完善相關法律法規(guī)，明確數(shù)據(jù)收集、使用、存儲規(guī)則，加大對違規(guī)行為處罰力度；在技術層面，研發(fā)加密技術保護數(shù)據(jù)傳輸和存儲安全，利用AI技術監(jiān)測和預警隱私泄露風險；在管理層面，建立數(shù)據(jù)安全管理體系，規(guī)范人員操作，加強員工數(shù)據(jù)安全培訓。
為AI教育設邊界立規(guī)矩
AI既能幫忙寫作業(yè)，也能幫忙批改作業(yè)，如何給聰明的技術立規(guī)矩來避免教育上的濫用？如何守住教育“以人為本”的溫度？
“深聊”中，市政協(xié)常委、文化文史委主任尹昌龍認為AI若過度代勞學生作業(yè)等學習任務，會使學生失去自主學習和思考機會，不利于其心智成長。他建議，要設立AI在教育領域的使用邊界，避免其過度侵入導致學生失去學習興趣和生活熱情。
黃德華認為，AI在教育領域的應用是必然趨勢，應引導學生利用AI 構建主體性思維，培養(yǎng)千人千面的個性。
香港科技大學（廣州）人工智能學域副教授岳玉濤則認為，應當為AI在教育中的運用立規(guī)矩，如在學術研究中使用AI需作聲明，考試中要保證使用規(guī)則公平一致等。
AIGC應配水印“身份證”
當前，越來越多的AI詐騙案例引起社會關注。
榮耀終端股份公司安全技術專家鄧太生表示，AI通過模擬聲音、人臉增強了人們對它的信任感，從而使得受眾上當受騙的概率大了很多。在這種情況下，只能用“魔法打敗魔法”，用AI打敗AI。比如利用AI幫用戶檢測預警來電是不是用AI技術合成，包括聲音識別和視頻內容識別。
“技術上可采用加水印等手段，在生成圖像、視頻的算法中加入人眼不可見但算法易檢測的水印，以便追蹤和識別AI生成內容，配合法規(guī)要求算法應用必須備案，從技術和法規(guī)結合角度保障安全?！痹烙駶ㄗh。
