“完善生成式人工智能發(fā)展和管理機制。加強網(wǎng)絡空間法治建設，健全網(wǎng)絡生態(tài)治理長效機制，健全未成年人網(wǎng)絡保護工作體系?！秉h的二十屆三中全會通過的《中共中央關于進一步全面深化改革、推進中國式現(xiàn)代化的決定》對健全網(wǎng)絡綜合治理體系作出系統(tǒng)部署。

當前，我國網(wǎng)絡治理日趨系統(tǒng)和精細。2024年，監(jiān)管部門錨定人工智能治理、網(wǎng)絡暴力等內(nèi)容治理、網(wǎng)絡平臺算法治理、電信網(wǎng)絡詐騙治理四大重要著力點，推動網(wǎng)絡生態(tài)治理取得顯著進展，有效預防和遏制網(wǎng)絡違法犯罪。

人工智能治理

2024年，人工智能（AI）賽道火熱依舊。

相較于2023年AI大模型之間的百“?！贝髴?zhàn)，過去一年，我們能真切感受到AI應用開始深入我們生活的方方面面：生成式人工智能被用于文本、圖像、音視頻創(chuàng)作；自動駕駛在全球多個城市落地；AI機器人被投入各行各業(yè)……

人工智能釋放技術價值紅利的同時，帶來復雜風險挑戰(zhàn)，如何平衡發(fā)展與安全已成為構建人類命運共同體的重大課題。2024年，與AI應用廣泛落地相伴隨的是，全球加快推進人工智能治理與監(jiān)管，我國亦不例外。

生成式人工智能的廣泛應用，使得如“AI換臉”等濫用“深度偽造”技術的事件頻頻上演，在帶來安全倫理爭議的同時，也存在侵犯人身權、知識產(chǎn)權等法律風險。

2024年2月，廣州互聯(lián)網(wǎng)法院宣判全球首例生成式人工智能服務侵犯他人著作權案；同年4月，北京互聯(lián)網(wǎng)法院審理的全國首例AI生成聲音人格權侵權案一審宣判，認定在具備可識別性的前提下，自然人聲音權益保護范圍可及于AI生成聲音；6月，北京互聯(lián)網(wǎng)法院審理的國內(nèi)首例“AI文生圖”著作權案入選2024中國數(shù)字經(jīng)濟發(fā)展與法治建設十個重大影響力事件。

同年9月，國家網(wǎng)信辦公布了《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》以及配套強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法（征求意見稿）》，擬全方位、多層次地規(guī)范人工智能內(nèi)容標識要求和方法。12月，廣電總局網(wǎng)絡視聽司發(fā)布《管理提示(AI魔改)》，對“AI魔改視頻”出手管理。

與此同時，據(jù)《法治周末》記者不完全統(tǒng)計，2024年間，至少有北京、廣東、江蘇、四川等11個省區(qū)市出臺人工智能相關產(chǎn)業(yè)行動計劃或措施文件。

這一年，世界范圍內(nèi)，各主要經(jīng)濟體醞釀多年的人工智能立法實踐陸續(xù)進入成熟期。已成為人工智能大國的中國，也在積極參與制定全球人工智能“游戲規(guī)則”。

2024年5月，中美人工智能政府間對話首次會議舉行；同月，《中華人民共和國和法蘭西共和國關于人工智能和全球治理的聯(lián)合聲明》發(fā)布；7月1日，第78屆聯(lián)合國大會協(xié)商一致通過中國主提的加強人工智能能力建設國際合作決議，140多個國家參加決議聯(lián)署；3天后，《人工智能全球治理上海宣言》發(fā)表，倡導建立全球范圍內(nèi)的人工智能治理機制。

網(wǎng)絡暴力等內(nèi)容治理

除了人工智能治理，2024年的網(wǎng)絡生態(tài)治理，互聯(lián)網(wǎng)信息內(nèi)容治理仍是重要的一環(huán)。其中，包括網(wǎng)絡暴力、自媒體、直播、網(wǎng)絡語言等多個方面。

2024年3月，最高人民法院工作報告提出，從嚴懲治網(wǎng)絡暴力。針對網(wǎng)絡暴力“按鍵傷人”“按鍵殺人”，嚴重擾亂社會秩序，會同最高人民檢察院、公安部出臺司法政策，嚴懲網(wǎng)暴惡意發(fā)起者、組織者及屢教不改者。

同年6月，國家網(wǎng)信辦、公安部、文化和旅游部、廣電總局公布《網(wǎng)絡暴力信息治理規(guī)定》（以下簡稱《規(guī)定》）。《規(guī)定》作為我國首部反網(wǎng)絡暴力的專門部門規(guī)章，標志著我國網(wǎng)絡暴力治理法規(guī)制度體系建設取得新的重要進展，網(wǎng)絡暴力治理法治基石進一步筑牢夯實。

2024年12月28日，由《澎湃新聞》牽頭發(fā)起、上海市委網(wǎng)信辦指導成立的“數(shù)字內(nèi)容生態(tài)實驗室”發(fā)布的《反網(wǎng)絡暴力研究報告》指出，網(wǎng)絡暴力的形式正在不斷翻新，主要包括“編造散播謠言”“挑動對立歧視”“侵犯公民隱私”“破壞營商環(huán)境”等方面，嚴重破壞了網(wǎng)絡秩序和生態(tài)。

記者通過中央網(wǎng)信辦舉報中心透露的數(shù)據(jù)統(tǒng)計發(fā)現(xiàn)，去年1月至11月間，全國受理色情、賭博、侵權、謠言等違法和不良信息約2.09萬件，而2023年全年受理網(wǎng)絡違法和不良信息舉報為2.06萬件。

而這些違法和不良信息就是互聯(lián)網(wǎng)內(nèi)容生態(tài)治理的對象，中央網(wǎng)信辦部署的2024年“清朗”系列專項行動也從多維度對這些內(nèi)容進行了治理。

自2024年1月開始，“清朗·2024年春節(jié)網(wǎng)絡環(huán)境整治”“清朗·優(yōu)化營商網(wǎng)絡環(huán)境——整治涉企侵權信息亂象”“清朗·整治‘自媒體’無底線博流量”“清朗·打擊違法信息外鏈”“清朗·網(wǎng)絡直播領域虛假和低俗亂象整治”“清朗·規(guī)范網(wǎng)絡語言文字使用”“清朗·同城版塊信息內(nèi)容問題整治”等多個專項行動，陸續(xù)展開。

與此同時，QQ、微博、抖音等多個平臺也在加強自治。以QQ為例，平臺對相關違規(guī)內(nèi)容進行常態(tài)化治理，2024年第四季度累計處置涉未成年人風險賬號超3000個、涉未成年人不良內(nèi)容4.7萬余條；并從源頭上遏制“網(wǎng)絡水軍”的活動空間，第四季度平臺處置網(wǎng)絡水軍相關違規(guī)內(nèi)容超4.7萬條，封禁2974個違規(guī)賬號和3003個違規(guī)群組。

網(wǎng)絡平臺算法治理

無論是人工智能帶來的亂象，還是網(wǎng)絡違法不良信息內(nèi)容，那都是網(wǎng)民們看得見的表象。其呈現(xiàn)的背后都離不開一個詞——算法，算法塑造著當下的互聯(lián)網(wǎng)世界。

“算法是一把‘有善有惡’的‘雙刃劍’，要看人怎么用，但是人性和商業(yè)的準則，往往會共同把它推向惡的一邊。在這樣的情況下，每個人都無法躲避?！?024年12月22日，在浙江大學城市學院舉行的“2024中國視頻節(jié)目年度掌聲·噓聲”發(fā)布活動現(xiàn)場，中央廣播電視總臺主持人白巖松表示。這場活動上，年度唯一的“噓聲”指向了“算法亂象”。

而在一個多月前，同年11月20日，農(nóng)夫山泉董事長鐘睒睒公開指責平臺在算法流量管理方面的不作為，導致了他本人和他的企業(yè)受到了無端攻擊。正是在這一個月，一場針對網(wǎng)絡平臺算法的治理行動拉開了序幕。

中央網(wǎng)信辦秘書局等四部門聯(lián)合印發(fā)通知，為進一步深化互聯(lián)網(wǎng)信息服務算法綜合治理，自2024年11月12日起至2025年2月14日開展“清朗·網(wǎng)絡平臺算法典型問題治理”專項行動，矛頭直指同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預榜單炒作熱點、盲目追求利益侵害新就業(yè)形態(tài)勞動者權益、利用算法實施大數(shù)據(jù)“殺熟”、算法向上向善服務缺失侵害用戶合法權益等現(xiàn)實問題。

在中國法學會副會長姜偉看來，網(wǎng)絡平臺的算法亂象直接損害網(wǎng)民權益。“清朗·網(wǎng)絡平臺算法典型問題治理”專項行動主題明確，具有鮮明的價值取向、鮮明的政策導向與鮮明的問題靶向。

專項行動展開后，北京、上海、廣東等地紛紛開設相關線索舉報渠道。近期，上海市委網(wǎng)信辦聯(lián)合相關部門召開算法治理合規(guī)指導會，對嗶哩嗶哩、小紅書、拼多多、攜程、餓了么等100余家上海屬地網(wǎng)站平臺開展行政指導和普法培訓。

而企業(yè)的自查自糾工作也在進行，2024年12月27日，美團發(fā)布公告稱，針對平臺算法典型問題，近期擬采取以下八項改進舉措，如推進算法公開常態(tài)化等。

電信網(wǎng)絡詐騙治理

推動良好的網(wǎng)絡生態(tài)，離不開對網(wǎng)絡犯罪的依法懲治和有效預防，而打擊電信網(wǎng)絡詐騙犯罪一直是近年來的治理難點和重點。

2024年以來，公安部等相關部門保持對電信網(wǎng)絡詐騙犯罪的高壓態(tài)勢，統(tǒng)籌推進打防管控建各項措施，打擊治理工作取得明顯成效，電信網(wǎng)絡詐騙犯罪上升勢頭得到有效遏制。據(jù)最高檢、公安部透露的數(shù)據(jù)，僅2024年1月至10月，共緊急止付群眾被騙資金2359億元，使眾多受害群眾免受重大經(jīng)濟損失。

2024年12月30日，浙江省溫州市人民檢察院經(jīng)依法審查，對緬北果敢明家犯罪集團成員及關聯(lián)犯罪集團成員明國平、明珍珍等39人，依法提起公訴。而這只是相關部門持續(xù)對跨境電信網(wǎng)絡詐騙進行打擊的一個縮影。

同年1月，中緬聯(lián)合打擊跨國電信網(wǎng)絡詐騙犯罪取得標志性重大戰(zhàn)果，白所成等10名緬北重大犯罪嫌疑人被成功押解回國；4月，中老警方聯(lián)合打擊跨境犯罪，250名實施跨境裸聊敲詐和電信網(wǎng)絡詐騙的犯罪嫌疑人被移交我國警方；11月，中柬警方年內(nèi)第二次開展包機押解遣返聯(lián)合行動。

而在2024年6月，最高法、最高檢、公安部發(fā)布《關于辦理跨境電信網(wǎng)絡詐騙等刑事案件適用法律若干問題的意見》，為依法嚴厲打擊跨境電信網(wǎng)絡詐騙等犯罪提供了指導。7月，“兩高一部”發(fā)布依法懲治跨境電信網(wǎng)絡詐騙及其關聯(lián)犯罪典型案例；12月，最高檢、公安部聯(lián)合掛牌督辦第四批8起特大跨境電信網(wǎng)絡詐騙犯罪案件。

2024年12月1日，正值反電信網(wǎng)絡詐騙法施行兩周年。就在這一天，公安部等4部門聯(lián)合印發(fā)的《電信網(wǎng)絡詐騙及其關聯(lián)違法犯罪聯(lián)合懲戒辦法》施行，為打擊治理涉詐黑灰產(chǎn)犯罪提供有效的懲戒手段和政策依據(jù)，電信網(wǎng)絡詐騙犯罪的打擊治理法律體系進一步完善。