外國人熟練演唱中文歌曲、銀發奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，“細節滿滿”讓很多網友信以為真。記者調查發現，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現。近期，多個平臺對“AI起號”現象開展專項治理行動，清理違規內容并封禁部分賬號（據8月11日新華網）。
所謂“起號”，即通過批量生產內容快速積累粉絲、提升賬號商業價值，進而形成可交易或變現的網絡資產。隨著生成式AI工具的普及，“起號”門檻大幅降低。在“單賬號月入過萬”的利益驅動下，一些操作者瞄準情感、養生、美妝等易引發共情的領域，用AI生成“銀發奶奶”“美女博主”等形象精準吸引特定群體，通過電商帶貨、賬號轉賣等方式變現，形成“起號、轉型、轉賣”的灰色產業鏈。
從法律層面來看，AI造假起號絕非技術游戲，而是涉嫌多項違法的嚴肅問題。根據反電信網絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯網賬號，情節嚴重者可追究刑事責任。同時，廣告法明確禁止虛假宣傳，AI生成的虛擬人物若隱瞞“非真人”身份進行商業推廣，已涉嫌欺騙消費者，經營者需承擔相應責任。平臺作為網絡服務提供者，若未履行審核義務，放任虛假賬號泛濫，同樣需要承擔管理責任。
治理此類亂象，面臨著多重現實挑戰。一方面，技術對抗的“貓鼠游戲”持續上演，造假者通過壓縮文件、修改代碼等方式規避平臺AI識別，增加了監管難度；另一方面，法律適用存在模糊地帶，AI生成內容的標注義務、虛擬賬號的歸屬等問題缺乏細化規定，導致追責時常陷入“取證難、認定難”困境。加之賬號交易多通過加密聊天工具進行，資金流向隱蔽，也給溯源打擊帶來挑戰。
技術每前進一步，治理就要跟進一步。事實上，監管部門的治理腳步從未停歇。中央網信辦今年4月啟動的“清朗·整治AI技術濫用”專項行動，7月開展的“清朗·整治‘自媒體’發布不實信息”專項行動，均將AI造假列為重點整治內容，體現了對新技術濫用問題的高度重視。
魔高一尺，道高一丈。考慮到如今AI造假能力之強，要徹底鏟除AI造假“起號”的灰色產業鏈，關鍵在于以技術優勢形成絕對壓制。相較于不法分子，監管部門與網絡平臺手握更雄厚的技術資源、更完整的數據鏈條和更強大的研發能力，能夠通過技術賦能實現對新技術違法犯罪的“冒頭即打、露頭就滅”。平臺需構建“識別—攔截—溯源”技術體系，用深度模型精準識別偽裝的AI內容，建立違規賬號“黑名單”，定向阻斷變現鏈條，讓造假者無利可圖。監管部門可搭建全國性監測平臺，追蹤賬號交易異常，解碼隱蔽交易信息，聯動打擊產業鏈節點。同時，要暢通技術化舉報渠道，形成全民監督合力，讓灰色產業鏈失去滋生土壤。
AI的價值在于擬人化服務而非擬人化欺騙，在于賦能發展而非助力亂象。我們期待以專項行動為契機，加快推動AI造假治理向以技術對技術、以技術管技術的進階，讓數字空間真正成為滋養文明的沃土。
（責任編輯：梁艷）
晉公網安備 14090202000008號 
