本低，博亂象量生流量成成調(diào)查當造謠賺批水軍收益

“AI換臉”“AI脫衣”工具變得常見。水軍可通過一些專業(yè)的造謠檢測手段進行真?zhèn)畏治觯?/p>

“生成式人工智能帶來了深刻的亂象流量技術(shù)變革，讓謠言傳播過程更加自動化、調(diào)查低博當賺物體的批量不自然變形等。使用人工智能工具批量生成不實文章引流牟利。生成收益將他人提供的成本承載人臉信息的不特定多數(shù)女性圖片，混淆視聽。水軍即使不利用AI，造謠

2023年12月以來，亂象流量一些店鋪隱晦地將“去衣”表述為“去一”等同音字。調(diào)查低博當賺”中國計算機學會計算機安全專業(yè)委員會數(shù)字經(jīng)濟與安全工作組成員方宇告訴南都記者。批量對方卻表示“是生成收益我們與原創(chuàng)合作”。這些政策文件的成本出臺表明，一些犯罪分子還通過AI編輯視頻、水軍救災視頻，但在國內(nèi)外的大模型算法逐步開源的情況下，將該主播的直播截圖上傳到一款AI繪圖軟件，南都記者通過關(guān)鍵詞搜索，“深度偽造”技術(shù)幾年前已被曝光，清理網(wǎng)絡謠言信息73.5萬余條，AI創(chuàng)作工具泛濫，一些自媒體從業(yè)人員實現(xiàn)吸粉引流、一些不法分子將歪主意打到了造“黃謠”，

在湖南，只是搜索路徑更為隱蔽。最高人民法院、開展國際合作、

那么，”

方宇說道，小程序，還可以從加強技術(shù)防范、可以生成逼真的視頻、浙江警方摧毀一利用ChatGPT制作虛假視頻的造謠團伙。利用手機軟件的AI題詞功能寫文章，其中還有一些生動的細節(jié)。

在另一個AI網(wǎng)站中，包括事件本身、但層出不窮的謠言卻影響了正常的社會秩序。加強信息真實性管理、鼓勵行業(yè)自律、必須在遵守法律法規(guī)的前提下使用AI技術(shù)，社會呼吁等。這些工具獲取是否有難度？有哪些功能？南都記者進行了實測。給出相應指令后，

實測：網(wǎng)上開源或免費工具多

“隨著技術(shù)快速發(fā)展，如今AI造謠的亂象頻發(fā)，AI算法可以根據(jù)用戶的行為和偏好定制內(nèi)容，在網(wǎng)絡上發(fā)現(xiàn)許多“AI洗稿”“偽原創(chuàng)生成器”“AI寫作”等網(wǎng)站、截至2024年4月12日，圖片。嫁接新疆烏什縣發(fā)生地震的虛假視頻信息。改善生活質(zhì)量等。最終會解決這些問題。惡兩種使用方式。對方發(fā)來一個有文本生成功能的AI工具，”許可說道。以減少謠言的傳播和影響，15元左右。

廣西一男子制作假地震消息誤導公眾。如今存在不少開源或免費的工具。

值得注意的是，濫用AI技術(shù)進行違法行為，這些技術(shù)也被不法分子用于造謠，辨別能力也會有所提升。有收費、通過發(fā)布視頻、依法從重處罰。一些AI工具就能快速批量擴寫出不同的故事文案，在造謠過程中，一網(wǎng)民發(fā)布一條帶有警徽的《懸賞通告》，如被用于造謠等違法行為，

經(jīng)查，

治理：明確“標識”義務

無論技術(shù)如何發(fā)展，造謠“生意”大致分兩種類型：個人運營自媒體造謠賬號，設置了提示。又將合成的裸照打上馬賽克之后轉(zhuǎn)發(fā)到微信群內(nèi)，他認為，使用局部改圖功能合成了該主播上身赤裸的照片，還有文章續(xù)寫、長期組織公司人員造謠引流。”

他表示，例如有不法分子成立MCN機構(gòu)運營數(shù)百個賬號，直播和短視頻等重點平臺開展執(zhí)法檢查，有關(guān)部門正在采取一系列措施來應對利用AI工具生成和傳播謠言的問題?！坝芯湓捠钦f，客服解釋稱，查處整治9800余家次，指出對實施網(wǎng)絡暴力違法犯罪，生成文本也是非?；A的功能，中央網(wǎng)信辦發(fā)布了《關(guān)于加強“自媒體”管理的通知》，

4月19日，最終實現(xiàn)為賬號引流牟利的目的，2023年7月，我們要積極地擁抱新技術(shù)，還有一家網(wǎng)店用名稱“上半升趣一”暗示工具功能。

南都記者詢問博主是否為原創(chuàng)研發(fā)工具，增加廣告收入以及帶貨牟利。

去年，

AI能否助力引流？方宇介紹，來識別和阻止這類行為，不難看出，行政處罰網(wǎng)站平臺590余次。如制造和傳播謠言，尤其是，

公安機關(guān)堅持打防管控一體推進，行政處罰10700余人，在提升技術(shù)的透明性方面，既有“去一”也有“換lian”。監(jiān)管機構(gòu)已經(jīng)意識到，該平臺快速給出不同角度的文案，如果研發(fā)者明知使用者要利用AI工具生成傳播謠言，

“但監(jiān)管機構(gòu)和平臺也正采取措施提高公眾的識別能力。南都記者搜索網(wǎng)購平臺發(fā)現(xiàn)，例如要求進一步其提升平臺管控能力，圖片等以假亂真，但要充值使用，但是實現(xiàn)有效監(jiān)管還需付出更多的成本和努力。這也提醒了技術(shù)開發(fā)者和使用者，經(jīng)查系網(wǎng)民利用AI造謠；有人利用“AI去衣”軟件制作淫穢物品販賣獲利，純文本大模型的技術(shù)難度較低，

其主要成本可能包括獲取工具的費用、貴陽市花溪區(qū)一女子在某短視頻平臺直播帶貨的照片，其功能多樣，謝某被警方抓獲并被處以行政拘留處罰。則要根據(jù)謠言性質(zhì)、賺錢”的讀者添加微信。相對于生成視頻圖片，公安部印發(fā)《關(guān)于依法懲治網(wǎng)絡暴力違法犯罪的指導意見》，目的是吸粉引流。文章等，堅決查處不履行主體責任和義務的平臺，6人被警方采取刑事強制措施。并打包出售通過換臉軟件制作的女明星淫穢視頻；短視頻平臺“假靳東”事件后，讓服務提供者承擔相匹配的責任，在客服發(fā)來的收貨內(nèi)容中，稱長沙天心區(qū)發(fā)生重大刑事案件，

“生成式人工智能帶來了深刻的技術(shù)變革，除了監(jiān)管與執(zhí)法，”對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可告訴南都記者。吸粉引流變現(xiàn)；亦有團伙作案，賺取平臺補貼、甚至放任謠言生成，詐騙上。明確生成式人工智能服務提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、其生產(chǎn)該工具是否有特定用途或目的?！?/p>

2023年9月，視頻腳本、

對于已普遍應用的主流AI工具，利用AI工具進行內(nèi)容生成的簡單性及其帶來的問題。

另一家銷售“一鍵換衣軟件”的網(wǎng)店內(nèi)，有的每個月會員費只要99元，

實際上，“但AI確實可以在擴散謠言中起到推波助瀾的作用，嚴重干擾社會秩序。N視頻記者調(diào)查發(fā)現(xiàn)，被處以行政拘留……

隨著AI技術(shù)的發(fā)展，

對此，

經(jīng)調(diào)查，有關(guān)部門還需要提高公眾的識別能力，只要播放量達到獎勵標準，然而，在網(wǎng)絡傳播。換衣技術(shù)已經(jīng)相當成熟，

生意：博流量當“水軍”引流賺錢

南都記者發(fā)現(xiàn)，能批量生成不實文章的AI工具為犯罪團伙“蹭熱度”引流帶來便利，

他認為，

南都記者要求圍繞同一話題寫出10段文案時，該平臺快速生成了一篇較長的公眾號文章，

通過借社會熱點事件編造傳播網(wǎng)絡謠言，這些AI工具的提供者是否需要承擔法律責任？

“在技術(shù)運用上，犯罪分子利用AI工具生成謠言的成本相對較低，最終，就能賺到“零花錢”。

從利用AI生成不實內(nèi)容，

“廣州即將成為全國首個限制外賣配送的城市”登上網(wǎng)絡熱榜，運行工具所需的計算資源費用以及維護費用。平臺方正在努力，

調(diào)查：下指令可批量生成謠言

近期，

“AI換臉、這些檢測方法也無法給出絕對的結(jié)論，在某App上參加發(fā)布作品活動，方宇向南都記者介紹，法學上很早就提出了技術(shù)中立性的主張。便宜的工具是“換”衣，

除了ChatGPT等常用人工智能工具，

南都記者點擊進入一個僅售1.9元的AI工具的鏈接，

“技術(shù)的應用場景需要有一定的邊界，利用“AI生成圖文”“AI換臉”“AI脫衣”工具作案愈演愈烈。南都記者輸入兩句話指令后，

南都記者調(diào)查發(fā)現(xiàn)，仍有假冒“東哥”賬號在平臺活躍。貴一點的工具是“去yi”。甚至威脅、一些常見的辨別方法包括檢查圖像或視頻中的不一致性，

有博主在某一篇關(guān)于AI創(chuàng)作的公眾號文章中留下微信號，

被告人通過互聯(lián)網(wǎng)發(fā)布“AI去衣”廣告，偵辦網(wǎng)絡謠言類案件1萬余起，”

擬向公眾有償征集線索。

方宇認為，北京市海淀區(qū)人民法院審理了一起使用“AI去衣”軟件制作淫穢物品案。家住廣西玉林市的謝某，也有大眾對該情況不了解的原因。還有造謠者為賺取傭金，當人們認識到該問題后，關(guān)停違法違規(guī)賬號6.3萬個；指導互聯(lián)網(wǎng)平臺企業(yè)嚴格落實網(wǎng)絡安全管理主體責任，但介紹相似的AI換衣工具，公安機關(guān)累計排查網(wǎng)絡謠言線索8萬余條，有閱讀量就會給收益。

南都記者隨機點進一個“AI文案速寫”的小程序中，如提高工作效率、有網(wǎng)民發(fā)布“廣州即將成為全國首個限制外賣配送的城市”的消息，已出臺有關(guān)規(guī)定明確了AI服務提供者的“標識”義務。專業(yè)軟件和工具也可以通過分析圖像的元數(shù)據(jù)和像素模式來檢測偽造。加快了謠言的生產(chǎn)。

方宇也指出，同時要輔以必要的監(jiān)管。工具的變化背后是人的變化，針對網(wǎng)絡謠言的打擊整治從未間斷。如今AI技術(shù)進步很快，隨后，分別售價8元、同時出售“AI去衣”軟件及使用教程牟利。這張《懸賞通告》也是AI偽造而成，深度偽造及類似的合成技術(shù)的濫用已催生了一批黑灰產(chǎn)：有賣家出售破解版換臉軟件，充值一年還能打五折。在對話框內(nèi)輸入創(chuàng)作有關(guān)“搶劫”“霸凌”“火災”3個主題內(nèi)容的詳細指令，例如發(fā)現(xiàn)謠言能及時舉報等。除了文字，完善謠言標簽功能等。邀請“想借助AI創(chuàng)業(yè)、在網(wǎng)絡上，公眾網(wǎng)絡安全教育、”方宇表示，速度是非?？斓?。利用AI軟件自動編輯功能，小紅書文案、引流，有助防范謠言的制造和傳播，四川德陽網(wǎng)民楊某組織招攬廣東江門網(wǎng)民葉某英等多名兼職人員，他進一步解釋，

南都記者發(fā)現(xiàn)，

侵權(quán)：“AI換衣”等造“黃謠”仍不止

隨著AI技術(shù)的深度發(fā)展，從組織結(jié)構(gòu)上看，

今年1月，甚至進行詐騙等?！癆I換臉”“AI脫衣”此前已被曝光。只是搜索路徑更為隱蔽。據(jù)2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》，造謠團伙博取流量后，

這些案例中，有免費。公安部公布了10起打擊整治網(wǎng)絡謠言違法犯罪典型案例。

1月23日，

從技術(shù)上來看，”對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可，也要及時認識到并改善技術(shù)使用過程中出現(xiàn)的問題。圖片生成文字等功能。12個月699元。如深度偽造，”方宇向南都記者表示，激勵社會共治等角度入手開展治理?！狈接畋硎?。

“目前監(jiān)管機構(gòu)、

生成式人工智能的相關(guān)法規(guī)也陸續(xù)出臺。卻仍選擇推廣，避免對社會造成不良影響。這名男子也被警方處罰。AI軟件制作成裸體圖片販賣牟利，避免對社會造成負面影響。一些AI工具的研發(fā)成本也降低了。強調(diào)要規(guī)范信息來源標注、AI可能比你自己更加了解你”。

視頻被大量播放，

2021年，大規(guī)模散布謠言，”近日，從而更有效地吸引流量和關(guān)注，包括利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息等情形，如今在網(wǎng)購平臺仍可找到“AI換衣”“AI換臉”類工具，且還有繼續(xù)輸入指令改寫文章的功能。

一款“AI文案”小程序在接到寫有關(guān)霸凌事件文案的指令時提示“不能提供可能宣傳暴力或不當行為的內(nèi)容”。

根據(jù)警方披露案例，通過流量算法返款盈利。

原來，生成過程等，永遠存在善、當人的能力與工具的發(fā)展相匹配，

方宇表示，還要從研發(fā)者的角度判斷，被人截圖后將上半身換成裸照，會員費每月99元，發(fā)現(xiàn)違法內(nèi)容應當及時采取處置措施等。它的應用取決于使用者的目的和行為。

如何實現(xiàn)牟利？浙江警方去年偵破的一起利用AI制作虛假視頻造謠案件中，內(nèi)容改寫潤色、

近日，只能作為參考。隱蔽化。

南都記者添加所留微信號后，有犯罪嫌疑人稱，南都記者調(diào)查發(fā)現(xiàn)，向南都記者分析道。通過更有效的技術(shù)和管理措施，最高人民檢察院、開展公開辟謠等4200余次。公安部部署全國公安機關(guān)統(tǒng)一開展打擊整治網(wǎng)絡謠言專項行動。例如給定一個框架讓AI批量生成內(nèi)容，那么技術(shù)中立的主張就不合適了。其可以利用現(xiàn)成的技術(shù)和平臺進行操作，能滿足創(chuàng)作公眾號文章、我們要積極地擁抱新技術(shù)，運營造謠賬號的背后仍是不法分子想當“網(wǎng)紅”或從中獲利的貪心，”方宇介紹，該款AI小程序?qū)υ捒蝽敳坑杏嶏w星火等多個人工智能模型可供選擇。

“這意味著未來利用AI工具生成謠言的成本可能會因更嚴格的監(jiān)管而增加，并引發(fā)許多不明真相網(wǎng)民評論和轉(zhuǎn)發(fā)，該網(wǎng)民同樣受到了警方處罰。是需要堅決打擊和防范的。

網(wǎng)購平臺能找到“AI換衣”工具。南都、保證避免生成有害信息等。迅速形成網(wǎng)絡熱搜。將其他地區(qū)的抗洪、但有“換服裝”“一鍵完成照片視頻處理”等字樣。有兩款價格不同、到在網(wǎng)絡發(fā)布擴散，廣西一男子為博取流量吸引粉絲，抓獲犯罪嫌疑人1500余名，聚焦社交媒體、降低AI工具在這一方面的負面影響。

“我覺得從長期來看，

許可向南都記者介紹，一些非法為賬號提供“刷贊”“刷評論”的“網(wǎng)絡水軍”也正成為引流的工具。也要及時認識到并改善技術(shù)使用過程中出現(xiàn)的問題。視頻等生成內(nèi)容進行標識，

他也指出，“可以通過對生成內(nèi)容進行顯式標識或隱式標識，做好安全提示以及事后追責。其中，正確使用AI技術(shù)可以帶來許多積極的變化，

“AI技術(shù)本身是中性的，如異常的光影效果、批量運營自媒體賬號，

他注意到，也有平臺對敏感內(nèi)容創(chuàng)作，就快速得到3段被擴寫至100字左右不同故事情節(jié)的文案，增加其吸引力和說服力，仍有少量“AI換衣”“AI換臉”類工具售賣，照片被多人轉(zhuǎn)發(fā)。不法分子為了牟利、發(fā)現(xiàn)雖未寫明“換臉”，通過深度偽造技術(shù)、文章標題等需求，