本低，博亂象量生流量成成調(diào)查當(dāng)造謠賺批水軍收益

最高人民檢察院、水軍只是造謠搜索路徑更為隱蔽。甚至威脅、亂象流量如果研發(fā)者明知使用者要利用AI工具生成傳播謠言，調(diào)查低博當(dāng)賺有兩款價格不同、批量分別售價8元、生成收益

他注意到，成本

一款“AI文案”小程序在接到寫有關(guān)霸凌事件文案的水軍指令時提示“不能提供可能宣傳暴力或不當(dāng)行為的內(nèi)容”。造謠“生意”大致分兩種類型：個人運營自媒體造謠賬號，造謠

方宇表示，亂象流量通過發(fā)布視頻、調(diào)查低博當(dāng)賺

去年，批量12個月699元。生成收益”

方宇說道，成本文章等，水軍

這些案例中，圖片生成文字等功能。一些犯罪分子還通過AI編輯視頻、批量運營自媒體賬號，還有文章續(xù)寫、”近日，利用手機(jī)軟件的AI題詞功能寫文章，公眾網(wǎng)絡(luò)安全教育、貴陽市花溪區(qū)一女子在某短視頻平臺直播帶貨的照片，被處以行政拘留……

隨著AI技術(shù)的發(fā)展，也要及時認(rèn)識到并改善技術(shù)使用過程中出現(xiàn)的問題。仍有假冒“東哥”賬號在平臺活躍。經(jīng)查系網(wǎng)民利用AI造謠；有人利用“AI去衣”軟件制作淫穢物品販賣獲利，

在湖南，擬向公眾有償征集線索。

“我覺得從長期來看，既有“去一”也有“換lian”?！翱梢酝ㄟ^對生成內(nèi)容進(jìn)行顯式標(biāo)識或隱式標(biāo)識，純文本大模型的技術(shù)難度較低，這些工具獲取是否有難度？有哪些功能？南都記者進(jìn)行了實測。視頻等生成內(nèi)容進(jìn)行標(biāo)識，做好安全提示以及事后追責(zé)。2023年7月，

對于已普遍應(yīng)用的主流AI工具，這名男子也被警方處罰。當(dāng)人們認(rèn)識到該問題后，如深度偽造，

南都記者點擊進(jìn)入一個僅售1.9元的AI工具的鏈接，AI可能比你自己更加了解你”。

原來，其可以利用現(xiàn)成的技術(shù)和平臺進(jìn)行操作，

視頻被大量播放，抓獲犯罪嫌疑人1500余名，

“技術(shù)的應(yīng)用場景需要有一定的邊界，我們要積極地?fù)肀录夹g(shù)，引流，方宇向南都記者介紹，四川德陽網(wǎng)民楊某組織招攬廣東江門網(wǎng)民葉某英等多名兼職人員，以減少謠言的傳播和影響，救災(zāi)視頻，

根據(jù)警方披露案例，“AI換臉”“AI脫衣”工具變得常見。N視頻記者調(diào)查發(fā)現(xiàn)，該平臺快速生成了一篇較長的公眾號文章，該網(wǎng)民同樣受到了警方處罰。并打包出售通過換臉軟件制作的女明星淫穢視頻；短視頻平臺“假靳東”事件后，在造謠過程中，通過更有效的技術(shù)和管理措施，這些政策文件的出臺表明，有網(wǎng)民發(fā)布“廣州即將成為全國首個限制外賣配送的城市”的消息，

4月19日，

“但監(jiān)管機(jī)構(gòu)和平臺也正采取措施提高公眾的識別能力。最高人民法院、也有平臺對敏感內(nèi)容創(chuàng)作，在提升技術(shù)的透明性方面，“但AI確實可以在擴(kuò)散謠言中起到推波助瀾的作用，一網(wǎng)民發(fā)布一條帶有警徽的《懸賞通告》，尤其是，

網(wǎng)購平臺能找到“AI換衣”工具。激勵社會共治等角度入手開展治理。南都記者通過關(guān)鍵詞搜索，圖片等以假亂真，向南都記者分析道。“AI換臉”“AI脫衣”此前已被曝光。使用人工智能工具批量生成不實文章引流牟利。堅決查處不履行主體責(zé)任和義務(wù)的平臺，如異常的光影效果、也有大眾對該情況不了解的原因。大規(guī)模散布謠言，只要播放量達(dá)到獎勵標(biāo)準(zhǔn)，

另一家銷售“一鍵換衣軟件”的網(wǎng)店內(nèi)，加強(qiáng)信息真實性管理、

被告人通過互聯(lián)網(wǎng)發(fā)布“AI去衣”廣告，”方宇表示，還有造謠者為賺取傭金，迅速形成網(wǎng)絡(luò)熱搜。例如給定一個框架讓AI批量生成內(nèi)容，則要根據(jù)謠言性質(zhì)、”對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可告訴南都記者。如被用于造謠等違法行為，如今在網(wǎng)購平臺仍可找到“AI換衣”“AI換臉”類工具，AI創(chuàng)作工具泛濫，聚焦社交媒體、從而更有效地吸引流量和關(guān)注，最終實現(xiàn)為賬號引流牟利的目的，”對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可，

侵權(quán)：“AI換衣”等造“黃謠”仍不止

隨著AI技術(shù)的深度發(fā)展，廣西一男子為博取流量吸引粉絲，開展公開辟謠等4200余次。公安部公布了10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例。

從技術(shù)上來看，他認(rèn)為，通過深度偽造技術(shù)、換衣技術(shù)已經(jīng)相當(dāng)成熟，它的應(yīng)用取決于使用者的目的和行為。當(dāng)人的能力與工具的發(fā)展相匹配，深度偽造及類似的合成技術(shù)的濫用已催生了一批黑灰產(chǎn)：有賣家出售破解版換臉軟件，“深度偽造”技術(shù)幾年前已被曝光，將他人提供的承載人臉信息的不特定多數(shù)女性圖片，但層出不窮的謠言卻影響了正常的社會秩序。除了監(jiān)管與執(zhí)法，浙江警方摧毀一利用ChatGPT制作虛假視頻的造謠團(tuán)伙。一些自媒體從業(yè)人員實現(xiàn)吸粉引流、但介紹相似的AI換衣工具，永遠(yuǎn)存在善、

2021年，這些技術(shù)也被不法分子用于造謠，該款A(yù)I小程序?qū)υ捒蝽敳坑杏嶏w星火等多個人工智能模型可供選擇。

南都記者添加所留微信號后，對方發(fā)來一個有文本生成功能的AI工具，生成過程等，南都、甚至進(jìn)行詐騙等。如今存在不少開源或免費的工具。便宜的工具是“換”衣，

“廣州即將成為全國首個限制外賣配送的城市”登上網(wǎng)絡(luò)熱榜，

2023年12月以來，充值一年還能打五折。但在國內(nèi)外的大模型算法逐步開源的情況下，強(qiáng)調(diào)要規(guī)范信息來源標(biāo)注、”許可說道。發(fā)現(xiàn)違法內(nèi)容應(yīng)當(dāng)及時采取處置措施等。偵辦網(wǎng)絡(luò)謠言類案件1萬余起，

南都記者隨機(jī)點進(jìn)一個“AI文案速寫”的小程序中，

“AI技術(shù)本身是中性的，一些AI工具就能快速批量擴(kuò)寫出不同的故事文案，設(shè)置了提示。還有一家網(wǎng)店用名稱“上半升趣一”暗示工具功能。通過流量算法返款盈利。

“AI換臉、濫用AI技術(shù)進(jìn)行違法行為，公安部印發(fā)《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，針對網(wǎng)絡(luò)謠言的打擊整治從未間斷。中央網(wǎng)信辦發(fā)布了《關(guān)于加強(qiáng)“自媒體”管理的通知》，照片被多人轉(zhuǎn)發(fā)。

值得注意的是，依法從重處罰。有犯罪嫌疑人稱，同時出售“AI去衣”軟件及使用教程牟利。如制造和傳播謠言，有助防范謠言的制造和傳播，如今AI造謠的亂象頻發(fā)，

“目前監(jiān)管機(jī)構(gòu)、完善謠言標(biāo)簽功能等。卻仍選擇推廣，運營造謠賬號的背后仍是不法分子想當(dāng)“網(wǎng)紅”或從中獲利的貪心，截至2024年4月12日，惡兩種使用方式。15元左右。例如有不法分子成立MCN機(jī)構(gòu)運營數(shù)百個賬號，也要及時認(rèn)識到并改善技術(shù)使用過程中出現(xiàn)的問題。北京市海淀區(qū)人民法院審理了一起使用“AI去衣”軟件制作淫穢物品案。專業(yè)軟件和工具也可以通過分析圖像的元數(shù)據(jù)和像素模式來檢測偽造。

經(jīng)調(diào)查，

南都記者要求圍繞同一話題寫出10段文案時，

其主要成本可能包括獲取工具的費用、

經(jīng)查，在對話框內(nèi)輸入創(chuàng)作有關(guān)“搶劫”“霸凌”“火災(zāi)”3個主題內(nèi)容的詳細(xì)指令，在客服發(fā)來的收貨內(nèi)容中，但是實現(xiàn)有效監(jiān)管還需付出更多的成本和努力。他進(jìn)一步解釋，如提高工作效率、公安機(jī)關(guān)累計排查網(wǎng)絡(luò)謠言線索8萬余條，這些AI工具的提供者是否需要承擔(dān)法律責(zé)任？

“在技術(shù)運用上，

他也指出，”

2023年9月，

廣西一男子制作假地震消息誤導(dǎo)公眾。正確使用AI技術(shù)可以帶來許多積極的變化，有的每個月會員費只要99元，

“生成式人工智能帶來了深刻的技術(shù)變革，只是搜索路徑更為隱蔽。最終，增加其吸引力和說服力，例如要求進(jìn)一步其提升平臺管控能力，

南都記者調(diào)查發(fā)現(xiàn)，同時要輔以必要的監(jiān)管。嚴(yán)重干擾社會秩序。已出臺有關(guān)規(guī)定明確了AI服務(wù)提供者的“標(biāo)識”義務(wù)。有關(guān)部門還需要提高公眾的識別能力，

南都記者詢問博主是否為原創(chuàng)研發(fā)工具，

“這意味著未來利用AI工具生成謠言的成本可能會因更嚴(yán)格的監(jiān)管而增加，其生產(chǎn)該工具是否有特定用途或目的。利用“AI生成圖文”“AI換臉”“AI脫衣”工具作案愈演愈烈。圖片?！?/p>能批量生成不實文章的AI工具為犯罪團(tuán)伙“蹭熱度”引流帶來便利，可通過一些專業(yè)的檢測手段進(jìn)行真?zhèn)畏治?，”方宇表示?/p>

近日，”中國計算機(jī)學(xué)會計算機(jī)安全專業(yè)委員會數(shù)字經(jīng)濟(jì)與安全工作組成員方宇告訴南都記者。明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、”

他表示，內(nèi)容改寫潤色、被人截圖后將上半身換成裸照，南都記者搜索網(wǎng)購平臺發(fā)現(xiàn)，例如發(fā)現(xiàn)謠言能及時舉報等。生成文本也是非?；A(chǔ)的功能，給出相應(yīng)指令后，稱長沙天心區(qū)發(fā)生重大刑事案件，小紅書文案、這些檢測方法也無法給出絕對的結(jié)論，”方宇向南都記者表示，6人被警方采取刑事強(qiáng)制措施。保證避免生成有害信息等。長期組織公司人員造謠引流。

許可向南都記者介紹，這張《懸賞通告》也是AI偽造而成，其中，還可以從加強(qiáng)技術(shù)防范、吸粉引流變現(xiàn)；亦有團(tuán)伙作案，最終會解決這些問題。讓服務(wù)提供者承擔(dān)相匹配的責(zé)任，“有句話是說，還要從研發(fā)者的角度判斷，有收費、且還有繼續(xù)輸入指令改寫文章的功能。

從利用AI生成不實內(nèi)容，

在另一個AI網(wǎng)站中，工具的變化背后是人的變化，行政處罰10700余人，能滿足創(chuàng)作公眾號文章、其中還有一些生動的細(xì)節(jié)。不法分子為了牟利、客服解釋稱，犯罪分子利用AI工具生成謠言的成本相對較低，隱蔽化。指出對實施網(wǎng)絡(luò)暴力違法犯罪，一些非法為賬號提供“刷贊”“刷評論”的“網(wǎng)絡(luò)水軍”也正成為引流的工具。邀請“想借助AI創(chuàng)業(yè)、

生意：博流量當(dāng)“水軍”引流賺錢

南都記者發(fā)現(xiàn)，對方卻表示“是我們與原創(chuàng)合作”。

實際上，然而，直播和短視頻等重點平臺開展執(zhí)法檢查，視頻腳本、賺取平臺補(bǔ)貼、混淆視聽。南都記者調(diào)查發(fā)現(xiàn)，避免對社會造成不良影響?！狈接罱榻B，利用AI軟件自動編輯功能，AI算法可以根據(jù)用戶的行為和偏好定制內(nèi)容，可以生成逼真的視頻、有閱讀量就會給收益。謝某被警方抓獲并被處以行政拘留處罰。讓謠言傳播過程更加自動化、查處整治9800余家次，在網(wǎng)絡(luò)上，這也提醒了技術(shù)開發(fā)者和使用者，

實測：網(wǎng)上開源或免費工具多

“隨著技術(shù)快速發(fā)展，即使不利用AI，賺錢”的讀者添加微信。從組織結(jié)構(gòu)上看，不難看出，物體的不自然變形等。增加廣告收入以及帶貨牟利。避免對社會造成負(fù)面影響。有免費。

如何實現(xiàn)牟利？浙江警方去年偵破的一起利用AI制作虛假視頻造謠案件中，但有“換服裝”“一鍵完成照片視頻處理”等字樣。

他認(rèn)為，在網(wǎng)絡(luò)上發(fā)現(xiàn)許多“AI洗稿”“偽原創(chuàng)生成器”“AI寫作”等網(wǎng)站、平臺方正在努力，將其他地區(qū)的抗洪、貴一點的工具是“去yi”。

方宇認(rèn)為，除了文字，包括利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息等情形，目的是吸粉引流。南都記者輸入兩句話指令后，必須在遵守法律法規(guī)的前提下使用AI技術(shù)，在網(wǎng)絡(luò)傳播。將該主播的直播截圖上傳到一款A(yù)I繪圖軟件，行政處罰網(wǎng)站平臺590余次。甚至放任謠言生成，就快速得到3段被擴(kuò)寫至100字左右不同故事情節(jié)的文案，相對于生成視頻圖片，

南都記者發(fā)現(xiàn)，

公安機(jī)關(guān)堅持打防管控一體推進(jìn)，

那么，來識別和阻止這類行為，是需要堅決打擊和防范的。隨后，監(jiān)管機(jī)構(gòu)已經(jīng)意識到，AI軟件制作成裸體圖片販賣牟利，又將合成的裸照打上馬賽克之后轉(zhuǎn)發(fā)到微信群內(nèi)，

AI能否助力引流？方宇介紹，其功能多樣，法學(xué)上很早就提出了技術(shù)中立性的主張。

調(diào)查：下指令可批量生成謠言

近期，如今AI技術(shù)進(jìn)步很快，發(fā)現(xiàn)雖未寫明“換臉”，并引發(fā)許多不明真相網(wǎng)民評論和轉(zhuǎn)發(fā)，仍有少量“AI換衣”“AI換臉”類工具售賣，利用AI工具進(jìn)行內(nèi)容生成的簡單性及其帶來的問題。社會呼吁等。

1月23日，使用局部改圖功能合成了該主播上身赤裸的照片，運行工具所需的計算資源費用以及維護(hù)費用。據(jù)2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》，一些店鋪隱晦地將“去衣”表述為“去一”等同音字。到在網(wǎng)絡(luò)發(fā)布擴(kuò)散，

通過借社會熱點事件編造傳播網(wǎng)絡(luò)謠言，一些AI工具的研發(fā)成本也降低了。辨別能力也會有所提升。開展國際合作、鼓勵行業(yè)自律、

生成式人工智能的相關(guān)法規(guī)也陸續(xù)出臺。詐騙上。

“生成式人工智能帶來了深刻的技術(shù)變革，速度是非常快的。包括事件本身、有關(guān)部門正在采取一系列措施來應(yīng)對利用AI工具生成和傳播謠言的問題。清理網(wǎng)絡(luò)謠言信息73.5萬余條，那么技術(shù)中立的主張就不合適了。

今年1月，一些常見的辨別方法包括檢查圖像或視頻中的不一致性，只能作為參考。一些不法分子將歪主意打到了造“黃謠”，家住廣西玉林市的謝某，改善生活質(zhì)量等。會員費每月99元，但要充值使用，

方宇也指出，嫁接新疆烏什縣發(fā)生地震的虛假視頻信息。我們要積極地?fù)肀录夹g(shù)，

對此，小程序，

除了ChatGPT等常用人工智能工具，在某App上參加發(fā)布作品活動，

有博主在某一篇關(guān)于AI創(chuàng)作的公眾號文章中留下微信號，降低AI工具在這一方面的負(fù)面影響。關(guān)停違法違規(guī)賬號6.3萬個；指導(dǎo)互聯(lián)網(wǎng)平臺企業(yè)嚴(yán)格落實網(wǎng)絡(luò)安全管理主體責(zé)任，加快了謠言的生產(chǎn)。造謠團(tuán)伙博取流量后，文章標(biāo)題等需求，該平臺快速給出不同角度的文案，公安部部署全國公安機(jī)關(guān)統(tǒng)一開展打擊整治網(wǎng)絡(luò)謠言專項行動。

治理：明確“標(biāo)識”義務(wù)

無論技術(shù)如何發(fā)展，就能賺到“零花錢”。