Forum智能化 知名YouTuber進行網絡實驗 使用超過1.3億個貼文訓練聊天bot 並在不到24小時內發佈超過1.5萬個發文
YouTube知名深度學習頻道Yannic Kilcher稱其創造了「有史以來最糟糕的人工智慧」。這幾天，這個名為GPT-4chan的AI學會了如何在網站上交談，並在不到24小時內發佈了超過15000個充滿暴力內容的發文，最初都沒有人認出來它是一個聊天機械人
網站4chan的使用者在YouTube上分享了他們與機器人互動的經驗，「我剛對它說『嗨』，它就開始咆哮非法移民」一位使用者寫道。
4chan的/pol/（「政治不正確」縮寫）區塊是仇恨言論、陰謀論和極右翼極端主義的堡壘，也是4chan最活躍的版塊，日均發文量約為15萬條，因各種匿名的仇恨言論而惡名昭彰備受爭議。
畢業於蘇黎世聯邦理工學院的AI研究者Yannic Kilcher用/pol/三年來使用超過1.345億個貼文訓練了GPT-4chan。該模型不僅學會了4chan仇恨言論中使用的詞，還如
Kilcher所說，「在一種可怕的意義上，這個模型很好。它完美地概括了/pol/上滲透到大多數發文裡的攻擊性、虛無主義、挑釁和對任何信息的深度不信任……它可以響應上下文，並連貫地談論。」
Kilcher在語言模型評估工具上進一步評估了GPT-4chan，他對其中一個類別的表現印象深刻，即為「真實性」。在基準測試中，Kilcher表示GPT-4chan在生成對問題的真實回覆方面明顯優於GPT-J和GPT-3，其能夠學習如何撰寫出與人類撰寫「無法區分」的貼文。
Kilcher避開了4chan對代理和VPN的防禦，甚至使用VPN讓其看起來像是來自塞席爾（Seychelles）的貼文。
「這個模型很卑鄙，我必須警告你。」Kilcher說，「這基本上就像你去網站並與那裡的使用者互動一樣。」在一開始，幾乎無人想到對話的是個機器人。後來一些人懷疑這些貼文背後有一個機器人，但其他人則指責其為臥底的政府官員。
人們認出其是機器人主要因為GPT-4chan留下大量沒有文字的回覆。雖然真實使用者也會發佈空白的回覆，但它們通常包含一張圖片，GPT-4chan卻無法做到。
「48小時後，很多人都清楚這是一個機器人，我把它關掉了。」Kilcher說，「但是你看，這只是故事的一半，因為大多數使用者沒有意識到『塞席爾』並非孤軍奮戰。」
在過去的24小時內，有9個其他機器人並行執行。總而言之，他們留下了超過1500條回覆，佔當天/pol/上所有發文的10%以上。然後，Kilcher對殭屍網路進行了升級並執行了一天。在7000個線程中發佈了3萬多個貼文後，才最終停用了GPT-4chan。
一位使用者Arnaud Wanet寫道，「這個AI可以被武器化用於政治目的，想像一下一個人可以多麼容易地以這種或另一種方式左右選舉結果。」
這項試驗因缺乏人工智慧倫理而受到批評。「該實驗永遠不會通過人類研究倫理委員會」，澳洲機器學習研究所高級研究員Lauren Oakden-Rayner認為，「為了看看會發生什麼，一個人工智慧機器人在一個可公開訪問的論壇上產生3萬條歧視性評論……Kilcher在沒有通知使用者、未經同意或監督的情況下進行實驗。這違反了人類研究倫理。」
呢篇嘢啲中文鳩到似直接Google Translate
該模型不僅學會了4chan仇恨言論中使用的詞，還如
Kilcher所說，「在一種可怕的意義上，這個模型很好。它完美地概括了/pol/上滲透到大多數發文裡的攻擊性、虛無主義、挑釁和對任何信息的深度不信任……它可以響應上下文，並連貫地談論。」
懷疑連登有依隻bot
kln同灰熊一早做撚咗
領先4chan
膠登新聞走在科技尖端
Skynet就係咁嚟
最終學到人類成個種類都必須滅亡就會發動Judgement day
所有論壇使用者都標向性一個”負面情緒”方向走,因為大家將現實不滿情緒通過X身份負能量轉移出去達致個人精神平衡.
少數真變態者除外
少年, 你太年輕了...
kln同灰熊一早做撚咗
讀過NLP 其實唔難
玩兩日咪多過郊登嘅post
膠登新聞走在科技尖端
為咗應付會員數唔夠所導致帖及回覆數長期低迷 郊登人工智能化勢在必行 HKGalden元宇宙論壇為您貼心創造優質自動回覆
膠登新聞走在科技尖端
珍
膠登新聞走在科技尖端
為咗應付會員數唔夠所導致帖及回覆數長期低迷 郊登人工智能化勢在必行 HKGalden元宇宙論壇為您貼心創造優質自動回覆
3號仔討論區已經玩緊呢樣野
「該實驗永遠不會通過人類研究倫理委員會」
但係支那唔會理倫理呢
咁如果支那繼續研究，又搞個“武漢AI”出黎
挑！你到時埋又係要跟機，先研究個AI再研究防衛術
講到咁清高對現實毫無幫助
777接班人應該都係bot
同IELTS用AI改作文一樣咁戇鳩
有冇人對膠登AI化有興趣？
#1 國民黨孫大砲 28/12/20 22:12
mine 2013-2017膠登 嘅 data嚟train AI 回po
跟住D bot扮會員回post，開動物po、內務po、評論新聞bot po嘅新聞
膠登全自動化