首頁 手機&APP OpenAI研發「自動寫作模型」 竟能自行生成假新聞

分享
文章

OpenAI研發「自動寫作模型」 竟能自行生成假新聞

匯流新聞網記者紀沈廷/綜合報導

人工智慧發展到現在,已經能夠做到許多以前我們無法想像的事情,就連自動生成可信度十足的假新聞也做得到了。近日,OpenAI終於對外公布「自動寫作模型」GPT-2,由它所寫出的來的文字幾可亂真,讓人難以分辨。

事實上,OpenAI今年2月就想要釋出完整的GPT-2,但由於這款模型的功能太過強大,可以產生非常真實的假新聞,所以最後只釋出了小部分的模型與範例,但經過這幾個月的觀察,OpenAI認為當初擔心的事情並沒有發生,所以決定公開最大具有15億個參數GPT-2模型、程式碼與模型權重。

這款GPT-2模型藉由800萬頁的網頁做為訓練資料,藉此預測文字的下一個字來當作訓練目標,由於龐大且多樣的訓練資料集,所以該模型無須對特定任務進行訓練,就可以應用在多個領域,而目前GPT-2能夠進行機器翻譯、問答、閱讀理解與總結段落等語言任務。OpenAI希望GPT-2可以被用來開發成為寫作人工智慧助理,或是語言理解系統等應用。

不過,OpenAI公開了這項技術卻也備受爭議,因為只要給GPT-2一段文字,模型就會產生出接續段落的文字,甚至產生假以亂真的假新聞,因此也被冠上「文字版的Deepfake」稱號,而且一般人恐無法辨識真偽。

OpenAI對此表示,因為考量技術可能被有心人濫用,產生誤導性文字、冒用他人身分,或是在社群媒體散發假新聞等問題,所以OpenAI不會釋出已經訓練完成的完整模型,只是發布比較小的模型、範例跟技術白皮書,以供外部研究人員使用。

OpenAI提到,截至目前為止,他們還沒有發現GPT-2模型有遭到濫用的證據,即使網路上有些將模型用在網路釣魚或垃圾郵件的討論,但仍沒有實際發現撰寫的程式碼、文件或濫用的實例,而研究人員認為,當文字生成器的輸出變得更成熟時,遭到濫用的可能性就會更提升不少。

參考來源:The Verge、Futurism
照片來源:pixabay

更多匯流新聞網報導:
為打擊香港!澳洲智庫研究發現 中國買Twitter情色帳號發布假消息

Google News創辦人:應借科技之力 強化新聞核心價值

【匯流筆陣】
CNEWS歡迎各界投書,來稿請寄至[email protected],並請附上真實姓名、聯絡方式與職業身份簡介。
CNEWS匯流新聞網:https://cnews.com.tw

【文章轉載請註明出處】

FaceBook
最新網路流行話題掌握 歡迎一起加入
分享至Facebook

FACEBOOK粉絲留言版

你可能會想看的文章
看了這個,你還敢再去燒香拜佛嗎? 他們請我拍一張在夕陽中散步的背影,拍完後我的淚水終於止不住了… 頭髮狂掉怎麼辦?3個方法解決脫髮問題
大家都在看
讓郭振堂落選!徐永明向屏東人喊話... 原來這個「時間」拜土地公才對!9... 郭台銘不領三倍券?網友神算:花1... 中醫改台醫羅智強批「目台無人」 ... 中共國安惡法管全世界? 黃國昌:... 心臟手術前簽放棄急救!蕾媽淚崩告... 「報復性人潮」擠爆台中商圈!消費... 台南爆紅美照這裡拍|想知道台南超... 大屯火山若噴發恐籠罩北台灣!氣象...

首頁 手機&APP OpenAI研發「自動寫作模型」 竟能自行生成假新聞