研究人員發(fā)現，由AI生成的評論和評論對消費者構成了重大威脅，但是機器學(xué)習可以幫助發(fā)現假貨。

TripAdvisor，Yelp和Amazon等網(wǎng)站會(huì )顯示用戶(hù)對產(chǎn)品和服務(wù)的評論。消費者要注意：十分之九的人閱讀了這些同行評價(jià)并相信他們所看到的。實(shí)際上，多達40%的用戶(hù)決定僅根據幾條評論進(jìn)行購買(mǎi)，而出色的評論會(huì )使人們在購買(mǎi)上花費30%以上。

但是，并非所有評論都是合法的。真實(shí)的人撰寫(xiě)的虛假評論在評論網(wǎng)站上已經(jīng)很普遍，但是機器產(chǎn)生的假貨數量可能會(huì )大大增加。

根據阿爾托大學(xué)的博士生Mika Juuti所說(shuō)，如今基于算法的虛假評論易于生成，準確且快速。大多數時(shí)候，人們無(wú)法分辨真實(shí)的和機器生成的虛假評論之間的區別。

“行為不當的公司可以嘗試通過(guò)人為地創(chuàng )造正面的品牌形象或通過(guò)對競爭對手進(jìn)行虛假的負面評論來(lái)促進(jìn)銷(xiāo)售。當然，動(dòng)機是金錢(qián)：在線(xiàn)評論對于旅游目的地，酒店，服務(wù)提供商而言是一項大業(yè)務(wù)和消費產(chǎn)品。” Mika Juuti說(shuō)。

2017年，芝加哥大學(xué)的研究人員描述了一種使用Yelp上的300萬(wàn)個(gè)真實(shí)餐廳收視率數據集來(lái)訓練機器學(xué)習模型，即深度神經(jīng)網(wǎng)絡(luò )的方法。訓練后，模型會(huì )逐個(gè)字符地生成假餐廳評論。

但是，該方法略有打ic。很難停留在話(huà)題上。對于拉斯維加斯的一家日本餐廳的評論，該模型可以引用巴爾的摩的一家意大利餐廳。這些錯誤當然很容易被讀者發(fā)現。

為了幫助評論生成者留下深刻的印象，Juuti和他的團隊使用了一種稱(chēng)為神經(jīng)機器翻譯的技術(shù)來(lái)使模型具有上下文感。他們使用“評論等級，餐廳名稱(chēng)，城市，州和食物標簽”的文字序列，開(kāi)始獲得令人信服的結果。

Juuti說(shuō)：“在我們進(jìn)行的用戶(hù)研究中，我們向參與者展示了由人類(lèi)撰寫(xiě)的真實(shí)評論和由機器生成的虛假評論，并要求他們識別出虛假的內容。多達60%的虛假評論被錯誤地認為是真實(shí)的。”

然后，Juuti和他的同事設計了一個(gè)分類(lèi)器，可以發(fā)現假貨。結果證明分類(lèi)器表現良好，尤其是在人類(lèi)評估人員很難判斷評論是否真實(shí)的情況下。

這項研究是與阿爾托大學(xué)的安全系統研究小組以及日本早稻田大學(xué)的研究人員合作進(jìn)行的。它在9月的2018年歐洲計算機安全研究研討會(huì )上進(jìn)行了介紹。