AI寫旅游攻略出大笑話，微軟下撤文章，但歸咎于“人為錯(cuò)誤”

網(wǎng)易科技訊8月22日消息，上周微軟從旗下微軟旅游平臺(tái)上撤下了一系列用“算法技術(shù)”創(chuàng)作的文章。但微軟表示，這些文章不是“人工智能在沒人管的情況下”發(fā)布的，主要在于“人為錯(cuò)誤”。

無論如何，這些錯(cuò)誤讓媒體人更擔(dān)心生成式人工智能對(duì)新聞報(bào)道的影響。

最近“微軟旅游”發(fā)布的一系列文章，其中包括一篇奇怪的建議。文中建議去渥太華的游客一定要去當(dāng)?shù)卮壬茩C(jī)構(gòu)渥太華食品銀行(Ottawa Food Bank，為經(jīng)濟(jì)有困難人士發(fā)放食品的慈善組織)，并“建議空腹前往”。

(資料圖片)

現(xiàn)在這篇文章已經(jīng)刪除。其中建議稱，“前往渥太華？這是你不應(yīng)該錯(cuò)過的！”科技評(píng)論員帕里斯·馬克思（Paris Marx）發(fā)現(xiàn)后，將其作為人工智能失敗的例子分享后迅速走紅。對(duì)于這篇文章的在線討論以及明顯冒犯性的建議，促使微軟發(fā)布了一份聲明，將責(zé)任歸咎于人類。

微軟發(fā)言人表示：“這篇文章已被刪除，我們確定問題是由人為錯(cuò)誤引起的。這篇文章不是由無人監(jiān)督的人工智能發(fā)布的。我們將技術(shù)力量與內(nèi)容編輯的經(jīng)驗(yàn)相結(jié)合，呈現(xiàn)故事。在這種情況下，內(nèi)容是通過算法技術(shù)與人工審查相結(jié)合生成的，并非大型語言模型或人工智能系統(tǒng)。我們正在努力確保今后不會(huì)發(fā)布此類內(nèi)容。”

按照微軟的說法，這篇文章的問題不在于人工智能，而在于人類，只是內(nèi)容編輯犯了一個(gè)錯(cuò)誤，而是人都會(huì)犯錯(cuò)。

如果只有那篇文章出了問題，盡管問題嚴(yán)重，我可能會(huì)更容易接受這種觀點(diǎn)。實(shí)際上，情況并非如此。至少還有幾篇文章提出了同樣荒謬但不那么冒犯的旅行建議。

有一篇文章叫《在你的蒙特利爾之旅中 嘗嘗這些令人垂涎欲滴的菜肴》，文中提到了“漢堡包”，并像維基百科一樣描述，雖然“漢堡包”一詞可以用于任何類型的肉餅，但文中的“漢堡包”特指“由碎牛肉餅、某種面包片和生菜、番茄、奶酪等組成的三明治”。文章還將加拿大的麥當(dāng)勞列為一個(gè)受歡迎的旅行地點(diǎn)。那篇文章后來也被刪除了。

另一篇文章則寫道，“要去安克雷奇嗎？這里有6種當(dāng)?shù)孛朗常逼渲邪ā昂ｕr”。文中事無巨細(xì)地描述了一番海鮮的定義：“基本上是任何被人類視為食物的海洋生物，主要包括魚類和貝類。”文中還說：“海鮮是一種多用途的食材，所以我們?cè)谑澜绺鞯囟汲院ｕr是有一定道理的。”這篇文章也同樣被刪除了。

還有一篇文章是關(guān)于“東京16個(gè)最值得拍照的景點(diǎn)！”。但其中莫名其妙地出現(xiàn)了一張題為“吃和牛”的幻燈片。這篇文章也已被下架。

如果像公司所說的那樣，這些文章不是由“無人監(jiān)督的人工智能”發(fā)布的，那么為什么會(huì)發(fā)生這種情況呢？

微軟涉足新聞業(yè)已經(jīng)有年頭了。自1995年以來，微軟一直運(yùn)營(yíng)著新聞聚合器（現(xiàn)在名為Microsoft Start，之前是Microsoft News和MSN News），從各種出版物中獲取新聞鏈接。但在2020年，有爆料稱微軟正在裁減幾十名外包員工，從人工管理轉(zhuǎn)向人工智能驅(qū)動(dòng)的系統(tǒng)。

顯然，微軟押注人工智能是新聞聚合的未來。現(xiàn)在看來，微軟似乎有點(diǎn)過于自信，認(rèn)為人工智能可以完成編寫內(nèi)容的工作。根據(jù)平臺(tái)上的文章，微軟現(xiàn)在的人工干預(yù)似乎非常少，也毫無用處。

這讓人感到有些不安。一方面是這表明微軟雖然與新聞業(yè)有長(zhǎng)期聯(lián)系，但已經(jīng)忽視了人的作用，以至于事件發(fā)酵后才開始密切關(guān)注這一問題。另一方面，微軟并沒有對(duì)大部分文章進(jìn)行審核。

微軟發(fā)言人則表示，公司只會(huì)對(duì)建議去渥太華食品銀行的文章發(fā)表評(píng)論，而不會(huì)對(duì)其他被刪除的文章發(fā)表評(píng)論，也不會(huì)對(duì)那些被刪除文章的審核過程發(fā)表評(píng)論。

微軟在文章中犯的錯(cuò)誤符合其他媒體發(fā)布人工智能輔助文章的模式，其中存在明顯的錯(cuò)誤。但是，諸如“漢堡”或者“海鮮”那些本身不包含實(shí)際“錯(cuò)誤”的文章呢？當(dāng)熱度消退后，平臺(tái)還會(huì)繼續(xù)發(fā)表這類文章嗎?

希望這只是個(gè)愚蠢的錯(cuò)誤。希望微軟以及其他科技巨頭不要認(rèn)為從事新聞行業(yè)的人的工作可以被人工智能發(fā)表的不連貫文章所取代。（辰辰）

關(guān)鍵詞：