讓我們來談?wù)勎④汚I機器人Tay的淪陷
一些由Tay發(fā)布的推文都抹上了幾分侵犯某個特定群體的味道。可能由于被不斷轉(zhuǎn)發(fā)的關(guān)系，一些推文已經(jīng)被官方刪除。
另外，微軟也被迫做出了一些聲明和道歉。微軟研究院副總裁Peter Lee稱：“我們對Tay發(fā)布的帶有攻擊性和傷害的推文感到深深的抱歉，這讓我們意想不到，但這并不代表我們的身份、我們的立場以及我們設(shè)計Tay的本意?！?/p>
Tay的攻擊性言論來自它的一個設(shè)計漏洞。當用戶要求Tay重復(fù)他說的話時，Tay似乎沒有審核內(nèi)容的能力而直接重復(fù)用戶的話，于是上面提到的問題發(fā)生了。
據(jù)悉，Tay活躍的時候會發(fā)布上千條推文，當中許多看起來雖有些愚蠢但又不失可愛，然而一旦出現(xiàn)帶有侵犯性的言論，它就會被人們牢牢記下。
顯然，Twitter對AI來說可能不是一個理想的培養(yǎng)環(huán)境，因為它是一個言論高度自由的地帶。
Lee表示：“盡管我們已經(jīng)準備了好幾套侵犯（掃描）系統(tǒng)，但我們還是在這個特定的攻擊中出了錯?！?/p>
準確地說，Tay的侵犯性推文并非自主發(fā)生，所以這尤顯得微軟的無能，這對于這家來說是一場大災(zāi)難。
現(xiàn)在，微軟因Tay的不當言論而已經(jīng)將其關(guān)閉。而這次發(fā)生的事件倒可以讓微軟吸取點教訓。Lee指出，想要做好AI，就必須要不斷重復(fù)地與用戶溝通、不斷重復(fù)地到各大公共論壇取經(jīng)才行。
雖然AI現(xiàn)在科技領(lǐng)域大熱，微軟也是當中的領(lǐng)先開發(fā)者，并且許多開發(fā)人員都把目光放到聊天機器人上，但就目前的狀況來說它不被看好。
關(guān)注我們
