在過去的幾周里，你可能看到過你的Facebook好友分享過這樣一篇文章，內容是關于一對由人工智能驅動的Facebook聊天機器人是如何偏離他們最初設定的程序，并發(fā)明自己的語言的。

   關鍵是：Facebook創(chuàng)建了兩個人工智能聊天程序，可以相互交談（并互相學習），最終他們停止了用英語交流，并開始用一種非英語的語言進行交流，這些語言是它們自己“發(fā)明的”。

 

   新聞頭版紛紛報道了這一事件，從奪人眼球的噱頭到抽絲剝繭的分析，如每日電訊報的“聊天機器人發(fā)明新語言進行溝通Facebook被迫選擇關閉”，讓人聽起來像是這些聊天機器人正在密謀反抗人類，或是對人類構成威脅。隨便看看這些新聞底下的評論，你就會發(fā)現大家的反應有恐懼、興奮甚至高興，有人說道“這一天終于來了”或引用其他艾薩克·阿西莫夫小說中的語句。

 

   但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一直在“發(fā)明”新的溝通方式，所以這其實算不上新聞。此外，他還解釋說，與新聞標題相反的是，這個實驗并沒有被關閉，只是為了調整語言交流而改變了。

 

   學電腦有什么前途，人工智能"創(chuàng)造"語言。此外，公司也沒有試圖隱瞞實驗細節(jié)。所有的一切都是公開的，所有的細節(jié)都可以在GitHub上查到，允許其他程序員復制這個場景。

 

   底線是：在人工智能方面，新的人工智能語言不該是我們擔心的問題。

 

   下面這些才是我們應該關注的主要領域：

 

   武器：

 

   武器軍用無人機已經投入使用，自動化武器被認為是第三次戰(zhàn)爭革命。自動化的智能武器讓更少的士兵受到傷害，而且遠比戰(zhàn)斗機或核材料等先進技術便宜。例如，當前的“收割者”無人機價格約為1300萬美元，而一架戰(zhàn)斗機的價格為1億美元。在未來，它們將變得更加廉價，而且不受監(jiān)管（也意味著極其強大）的移動武器也將更加便宜，任何人都可以通過編程來殺死和摧毀對方（除非我們主動采取安全措施）。

 

   人工智能創(chuàng)造語言不可怕 這三點才是令人擔心的

 

　控制：

 

   控制也許最重要的不是人工智能本身，而是誰在控制它。我們正在應對的是那些有能力重塑世界的力量，如果它們被貪婪的公司、渴求能源的、甚至是善意的個人所壟斷，這些人根本不知道自己在做什么，那么這項技術很容易被濫用或誤用。這就是為什么硅谷的一些影響者和人工智能研究人員聚集在一起，成立OpenAI，這是一項讓全世界都能使用人工智能的倡議，而不僅僅是一群特別的人。這一舉措并不“便宜”，據報道，該項目一位頂尖的人工智能研究人員的報價是其市場價值的兩到三倍。

 

   發(fā)展：

 

   人工智能的另一個問題是在不受參數控制的情況下，人工智能的發(fā)展速度。通用人工智能（AGI）具有指數級的成長能力，因為它將會自我提升，并且在某一時刻會超過其創(chuàng)造者的智力。農業(yè)時代延續(xù)了幾千年，工業(yè)時代延續(xù)了數百年，信息時代持續(xù)了幾十年，如今人工智能時代僅開始數年；技術的增長持續(xù)加速而不是直線發(fā)展，而現在，任何進一步的加速都會讓我們毫無準備地應對后果（如果我們采取被動的態(tài)度，而不是積極的姿態(tài)）。我們還沒能創(chuàng)造出超級智能，但我們已經掌握了處理能力——中國的天河2號每秒能計算34千萬億次計算（cps），遠超人類大腦（10千萬億秒）。

 

   如果我們想要負責任地運用這種計算能力，我們需要有一個基礎來應對它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現問題時采用適當的防護措施。

 

   關于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴重的擔憂。然而，過度地將被測試的系統(tǒng)個人化，或者被標題誤導我們的觀點是不負責任的。聊天機器人發(fā)明一種新語言并不是威脅，它是順其自然的，還有其他更重要的事值得我們的注意。