存在問題

　　1.不可控的“粗魯行為”

　　正如我們從微軟的Tay聊天機器人事件中了解到的，會話式消息系統(tǒng)可能是荒謬的、不禮貌的、甚至是非常令人不快的。首席信息官們必須對自己使用的東西以及使用它們的方式非常小心。要摧毀一個品牌的形象，只需要聊天機器人一次令人惱怒的爆發(fā)就足夠了。

　　2.感知能力很糟糕

　　谷歌人工智能科學(xué)家及斯坦福大學(xué)教授李飛飛在《紐約時報》的一篇專欄文章中表示，人工智能雖然是由人類開發(fā)的，但是具有諷刺意味的是，它根本不像人類。她表示，人類的視覺感知是高度背景化的，但人工智能對圖像感知的能力卻非常的狹隘。為此，人工智能程序員必須與領(lǐng)域?qū)＜液献?mdash;—回歸該領(lǐng)域的學(xué)術(shù)根源——以縮小人與機器感知之間的差距。

　　3.黑匣子難題

　　許多企業(yè)都想使用人工智能，但金融服務(wù)等行業(yè)的公司必須非常小心，因為對于人工智能是如何得出其結(jié)論這個問題尚未能解決。Fannie Mae的運營和技術(shù)負責(zé)人Bruce Lee表示：“企業(yè)如果不能解決好樣本數(shù)據(jù)偏見對借貸公平造成的影響，就無法提供更好的抵押貸款利率。在諸如信貸決策之類的工作里，人工智能實際上受到了很多監(jiān)管的阻礙，很多問題有待解決。所以我們所做的很多事情都必須進行徹底的回溯測試，以確保沒有引入不恰當(dāng)?shù)钠姟?rdquo;

　　如果人們不清楚人工智能軟件如何檢測模式并觀察結(jié)果，那么對機器的信任能夠到達何種程度也有待考究。Fox Rothschild律師事務(wù)所技術(shù)實踐聯(lián)席主席Dan Farris表示：“背景、道德和數(shù)據(jù)質(zhì)量是影響人工智能價值可靠性的重要因素，特別是在受到高度監(jiān)管的行業(yè)中更是如此。”他表示：“在任何受到高度監(jiān)管的行業(yè)中部署人工智能都可能會導(dǎo)致合規(guī)性問題。”

　　4.民族和社會經(jīng)濟方面的偏見

　　在進行一個使用谷歌街景汽車圖像來確定全美國城鎮(zhèn)人口結(jié)構(gòu)的項目中，斯坦福大學(xué)的博士生Timnit Gebru對于她的研究中對種族、性別和社會經(jīng)濟方面的偏見感到擔(dān)憂。根據(jù)彭博社的報道，正是這種擔(dān)心促使Gebru加入微軟，她正在這里努力地挖掘人工智能的偏見。

　　即使是人工智能虛擬助手也會受到偏見的影響。你有沒有想過為什么虛擬助理技術(shù)——例如Alexa、Siri和Cortana都設(shè)定為女性?客戶服務(wù)軟件專家LivePerson的首席執(zhí)行官Rob LoCascio對CIO.com表示：“這源于人類自己對職場中女性的期望。許多人認為，女性本質(zhì)上是‘助手’;她們更愛‘嘮叨’;她們更多地擔(dān)任行政職務(wù);她們更擅長接受訂單……”

　　5.黑客利用人工智能發(fā)動致命的攻擊

　　一份由劍橋大學(xué)、牛津大學(xué)和耶魯大學(xué)25位技術(shù)和公共政策研究人員撰寫的98頁的報告指出，人工智能的快速發(fā)展意味著存在惡意用戶很快就會利用該技術(shù)進行自動黑客攻擊，模仿人類傳播錯誤信息或?qū)⑸虡I(yè)無人機轉(zhuǎn)化為目標(biāo)武器。

　　牛津大學(xué)未來人類研究所(Future of Humanity Institute)的研究人員Miles Brundage 對路透社表示：“我們承認，人工智能有很多積極的應(yīng)用。但是，它也的確存在著一個有關(guān)惡意使用問題的缺口。”

　　6.奴役理論

　　以特斯拉和SpaceX成名的企業(yè)家Elon Musk警告說，人類冒著成為獨立“家貓”的風(fēng)險創(chuàng)造具有卓越智慧和能力的人工智能。最近，以色列歷史學(xué)家Yuval Noah Harari也提出，以自動化為核心的人工智能的出現(xiàn)，可能會造成一個“全球無用階級”。 在這樣的世界里，民主會受到威脅，因為人類并不像機器那樣了解自己。

　　人工智能的情感探索

　　人工智能雖然是工具和手段，但威脅也仍然存在，當(dāng)好的工具被壞的人類使用后，對社會產(chǎn)生的很多時候都會是惡果。但我們也不能因為可能存在的威脅就放棄了這項技術(shù)的發(fā)展，畢竟這項技術(shù)給人類的生活帶來的翻天覆地變化，我們也無法去忽視。對人工智能來說，如果單純只是增加算法準(zhǔn)確性，帶來的更高語音、圖像等領(lǐng)域的識別，那其實還遠不能說人工智能，這充其量只能算是更高級的電腦而已。而人工智能想要達到人類智慧的高度，那么僅僅只是在智商上達到那還遠遠不夠，其最為關(guān)鍵的仍然還是人類情感，這種人類神經(jīng)系統(tǒng)對外界價值關(guān)系產(chǎn)生的最主觀反映。

　　新一代人工智能系統(tǒng)的首要任務(wù)就是需要具備“感性”的情感連接能力，這樣才能以更像真實人類的方式滿足人們普遍心理和情感需求，從而逐步建立信任和依賴感?？萍脊緜儚臎]有放棄在這方面的嘗試，為了更好的與人類進行情感交流，很多公司都發(fā)明了人工智能對話機器人，被我們所熟知的就有微軟小冰。微軟小冰突破了過去傳統(tǒng)人工智能的發(fā)展思路，從底層建立了一套新的技術(shù)和產(chǎn)品結(jié)構(gòu)，將“情感計算”第一次引入人工智能領(lǐng)域。目前僅僅是在中國市場，微軟小冰就已經(jīng)和近四千萬人類建立了1對1的專屬關(guān)系。眼下微軟正在嘗試將對人工智能情感計算的思想注入到小冰的開發(fā)和運營中。

　　在技術(shù)和產(chǎn)品創(chuàng)新層面，微軟構(gòu)建了一個完整可持續(xù)的對話系統(tǒng)，這個對話系統(tǒng)的基本任務(wù)不是以完成任務(wù)為優(yōu)先，而是建立情感連接為優(yōu)先。構(gòu)建這個對話系統(tǒng)的方法，已不只限于語義學(xué)，而是基于搜索引擎、大數(shù)據(jù)和機器學(xué)習(xí)的系統(tǒng)模擬方法。最終希望讓小冰這樣的人工智能產(chǎn)品快速普及到千家萬戶，成為人們?nèi)粘Ｉ畹囊徊糠帧?/p>