作者 | 吳菲凝

編輯 | 李水青

(資料圖)

智東西3月16日?qǐng)?bào)道，昨日，彭博社梳理了9個(gè)有關(guān)AI聊天機(jī)器人的關(guān)鍵問(wèn)題，包括生成式AI的概念、ChatGPT如何工作、誰(shuí)能從中獲利、市場(chǎng)競(jìng)爭(zhēng)格局、局限性以及道德風(fēng)險(xiǎn)等。

據(jù)彭博社稱(chēng)，自去年11月ChatGPT推出以來(lái)，它對(duì)幾乎任何類(lèi)型的問(wèn)題都給出了通俗易懂的答案，引起了全球轟動(dòng)。微軟、谷歌和百度等科技巨頭都在大力押注生成式AI，認(rèn)為它有可能顛覆利潤(rùn)豐厚的搜索市場(chǎng)，但目前生成式AI產(chǎn)品廣泛使用的同時(shí)也暴露出了不少缺陷和潛在隱患。

一、什么是生成式AI？如同小兒學(xué)語(yǔ)

生成式AI，又稱(chēng)作生成模型，是一種用深度學(xué)習(xí)算法生成新數(shù)據(jù)的AI技術(shù)。生成式AI使用神經(jīng)網(wǎng)絡(luò)，它們仿照人腦結(jié)構(gòu)并通過(guò)大量數(shù)據(jù)學(xué)習(xí)來(lái)完成指令任務(wù)。在前期訓(xùn)練期間，他們被輸入大量的信息，并被指配一項(xiàng)任務(wù)，比如“為一部小說(shuō)寫(xiě)一段簡(jiǎn)介”，再利用學(xué)習(xí)來(lái)的數(shù)據(jù)完成任務(wù)。

隨著不斷的數(shù)據(jù)學(xué)習(xí)，系統(tǒng)能夠判斷用戶(hù)輸入的詞句是否有意義，并不斷改進(jìn)自己的信息庫(kù)。這個(gè)過(guò)程就像是小孩子在父母的指導(dǎo)下學(xué)習(xí)說(shuō)話一樣，從簡(jiǎn)單基礎(chǔ)的詞匯慢慢學(xué)到一些完整的句子，再到自如流暢地表達(dá)交流。

生成式AI和傳統(tǒng)計(jì)算機(jī)系統(tǒng)的不同之處在于，它給出的結(jié)果往往是不確定的，每次的反應(yīng)都可能不同，但也會(huì)隨著系統(tǒng)進(jìn)步而變得更快、更聰明。

二、ChatGPT是如何工作的？基于大語(yǔ)言模型

ChatGPT是基于OpenAI公司的大型語(yǔ)言模型GPT-3.5開(kāi)發(fā)出的一款聊天機(jī)器人。

GPT是OpenAI開(kāi)發(fā)的一系列自然語(yǔ)言模型，在無(wú)監(jiān)督學(xué)習(xí)過(guò)程中進(jìn)行預(yù)訓(xùn)練，能像人類(lèi)一樣理解、創(chuàng)造文本。OpenAI于2018年發(fā)布了GPT-1，又陸續(xù)推出了GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4等版本。

最新版本的GPT-4建立在其前身GPT-3.5的基礎(chǔ)上，從演示視頻來(lái)看，GPT-4在許多專(zhuān)業(yè)測(cè)試中的表現(xiàn)水平超過(guò)絕大多數(shù)人類(lèi)。它從整個(gè)網(wǎng)絡(luò)中攝取文本，包括維基百科、新聞網(wǎng)站、書(shū)籍和博客，以努力使其答案具有相關(guān)性和充分的信息。ChatGPT在該程序之上增加了一個(gè)對(duì)話界面。

ChatGPT與以往的聊天機(jī)器人最大的不同之處就在于，它能像真人一樣與用戶(hù)對(duì)答交流，所給出的答案邏輯清晰、條理分明。在一些需要進(jìn)一步思考的問(wèn)題上，它甚至能給出自己的見(jiàn)解，比真人回答的完整度更高。

除了能回答問(wèn)題以外，ChatGPT還能自動(dòng)寫(xiě)文章、總結(jié)提煉觀點(diǎn)、生成代碼等。

三、誰(shuí)是OpenAI的幕后推手？微軟接棒馬斯克

OpenAI于2015年由美國(guó)創(chuàng)業(yè)孵化器Y Combinator總裁薩姆·阿爾特曼（Sam Altman）和全球在線支付平臺(tái)PayPal聯(lián)合創(chuàng)始人彼得·泰爾（Peter Thiel）等人創(chuàng)辦，旨在開(kāi)發(fā)“有益于全人類(lèi)的AGI”。早期的投資者還包括LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼（Reid Hoffman）和特斯拉CEO埃隆·馬斯克（Elon Musk），馬斯克在2018年時(shí)退出。微軟于2019年時(shí)為OpenAI投資10億美元。

四、公眾對(duì)ChatGPT的反應(yīng)如何？?jī)蓚€(gè)月用戶(hù)破億

自ChatGPT在去年11月30日開(kāi)放注冊(cè)后，5天內(nèi)便擁有了超100萬(wàn)用戶(hù)，上線兩月后全球用戶(hù)破億，注冊(cè)請(qǐng)求數(shù)日峰值達(dá)到數(shù)億級(jí)別。各大社交媒體上對(duì)這一產(chǎn)品的討論熱度也一直居高不下。一些用戶(hù)分享了ChatGPT對(duì)于一些晦澀難懂的問(wèn)題給出的答案，其他人則驚嘆于它豐富的知識(shí)庫(kù)。

用戶(hù)的熱烈討論也提升了OpenAI其他產(chǎn)品的熱度，包括文本生成圖像工具Dall-E，它能根據(jù)用戶(hù)的文字描述直接生成一張符合需求的圖片。

五、誰(shuí)會(huì)從生成式AI當(dāng)中獲利？小企業(yè)暫難盈利

谷歌、微軟這樣的科技巨頭早已探知到了生成式AI的潛力。今年1月，微軟深化了與OpenAI的合作關(guān)系，并以提升微軟Azure云計(jì)算網(wǎng)絡(luò)的計(jì)算能力為交換條件，完成了一項(xiàng)價(jià)值100億美元的長(zhǎng)期投資。又在2月時(shí)將類(lèi)ChatGPT產(chǎn)品集成到自己的搜索引擎Bing當(dāng)中。谷歌則推出自己的對(duì)話式AI助手Bard作為回應(yīng)。百度也于今日正式開(kāi)放了自己的新一代大語(yǔ)言模型、生成式AI產(chǎn)品文心一言。

由于聊天機(jī)器人中沒(méi)有可插入廣告的結(jié)果頁(yè)，盈利對(duì)于小型企業(yè)來(lái)講依舊是個(gè)難題。從中獲利的更多是提供和開(kāi)發(fā)生成式AI產(chǎn)品的大型科技公司。

六、競(jìng)爭(zhēng)局面如何？巨頭的游戲

在ChatGPT發(fā)布后，OpenAI根據(jù)用戶(hù)的反饋意見(jiàn)對(duì)GPT-3.5進(jìn)行了迭代調(diào)整，修改了模型在準(zhǔn)確性、安全性和發(fā)布不當(dāng)言論等方面的問(wèn)題。OpenAI稱(chēng)，在公司內(nèi)部的對(duì)抗性真實(shí)性評(píng)估中，GPT-4的得分比GPT-3要高出40%，根據(jù)政策響應(yīng)敏感請(qǐng)求的頻率提高了29%。

早在2月時(shí)，谷歌的聊天機(jī)器人Bard公開(kāi)演示中犯了一個(gè)事實(shí)性錯(cuò)誤，引發(fā)了大眾對(duì)谷歌可能會(huì)在搜索領(lǐng)域失去優(yōu)勢(shì)地位的擔(dān)憂(yōu)，導(dǎo)致谷歌開(kāi)局不利、股價(jià)走低。

Meta目前則正急于從公司各處的團(tuán)隊(duì)中組建一個(gè)生成性AI產(chǎn)品組。

國(guó)內(nèi)生成式AI領(lǐng)域同樣是熱潮涌動(dòng)，百度今日正式發(fā)布文心一言大模型。此前，由清華大學(xué)知識(shí)工程實(shí)驗(yàn)室轉(zhuǎn)化而來(lái)的智譜AI推出了基座模型ChatGLM，復(fù)旦大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室也推出對(duì)話式AI模型MOSS，各家競(jìng)相研發(fā)生成式AI產(chǎn)品。

七、有哪些行業(yè)可以從中受益？創(chuàng)意行業(yè)獲幫手

就目前而言，Chat-GPT等AIGC工具并不會(huì)完全取代某個(gè)工種，它更多承擔(dān)的是“工具”的作用。它所具備的搜索、閱讀、寫(xiě)作等功能是所有工作中的基礎(chǔ)性事務(wù)，它更像是一種輔助性工具，幫人類(lèi)搜索基本信息、提升閱讀速度，更好地理解文本內(nèi)容，從而提升工作效率。

而那些繁瑣的、重復(fù)的、勞動(dòng)密集型的工作將會(huì)被這些工具所代替。創(chuàng)作型的職業(yè)則有了更大的提升空間。

八、生成式AI的局限性是什么？虛假信息泛濫等

隨著ChatGPT的爆火，它原本的不足之處和可能帶來(lái)的隱患也在用戶(hù)使用過(guò)程中逐漸顯露，諸如虛假信息、學(xué)術(shù)造假、隱私保護(hù)等潛在危機(jī)都引起了人們的高度警惕。

生成式AI的數(shù)據(jù)都來(lái)源于二手信息，導(dǎo)致它拼湊出的答案可能聽(tīng)上去非常權(quán)威又有說(shuō)服力，但隱藏著許多的事實(shí)性、常識(shí)性錯(cuò)誤，細(xì)看之下就像是在“一本正經(jīng)地胡說(shuō)八道”，它給出的回答中可能會(huì)包含很多部分正確、不完整、有偏見(jiàn)的內(nèi)容，專(zhuān)業(yè)領(lǐng)域的答案也經(jīng)不起行業(yè)專(zhuān)家的細(xì)致推敲。若是某一領(lǐng)域的門(mén)外漢聽(tīng)信了其中提供的信息，可能會(huì)造成誤導(dǎo)。

回答的準(zhǔn)確度和完整性取決于訓(xùn)練中的數(shù)據(jù)多少，目前局限性也掣肘了ChatGPT的發(fā)展。由于回答中包含的不準(zhǔn)確性，計(jì)算機(jī)編程網(wǎng)站StackOverflow禁止了ChatGPT的接入和訪問(wèn)

九、生成式AI是否存在道德風(fēng)險(xiǎn)？風(fēng)險(xiǎn)與考驗(yàn)并存

隨著生成式AI變得越來(lái)越復(fù)雜，欺騙和進(jìn)行惡作劇的可能性也逐漸加大。微軟曾推出過(guò)一款名為“Tay”的AI機(jī)器人，但很快用戶(hù)就發(fā)現(xiàn)它會(huì)發(fā)一些有關(guān)種族主義和性別歧視等攻擊性?xún)?nèi)容，短短一天之內(nèi)就被緊急撤下。

OpenAI也曾訓(xùn)練ChatGPT去拒絕那些明顯不當(dāng)?shù)恼?qǐng)求，來(lái)限制它發(fā)表仇恨言論或是錯(cuò)誤信息。OpenAI首席執(zhí)行官鼓勵(lì)用戶(hù)對(duì)那些令人不適的言論點(diǎn)擊“不喜歡”按鈕，用戶(hù)多次反饋后它就能自動(dòng)改善系統(tǒng)。

此外，類(lèi)ChatGPT產(chǎn)品在學(xué)業(yè)中的使用也是一把雙刃劍。它一方面幫助學(xué)生們搜集、篩選、整理了繁雜信息，但另一方面也可能造成學(xué)術(shù)造假、論文抄襲等問(wèn)題。大學(xué)老師們也擔(dān)心學(xué)生太過(guò)依賴(lài)ChatGPT來(lái)完成作業(yè)而喪失了自己的思考能力，將其視為洪水猛獸。

立法者們也被潮水般涌入的投訴信所淹沒(méi)，但他們同樣無(wú)法判斷這些信件是真的在表達(dá)不滿(mǎn)，或是由聊天機(jī)器人編纂出來(lái)的。

結(jié)語(yǔ)：生成式AI重構(gòu)人類(lèi)？警惕科技迷思！

不可否認(rèn)的是，ChatGPT等生成式AI產(chǎn)品的出現(xiàn)為每一個(gè)行業(yè)都帶了顛覆性的改變，把勞動(dòng)力從重復(fù)、低級(jí)的工作中解放出來(lái)，對(duì)人類(lèi)的創(chuàng)造力、思考力提出了更高的要求。但我們必須認(rèn)清這一現(xiàn)實(shí)：生成式AI是工具而非代替品。

人類(lèi)的智慧與經(jīng)驗(yàn)無(wú)法被AI取代。我們更要警惕生成式AI便利背后的風(fēng)險(xiǎn)和隱患，引導(dǎo)科技向好向善發(fā)展

關(guān)鍵詞：