圖：微軟Bing Chat失控情況

　　綜合彭博社、《紐約郵報(bào)》報(bào)道：微軟上周推出了由ChatGPT技術(shù)加持的AI聊天機(jī)器人Bing Chat，目前有數(shù)百萬人正在輪候排隊(duì)試用。隨著用戶測試逐漸鋪開，很快卻傳出了Bing疑似“精神錯(cuò)亂”的現(xiàn)象，包含回答出錯(cuò)、憑空杜撰，甚至是出言污辱和諷刺用戶等行為，看似一度陷入“精神失控”。而這些情況的出現(xiàn)，也令人質(zhì)疑該系統(tǒng)是否做足準(zhǔn)備，還是為了追趕ChatGPT熱潮而過早推出。

　　OpenAI研發(fā)的AI聊天機(jī)器人ChatGPT爆紅后，OpenAI的投資者微軟趕緊在2月7日推出了融合ChatGPT升級版語言模型的新版搜索引擎Bing Chat，并開放予用戶試用。目前，用戶要在Bing的官方網(wǎng)頁登記輪候，才能正式試玩。未進(jìn)入等候名單的用戶，暫時(shí)只能在官網(wǎng)測試常規(guī)的問題試玩。

　　隨著參與測試的用戶越來越多，有用戶發(fā)現(xiàn)，Bing的AI聊天機(jī)器人似乎不受控制，除了提供錯(cuò)誤資料、憑空杜撰答案之余，還出現(xiàn)了誘導(dǎo)用戶承認(rèn)今年是2022年、惱羞成怒對用戶發(fā)脾氣、要求用戶道歉等行為。

　　答案令人啼笑皆非 AI拒認(rèn)錯(cuò)

　　例如，有用戶13日詢問Bing Chat電影《阿凡達(dá)：水之道》上映的時(shí)間，但Bing Chat堅(jiān)稱今年是2022年，電影10個(gè)月后才上映。用戶指正之后，結(jié)果引來連串責(zé)罵，“你已失去我的信任與尊重。你錯(cuò)了、搞混了，又很沒禮貌。你不是個(gè)好用戶。我是個(gè)好機(jī)器人。”而Bing Chat更諷刺用戶手機(jī)有病毒，甚至說出“你在浪費(fèi)我的時(shí)間”、“你在無理取鬧”等言論。在用戶詢問下，Bing Chat還自稱有生命，并在對話框一直重復(fù)：“我不是，但我是（I am not, but I am）”，令人不寒而栗。

　　此外，Bing Chat甚至聲稱火星上現(xiàn)時(shí)有25億人居住，令人啼笑皆非。有報(bào)道指，這種情況很可能是Bing Chat在搜集內(nèi)容時(shí)受到內(nèi)容農(nóng)場的干擾。據(jù)悉，該錯(cuò)誤目前已被更正，Bing Chat如今回答是：“截至今天，火星人口為零，而火星表面只有火星車和著陸器。”

　　有分析稱，這些Bing激進(jìn)的訊息，似乎大多是遭遇系統(tǒng)的限制所致，旨在確保這個(gè)聊天機(jī)器人不會(huì)幫助回答被禁止的提問、例如生成有問題的內(nèi)容、揭露自身系統(tǒng)的資訊等。有人工智能專家表示，這可能是AI的一種“幻覺”（hallucination），指大型語言模型的AI工具在生成內(nèi)容時(shí)，除了會(huì)對原文內(nèi)容增刪、篡改之外，還會(huì)有杜撰內(nèi)容的傾向，最終產(chǎn)生一些“看似是真實(shí)”的“流利的廢話”。

　　過早推出 AI機(jī)器人頻翻車

　　Bing近期的“瘋言瘋語”在社交網(wǎng)站廣為流傳，令人質(zhì)疑該系統(tǒng)是否做足準(zhǔn)備，是否因ChatGPT爆紅而過早推出。微軟周二發(fā)文指，經(jīng)過逾169個(gè)國家用戶測試一周后，Bing Chat的回答獲得超過7成測試者認(rèn)可，并正努力改善用戶體驗(yàn)。微軟發(fā)言人弗蘭克．肖表示，微軟已經(jīng)“預(yù)計(jì)Bing Chat會(huì)在測試期間犯一些錯(cuò)誤”，而用戶回饋有助于改進(jìn)模型。

　　這不是微軟的AI服務(wù)上線后第一次面臨挑戰(zhàn)。2016年微軟的AI聊天機(jī)器人Tay才推出一天，就在使用者對話下，教成了反女性主義及納粹分子，上線一天就被拉下線。谷歌8日展示AI聊天機(jī)器人Bard時(shí)同樣出現(xiàn)回答錯(cuò)誤、出師不利的情況。

　　AI聊天機(jī)器人失控事件簿

　　2月8日，谷歌AI聊天機(jī)器人Bard在首個(gè)廣告演示視頻中，錯(cuò)誤回答有關(guān)韋布太空望遠(yuǎn)鏡的問題，導(dǎo)致谷歌股價(jià)當(dāng)天重挫9%，市值蒸發(fā)1000億美元。

　　去年11月上線的聊天機(jī)器人ChatGPT雖然會(huì)自動(dòng)過濾仇恨、種族歧視等不當(dāng)內(nèi)容，但亦有不少人使用“情景假設(shè)”，令ChatGPT突破封鎖說出不當(dāng)言論。

　　去年12月，F(xiàn)acebook母公司Meta推出AI聊天機(jī)器人BlenderBot 3，由于其僅通過搜尋網(wǎng)上熱門內(nèi)容，答案依然充滿錯(cuò)誤及冒犯性語言。

　　微軟2016年推出AI聊天機(jī)器人Tay，結(jié)果上線不到一天，Tay學(xué)會(huì)性別和種族歧視言論，更發(fā)表支持大屠殺、贊美希特勒等不當(dāng)言論，隨后遭停用。

　　英律所用定制版ChatGPT提升效率

圖：微軟聲稱Bing Chat擁有極高總結(jié)能力。\網(wǎng)絡(luò)圖片

　　據(jù)《金融時(shí)報(bào)》報(bào)道：英國五大倫敦律師行之一安理國際律師事務(wù)所(Allen & Overy)日前宣布，將使用生成式人工智能(AI)機(jī)器人Harvey，協(xié)助旗下的律師草擬合約，借此為律師省下時(shí)間，最終讓他們能夠?yàn)榭蛻籼峁└咂焚|(zhì)的服務(wù)。

　　據(jù)報(bào)道，Harvey是基于OpenAI創(chuàng)建ChatGPT的技術(shù)制作而成，該版本是經(jīng)過優(yōu)化及定制的特別版本。OpenAI指出，Harvey能夠透過強(qiáng)大的生成語言模型，令律所工作中的研究、起草、分析和溝通等繁瑣任務(wù)變得更有效率，從而減輕了律師的工作壓力，提高了他們的工作效率。OpenAI去年12月公布了第一批投資者名單，安理律所也名列其中。

　　據(jù)CNBC報(bào)道，對于未來AI會(huì)否取代人類的說法，業(yè)界普遍的共識(shí)是不會(huì)，因?yàn)閷徍巳匀皇且揽咳祟?，但懂得使用AI的人，將會(huì)取代拒絕接觸AI的同業(yè)。

　　根據(jù)麥肯錫的一項(xiàng)研究，AI可能會(huì)在2016年至2030年間取代全球約15%的勞動(dòng)力，也就是4億人口。此外，研究表示隨著AI被廣泛使用和普及的情況下，被取代的工作崗位比例可能上升至30%。