研究發(fā)現(xiàn)，人工智能實(shí)際上并不對(duì)人類構(gòu)成生存威脅

科幻小說中充斥著人工智能變得流氓并轉(zhuǎn)向他們的人類創(chuàng)造者。HAL-9000型。矩陣。天網(wǎng)。GLaDOS的。賽昂人。人類似乎對(duì)機(jī)器的反叛有著深深的恐懼。

隨著越來越復(fù)雜的大型語言模型 （LLM） 的興起，例如 Chat GPT，以下問題人工智能可能帶來哪些危險(xiǎn)有變得更有針對(duì)性.

現(xiàn)在，我們有一些好消息。根據(jù)德國達(dá)姆施塔特工業(yè)大學(xué)的計(jì)算機(jī)科學(xué)家Iryna Gurevych和英國巴斯大學(xué)的Harish Tayyar Madabushi領(lǐng)導(dǎo)的一項(xiàng)新研究，這些模型無法流氓。

事實(shí)上，他們的編程限制太強(qiáng)了，沒有指導(dǎo)就無法獲得新技能，因此仍然在人類的控制之下。

這意味著，盡管我們?nèi)匀挥锌赡軐⑦@些模型用于惡意目的，但就其本身而言，LLM 可以安全地開發(fā)而不必?fù)?dān)心。

“人們擔(dān)心的是，隨著模型越來越大，它們將能夠解決我們目前無法預(yù)測(cè)的新問題，這構(gòu)成了這些大型模型可能獲得包括推理和計(jì)劃在內(nèi)的危險(xiǎn)能力的威脅。Tayyar Madabushi 說.

“我們的研究表明，擔(dān)心一個(gè)模型會(huì)消失并做一些完全出乎意料的、創(chuàng)新的和有潛在危險(xiǎn)的事情是站不住腳的。

在過去的幾年里，LLM 的復(fù)雜性已經(jīng)發(fā)展到了驚人的程度。他們現(xiàn)在能夠通過文本進(jìn)行相對(duì)連貫的對(duì)話，以一種自然和人性化的方式。

他們并不完美——因?yàn)樗麄儗?shí)際上不是一種智力形式，他們缺乏這關(guān)鍵技能需要從壞信息中解析好信息在許多情況下.但他們?nèi)匀豢梢砸粤钊诵欧姆绞絺鬟_(dá)不良信息。

最近，一些研究人員已經(jīng)調(diào)查了可能性什么被稱為緊急能力由 LLM 獨(dú)立開發(fā)，而不是在其編程中故意編碼。一個(gè)特別的例子是法學(xué)碩士，它是能夠回答問題關(guān)于社交場(chǎng)合，而沒有接受過關(guān)于這些情況的明確培訓(xùn)。

觀察結(jié)果是，隨著LLM的規(guī)模擴(kuò)大，它們會(huì)變得更加強(qiáng)大，并且可以執(zhí)行更多的任務(wù)。目前尚不清楚這種規(guī)模是否也意味著我們可能沒有準(zhǔn)備好應(yīng)對(duì)的行為風(fēng)險(xiǎn)。因此，研究人員進(jìn)行了一項(xiàng)調(diào)查，以查看此類實(shí)例是否真的緊急出現(xiàn)，或者該程序只是在其代碼范圍內(nèi)以復(fù)雜的方式運(yùn)行。

他們?cè)囼?yàn)了四種不同的LLM模型，為它們分配了具有以前被確定為緊急.他們沒有發(fā)現(xiàn)任何證據(jù)表明差異化思維的發(fā)展，也沒有發(fā)現(xiàn)任何模型能夠在他們的編程之外發(fā)揮作用。

對(duì)于所有四個(gè)模型，遵循指示、記憶和語言熟練程度的能力能夠解釋 LLM 表現(xiàn)出的所有能力。沒有離開滑雪道。我們沒有什么可害怕的，LLMs本身。

另一方面，人們，不太值得信賴.我們自己對(duì)人工智能的爆炸性使用，需要更多的能量并挑戰(zhàn)從版權(quán)到信任，再到如何避免自己的一切數(shù)字污染，這正在成為一個(gè)真正的問題。

“我們的研究結(jié)果并不意味著人工智能根本不構(gòu)成威脅，”古列維奇 說.

“相反，我們表明，與特定威脅相關(guān)的復(fù)雜思維技能的出現(xiàn)并沒有得到證據(jù)的支持，而且我們畢竟可以很好地控制LLM的學(xué)習(xí)過程。因此，未來的研究應(yīng)該關(guān)注這些模型帶來的其他風(fēng)險(xiǎn)，例如它們可能被用來產(chǎn)生假新聞。

該研究已作為會(huì)議記錄的一部分發(fā)表第62屆計(jì)算語言學(xué)協(xié)會(huì)年會(huì).

寶寶起名