谷歌最新的搜索工具告訴我們在披薩上涂膠水，然后吃石頭

谷歌已經(jīng)推出了最新的實(shí)驗(yàn)性搜索功能在 Chrome、Firefox 和 Google 應(yīng)用程序?yàn)g覽器上向數(shù)億用戶提供。

“AI 概述”通過使用生成式 AI（與競爭對(duì)手產(chǎn)品 ChatGPT 相同的技術(shù)）來提供搜索結(jié)果的摘要，從而節(jié)省您點(diǎn)擊鏈接的時(shí)間。問“如何讓香蕉保持更長時(shí)間的新鮮”，它使用人工智能生成有用的提示摘要，例如將它們存放在陰涼、黑暗的地方，遠(yuǎn)離蘋果等其他水果。

但是問它一個(gè)左邊的問題，結(jié)果可能是災(zāi)難性的，甚至是危險(xiǎn)的。

谷歌目前正在爭先恐后地逐一解決這些問題，但對(duì)于搜索巨頭來說，這是一場公關(guān)災(zāi)難，也是一場具有挑戰(zhàn)性的打地鼠游戲。

AI Overviews 很有幫助地告訴你，“打地鼠是一款經(jīng)典的街機(jī)游戲，玩家使用木槌擊打隨機(jī)彈出的鼴鼠以獲得分?jǐn)?shù)。該游戲由娛樂制造商TOGO于1975年在日本發(fā)明，最初被稱為Mogura Taiji或Mogura Tataki。

但 AI 概述也告訴你”宇航員在月球上遇見了貓，和他們一起玩，并提供照顧“。

更令人擔(dān)憂的是，它還建議“你應(yīng)該每天至少吃一小塊石頭“，因?yàn)椤睅r石是礦物質(zhì)的重要來源，并且維生素“，并建議把披薩配料中的膠水.

為什么會(huì)這樣？

一個(gè)基本問題是，生成式人工智能工具不知道什么是真實(shí)的，只知道什么是流行的。例如，網(wǎng)絡(luò)上關(guān)于吃石頭的文章并不多，因?yàn)檫@顯然是一個(gè)壞主意。

然而，有一個(gè)好讀的諷刺文章來自洋蔥關(guān)于吃石頭。因此，谷歌的人工智能基于流行的摘要，而不是真實(shí)的東西。

另一個(gè)問題是生成式人工智能工具沒有我們的價(jià)值觀。他們在網(wǎng)絡(luò)上接受了大量訓(xùn)練。

雖然復(fù)雜的技術(shù)（以異國情調(diào)的名字命名，例如”從人類反饋中強(qiáng)化學(xué)習(xí)“或 RLHF）用于消除最壞的情況，毫不奇怪，它們反映了一些偏見、陰謀論和更糟糕的網(wǎng)絡(luò)。事實(shí)上，考慮到人工智能聊天機(jī)器人的訓(xùn)練，我總是對(duì)它們有禮貌和乖巧感到驚訝。

這是搜索的未來嗎？

如果這真的是搜索的未來，那么我們將經(jīng)歷一段顛簸的旅程。當(dāng)然，谷歌是追趕與OpenAI和Microsoft合作。

引領(lǐng)人工智能競賽的經(jīng)濟(jì)激勵(lì)是巨大.因此，谷歌在將技術(shù)推向用戶手中時(shí)不如過去那么謹(jǐn)慎。

2023年，谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）說:

我們一直很謹(jǐn)慎。在某些領(lǐng)域，我們選擇不率先推出產(chǎn)品。我們已經(jīng)圍繞負(fù)責(zé)任的人工智能建立了良好的結(jié)構(gòu)。您將繼續(xù)看到我們慢慢來。

這似乎不再是那么真實(shí)，因?yàn)?a>谷歌回應(yīng)批評(píng)它已經(jīng)成為一個(gè)龐大而昏昏欲睡的競爭對(duì)手。

冒險(xiǎn)的舉動(dòng)

這對(duì)谷歌來說是一個(gè)冒險(xiǎn)的策略。它有可能失去公眾對(duì)谷歌的信任，因?yàn)楣雀枋菍ふ遥ㄕ_）問題答案的地方。

但谷歌也有可能破壞其價(jià)值數(shù)十億美元的商業(yè)模式。如果我們不再點(diǎn)擊鏈接，只需閱讀它們的摘要，谷歌如何繼續(xù)賺錢？

風(fēng)險(xiǎn)不僅限于谷歌。我擔(dān)心人工智能的這種使用可能會(huì)對(duì)更廣泛的社會(huì)有害。真理已經(jīng)是一個(gè)有點(diǎn)爭議和可替代的想法。人工智能的謊言可能會(huì)使情況變得更糟。

十年后，我們可能會(huì)將 2024 年視為網(wǎng)絡(luò)的黃金時(shí)代，當(dāng)時(shí)大部分是高質(zhì)量的人類生成內(nèi)容，然后機(jī)器人接管了填滿了網(wǎng)絡(luò)與合成和越來越低的質(zhì)量AI 生成的內(nèi)容.

人工智能開始呼吸自己的廢氣了嗎？

第二代大型語言模型很可能無意中在一些第一代的輸出.許多 AI 初創(chuàng)公司都在吹捧培訓(xùn)的好處人工智能生成的合成數(shù)據(jù).

但是對(duì)當(dāng)前 AI 模型的廢氣進(jìn)行訓(xùn)練即使是很小的偏見和錯(cuò)誤也有可能放大.正如吸入廢氣對(duì)人類有害一樣，對(duì)人工智能也有害。

這些擔(dān)憂符合更大的圖景。全球超過4億美元（6億澳元）每天都在人工智能領(lǐng)域投資。鑒于這種投資洪流，政府現(xiàn)在才剛剛意識(shí)到我們可能需要護(hù)欄和監(jiān)管來確保負(fù)責(zé)任地使用人工智能。

制藥公司不得發(fā)布有害藥物。汽車公司也是如此。但到目前為止，科技公司在很大程度上被允許做他們喜歡的事情。

托比·沃爾什，人工智能教授，課題組組長，悉尼新南威爾士大學(xué)

本文轉(zhuǎn)載自對(duì)話根據(jù)知識(shí)共享許可。閱讀原文.

寶寶起名 起名