這段時(shí)間谷歌正在美國(guó)市場(chǎng)測(cè)試谷歌搜索的谷歌概覽歌 AI 概覽功能，即用戶通過(guò)谷歌搜索檢索某些問(wèn)題時(shí)，承認(rèn)存部錯(cuò)誤谷歌基于 Gemini 人工智能模型的分常 AI 概覽會(huì)自動(dòng)對(duì)搜索結(jié)果進(jìn)行總結(jié)并生成回答，讓用戶無(wú)需挨個(gè)點(diǎn)擊網(wǎng)頁(yè)即可獲得想要的識(shí)性索藍(lán)答案。

不過(guò)這個(gè)功能也被發(fā)現(xiàn)存在諸多常識(shí)性錯(cuò)誤，但谷的搜點(diǎn)網(wǎng)例如建議人們每天應(yīng)該吃一些石頭、責(zé)用正常給出西紅柿炒鋼絲的戶進(jìn)詳細(xì)做法、在醬汁中加入膠水幫助奶酪粘在披薩上等。谷歌概覽歌

出現(xiàn)這種問(wèn)題的承認(rèn)存部錯(cuò)誤根源在于谷歌的 Gemini 模型并不能識(shí)別搜索結(jié)果中哪些內(nèi)容是存在問(wèn)題的，例如會(huì)引用諷刺網(wǎng)站洋蔥新聞的分常內(nèi)容。

針對(duì)上述問(wèn)題谷歌也發(fā)布了回應(yīng)，識(shí)性索藍(lán)一方面谷歌指責(zé)用戶不是但谷的搜點(diǎn)網(wǎng)正常的搜索 (即故意挑出一些刁鉆的問(wèn)題)、另一方面谷歌表示正在進(jìn)行改進(jìn)。責(zé)用正常

下面是戶進(jìn)谷歌發(fā)言人給出的回應(yīng)：

絕大多數(shù) AI 概覽都通過(guò)深入挖掘網(wǎng)絡(luò)連接提供高質(zhì)量的信息，我們看到的谷歌概覽歌許多示例都不是常見(jiàn)的查詢，我們也看到了被篡改或者我們無(wú)法復(fù)現(xiàn)的案例。

在推出 AI 概覽功能前，和谷歌推出其他功能一樣，我們已經(jīng)進(jìn)行了廣泛的測(cè)試，我們非常感謝大家的反饋。

我們會(huì)根據(jù)內(nèi)容政策迅速采取行動(dòng)并利用用戶提出的這是問(wèn)題示例進(jìn)行更廣泛的改進(jìn)，其中一些改進(jìn)已經(jīng)開(kāi)始推出。

谷歌的回應(yīng)中還有個(gè)值得關(guān)注的問(wèn)題是谷歌有時(shí)候也無(wú)法復(fù)現(xiàn)問(wèn)題，即對(duì)于同一個(gè)問(wèn)題的查詢，AI 概覽給出的回答是不一樣的，這實(shí)際上與 AI 黑盒機(jī)制非常類似：AI 確實(shí)能夠響應(yīng)自然語(yǔ)言提出的問(wèn)題，但在 AI 內(nèi)部這是怎么運(yùn)作的，沒(méi)人知道。

所以對(duì)谷歌來(lái)說(shuō)想要徹底解決這個(gè)問(wèn)題應(yīng)該是非常難的，最多只能通過(guò)改進(jìn)系統(tǒng)盡可能避免引用一些問(wèn)題來(lái)源，這樣應(yīng)該可以降低錯(cuò)誤出現(xiàn)的概率但不可能百分之百解決。