如何降低AI幻覺(jué)

AI（人工智能）看起來(lái)使用很方便，但AI“一本正經(jīng)地胡說(shuō)八道”有時(shí)候真的讓人非常頭疼，它給出的信息需要反復(fù)核實(shí)，有時(shí)反而不如直接上網(wǎng)搜索來(lái)得高效。那么，如何降低AI幻覺(jué)呢？

1.優(yōu)化提問(wèn)

想要獲得準(zhǔn)確答案，提問(wèn)方式很關(guān)鍵?？偨Y(jié)成提示詞技巧，就是下面4種問(wèn)法：

設(shè)定邊界。示例：將“介紹ChatGPT的發(fā)展歷程”，改為“請(qǐng)僅基于OpenAI官方2022—2023年的公開(kāi)信息，介紹ChatGPT的發(fā)展歷程”。

標(biāo)注不確定。示例：將“分析特斯拉2025年的市場(chǎng)份額”，改為“分析特斯拉2025年的市場(chǎng)份額，非官方數(shù)據(jù)或預(yù)測(cè)性內(nèi)容需要進(jìn)行標(biāo)注”。

步驟拆解。示例：將“評(píng)估AI對(duì)就業(yè)的影響”，改為“請(qǐng)分兩步評(píng)估AI對(duì)就業(yè)的影響：先列出目前已發(fā)生的具體案例；基于這些案例進(jìn)行未來(lái)趨勢(shì)分析”。

明確約束。示例：將“預(yù)測(cè)2026年房地產(chǎn)市場(chǎng)走勢(shì)”，改為“請(qǐng)僅基于2025年的實(shí)際房地產(chǎn)數(shù)據(jù)和已出臺(tái)的相關(guān)政策，預(yù)測(cè)2026年房地產(chǎn)市場(chǎng)走勢(shì)，不要加入任何推測(cè)性內(nèi)容”。

2.分批輸出

因?yàn)锳I給出的內(nèi)容是根據(jù)概率進(jìn)行生成的，一次性生成的內(nèi)容越多，出現(xiàn)AI幻覺(jué)的概率就越大，我們可以主動(dòng)限制它的輸出量。如果我要AI寫(xiě)一篇長(zhǎng)文章，就會(huì)這么跟AI說(shuō)：“咱們一段一段來(lái)寫(xiě)，先把開(kāi)頭寫(xiě)好。等這部分可以了，再繼續(xù)寫(xiě)下一段。”

3.交叉驗(yàn)證

想要提高AI回答的可靠性，還有一個(gè)實(shí)用的方法是采用“多模型交叉驗(yàn)證”。使用一個(gè)AI聚合平臺(tái)，讓多個(gè)AI模型同時(shí)回答同一個(gè)問(wèn)題。當(dāng)遇到需要給出嚴(yán)謹(jǐn)答案的問(wèn)題時(shí)，就啟動(dòng)這個(gè)功能，讓不同的大模型一起參與討論，通過(guò)對(duì)比它們的答案來(lái)獲得更全面的認(rèn)識(shí)。

4.RAG（檢索增強(qiáng)生成）技術(shù)

AI聰明但健忘，為了讓它的表現(xiàn)更靠譜，我們可以給它配一本超級(jí)百科全書(shū)，讓它隨時(shí)查閱里面的內(nèi)容來(lái)回答問(wèn)題。這本“百科全書(shū)”就是RAG的核心，它可以讓AI在回答問(wèn)題之前，先從可靠的資料中找到相關(guān)信息，再根據(jù)這些信息生成答案。目前RAG技術(shù)多用在醫(yī)療、法律、金融等專業(yè)領(lǐng)域，當(dāng)然，AI生成的內(nèi)容還是必須經(jīng)過(guò)專業(yè)人士的審查。

5.巧用AI幻覺(jué)

有時(shí)候與其把AI幻覺(jué)當(dāng)成缺陷，不如把它看作創(chuàng)意的源泉！在寫(xiě)作、藝術(shù)創(chuàng)作等需要頭腦風(fēng)暴時(shí)，這些“跳躍性思維”反而可能幫我們打開(kāi)新世界的大門(mén)。

當(dāng)我們學(xué)會(huì)用正確的方式與AI對(duì)話，善用它的創(chuàng)造力，同時(shí)保持獨(dú)立思考，AI就能成為我們的得力助手，而不是一個(gè)“能言善辯的謊言家”。畢竟，在這個(gè)AI與人類共同進(jìn)步的時(shí)代，重要的不是責(zé)備AI的不完美，而是學(xué)會(huì)與之更好地協(xié)作。

（相 如摘自微信公眾號(hào)“科普中國(guó)”）