AI還會(huì)翻車嗎？

隨著ChatGPT等生成式AI的爆火，越來(lái)越多人享受AI帶來(lái)的便利。但與此同時(shí)，這些AI工具并不是無(wú)所不能的，在一些情況下，AI經(jīng)常會(huì)出現(xiàn)“一本正經(jīng)亂說(shuō)”的情況，甚至?xí)霈F(xiàn)原則性錯(cuò)誤。

為了讓AI工具減少不必要的錯(cuò)誤，英偉達(dá)在當(dāng)?shù)貢r(shí)間周二推出了一款名為NeMo Guardrails的開(kāi)源工具包，它能為人工智能模型設(shè)置安全“護(hù)欄”，避免AI輸出一些不良的內(nèi)容。

據(jù)官方介紹，NeMo Guardrails主要提供三種“護(hù)欄”模式，分別是：

1、主題護(hù)欄：可以避免應(yīng)用程序偏離到不想要的領(lǐng)域。 

2、安全護(hù)欄：確保應(yīng)用程序回復(fù)準(zhǔn)確、適當(dāng)?shù)男畔ⅰ?/p>

3、保全護(hù)欄：限制應(yīng)用程序僅與已知為安全的外部鏈接建立連接。

簡(jiǎn)單來(lái)說(shuō)，該軟件可以在模型輸出不良內(nèi)容之前進(jìn)行攔截和修改，從而限制模型的輸出范圍，并防止模型產(chǎn)生錯(cuò)誤或有害的輸出。此外，該軟件還能夠利用一個(gè) AI 模型來(lái)檢測(cè)另一個(gè) AI 模型”，從而提高模型的準(zhǔn)確性和可靠性。

英偉達(dá)方面表示，受益于開(kāi)放源代碼的特性，NeMo Guardrails可以與企業(yè)應(yīng)用程序開(kāi)發(fā)人員使用的所有工具配合使用，有利于縮端開(kāi)發(fā)時(shí)間，整合第三方應(yīng)用程序與大型語(yǔ)言模型的強(qiáng)大功能，發(fā)揮更大的生產(chǎn)力。

換句話說(shuō)，該工具軟件以開(kāi)源方式推出，可以搭配多種大型語(yǔ)言模型使用。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！