AI還會翻車嗎？

隨著ChatGPT等生成式AI的爆火，越來越多人享受AI帶來的便利。但與此同時，這些AI工具并不是無所不能的，在一些情況下，AI經(jīng)常會出現(xiàn)“一本正經(jīng)亂說”的情況，甚至?xí)霈F(xiàn)原則性錯誤。

為了讓AI工具減少不必要的錯誤，英偉達(dá)在當(dāng)?shù)貢r間周二推出了一款名為NeMo Guardrails的開源工具包，它能為人工智能模型設(shè)置安全“護(hù)欄”，避免AI輸出一些不良的內(nèi)容。

據(jù)官方介紹，NeMo Guardrails主要提供三種“護(hù)欄”模式，分別是：

1、主題護(hù)欄：可以避免應(yīng)用程序偏離到不想要的領(lǐng)域。 

2、安全護(hù)欄：確保應(yīng)用程序回復(fù)準(zhǔn)確、適當(dāng)?shù)男畔ⅰ?/p>

3、保全護(hù)欄：限制應(yīng)用程序僅與已知為安全的外部鏈接建立連接。

簡單來說，該軟件可以在模型輸出不良內(nèi)容之前進(jìn)行攔截和修改，從而限制模型的輸出范圍，并防止模型產(chǎn)生錯誤或有害的輸出。此外，該軟件還能夠利用一個 AI 模型來檢測另一個 AI 模型”，從而提高模型的準(zhǔn)確性和可靠性。

英偉達(dá)方面表示，受益于開放源代碼的特性，NeMo Guardrails可以與企業(yè)應(yīng)用程序開發(fā)人員使用的所有工具配合使用，有利于縮端開發(fā)時間，整合第三方應(yīng)用程序與大型語言模型的強(qiáng)大功能，發(fā)揮更大的生產(chǎn)力。

換句話說，該工具軟件以開源方式推出，可以搭配多種大型語言模型使用。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！