科技媒體TheDecoder9月24日發(fā)布博文，報道稱微軟以預覽版的形式，在AzureAIContentSafety中推出GroundednessDetection，用于“糾正”AI幻覺。
在人工智能領域中，幻覺是由人工智能生成的一種回應，它含有貌似事實的虛假或誤導性資訊。
該術語源自幻覺的心理學概念，因為它們具有相似的特征。人工智能幻覺的危險之處之一是模型的輸出看起來是正確的，而它實際上是錯誤的。
微軟的GroundednessDetection類似于谷歌在VertexAI中推出的GoogleSearchGrounding，主要對比AI輸出內(nèi)容和源文件，從而識別沒有證據(jù)或者幻覺內(nèi)容。
微軟強調(diào)，雖然該工具提高了人工智能輸出的可靠性，但并不能保證完全準確，只是能提高生成內(nèi)容與源材料之間的一致性。
當系統(tǒng)檢測到一個支持不足的句子時，就會觸發(fā)一個新的請求，要求一個較小的人工智能模型進行修正，該模型會根據(jù)基礎文檔對句子進行評估。
如果一個句子不包含基礎文檔中的相關信息，它就會被完全過濾掉。對于包含一些相關內(nèi)容的句子，模型會對其進行改寫，匹配源材料。
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
王愛民：組織行為學在MES當中的應用...
