微軟推出新工具,用於偵測和修正 AI 輸出中的幻覺內容

Azure AI 內容安全是微軟的 AI 服務,可協助偵測應用程式、服務和平台上有害的 AI 生成內容。該實用程式提供文字和圖像 API,允許開發人員識別不需要的內容。

Azure AI Content Safety 中的 Groundedness API 能夠識別大型語言模型的回應是否基於使用者選擇的來源文件。由於目前的大型語言模型可能會產生不準確或虛假的資訊(虛幻資訊),此 API 可協助開發人員在 AI 輸出資料中識別此類內容。

微軟推出新工具,用於偵測和修正 AI 輸出中的幻覺內容

今天,微軟宣布了修復的預覽版。因此,開發人員現在可以即時偵測並修正 AI 輸出資料中的「虛幻」內容,確保最終用戶始終收到事實準確的 AI 生成內容。此功能的工作原理如下:

  • 應用程式開發人員啟用了編輯功能。
  • 當偵測到毫無根據的資料時,就會向AI模型發送新的請求來修正錯誤。
  • LLM演算法會根據權威文獻來評估總體分數。
  • 與底層經過驗證的文件不相關的句子可能會被完全過濾掉。
  • 如果內容源自基礎文檔,則基礎模型將重寫未經證實的句子以符合該文檔。

除了編輯功能外,微軟還宣布了混合 Azure AI 內容安全 (AACS) 的公開預覽版。此功能使開發人員能夠在雲端和裝置上實現內容安全機制。 AACS 的嵌入式 SDK 可以直接在裝置上進行即時內容安全檢查,即使沒有網路連線。

最後,微軟宣布了程式碼受保護材料檢測的預覽版,該預覽版可與程式碼生成 AI 應用程式一起使用,以檢測 LLM 是否正在產生任何受保護的程式碼。此功能以前僅透過 Azure OpenAI 服務提供。微軟現在正在向客戶提供受保護材料程式碼偵測功能,以便與其他程式碼產生 AI 模型結合使用。

留下評論

如何修復 Microsoft Teams 錯誤代碼 2603 (2026)

如何修復 Microsoft Teams 錯誤代碼 2603 (2026)

遇到 Microsoft Teams 錯誤代碼 2603 而煩惱?我們的逐步指南可協助您快速解決問題,修復最新 2026 更新中的安裝失敗、當機等問題。適用於所有用戶!

如何修復 Microsoft Teams 錯誤 K 安全

如何修復 Microsoft Teams 錯誤 K 安全

遇到 Microsoft Teams 安全錯誤 K 時遇到問題?按照我們的逐步指南即可快速解決—無需任何技術知識。立即恢復流暢協作!

解決 Microsoft Teams 錯誤 N 網路

解決 Microsoft Teams 錯誤 N 網路

還在為 Microsoft Teams 的「錯誤 N」網路問題苦惱嗎?取得解決 Microsoft Teams「錯誤 N」網路問題的逐步指南,從快速重新啟動到進階故障排除,應有盡有。立即恢復流暢的通話和會議體驗!

一步一步教你如何在會議開始前建立分組討論室

一步一步教你如何在會議開始前建立分組討論室

透過這份詳盡的逐步指南,即可在 Zoom 會議開始前輕鬆建立分組討論室,實現無縫協作。預先分配與會者,最大程度提升參與。本指南是教育工作者、團隊和領導者的理想選擇。

解決 Microsoft Teams 中「Teams 資料夾在哪裡」的錯誤

解決 Microsoft Teams 中「Teams 資料夾在哪裡」的錯誤

還在為 Microsoft Teams 中令人抓狂的「Teams 資料夾在哪裡」錯誤而煩惱嗎?我們提供經過驗證的逐步故障排除方法,協助您快速解決問題,恢復流暢的團隊合作。包含最新方法!

解決 Microsoft Teams Mac 版錯誤鑰匙圈問題

解決 Microsoft Teams Mac 版錯誤鑰匙圈問題

還在為 Microsoft Teams Mac 版鑰匙圈錯誤而煩惱嗎?我們提供經過驗證的 macOS 逐步故障排除方案,協助您恢復流暢協作。快速解決方案就在眼前!

如何解決 Microsoft Teams 麥克風聲音模糊或無聲音的問題

如何解決 Microsoft Teams 麥克風聲音模糊或無聲音的問題

還在為 Microsoft Teams 麥克風聲音模糊或無聲而煩惱嗎?了解如何透過快速有效的步驟解決 Microsoft Teams 麥克風問題。清晰的音訊體驗,等你來體驗!

解決公共 Wi-Fi 上的 Microsoft Teams 網路錯誤

解決公共 Wi-Fi 上的 Microsoft Teams 網路錯誤

在公共 Wi-Fi 環境下遇到 Microsoft Teams 網路錯誤?立即取得 VPN 調整、連接埠檢查和快取清除等快速修復方法,恢復通話和會議的流暢運作。逐步指南助您快速解決問題。

透過直接連結解決 Microsoft Teams 加入會議錯誤

透過直接連結解決 Microsoft Teams 加入會議錯誤

遇到 Microsoft Teams 加入會議錯誤?點擊連結查看已驗證的解決方法。快速修復,輕鬆加入會議—無需任何技術技能!

如何運用 Microsoft Teams Copilot 實現 AI 賦能的生產力

如何運用 Microsoft Teams Copilot 實現 AI 賦能的生產力

了解如何使用 Microsoft Teams Copilot 提升 AI 賦能的生產力。逐步指南、關鍵功能和技巧,幫助您輕鬆革新會議、聊天和任務。立即開啟更聰明的協作!