微軟推出新工具,用於偵測和修正 AI 輸出中的幻覺內容

Azure AI 內容安全是微軟的 AI 服務,可協助偵測應用程式、服務和平台上有害的 AI 生成內容。該實用程式提供文字和圖像 API,允許開發人員識別不需要的內容。

Azure AI Content Safety 中的 Groundedness API 能夠識別大型語言模型的回應是否基於使用者選擇的來源文件。由於目前的大型語言模型可能會產生不準確或虛假的資訊(虛幻資訊),此 API 可協助開發人員在 AI 輸出資料中識別此類內容。

微軟推出新工具,用於偵測和修正 AI 輸出中的幻覺內容

今天,微軟宣布了修復的預覽版。因此,開發人員現在可以即時偵測並修正 AI 輸出資料中的「虛幻」內容,確保最終用戶始終收到事實準確的 AI 生成內容。此功能的工作原理如下:

  • 應用程式開發人員啟用了編輯功能。
  • 當偵測到毫無根據的資料時,就會向AI模型發送新的請求來修正錯誤。
  • LLM演算法會根據權威文獻來評估總體分數。
  • 與底層經過驗證的文件不相關的句子可能會被完全過濾掉。
  • 如果內容源自基礎文檔,則基礎模型將重寫未經證實的句子以符合該文檔。

除了編輯功能外,微軟還宣布了混合 Azure AI 內容安全 (AACS) 的公開預覽版。此功能使開發人員能夠在雲端和裝置上實現內容安全機制。 AACS 的嵌入式 SDK 可以直接在裝置上進行即時內容安全檢查,即使沒有網路連線。

最後,微軟宣布了程式碼受保護材料檢測的預覽版,該預覽版可與程式碼生成 AI 應用程式一起使用,以檢測 LLM 是否正在產生任何受保護的程式碼。此功能以前僅透過 Azure OpenAI 服務提供。微軟現在正在向客戶提供受保護材料程式碼偵測功能,以便與其他程式碼產生 AI 模型結合使用。

Sign up and earn $1000 a day ⋙

Leave a Comment

下載精美桌布慶祝微軟 50 歲生日

下載精美桌布慶祝微軟 50 歲生日

您知道微軟本週將慶祝 50 歲生日嗎?

微軟將 DeepSeek 整合到 PC Copilot+ 平台

微軟將 DeepSeek 整合到 PC Copilot+ 平台

今年 1 月,微軟宣布計劃將針對 NPU 優化的 DeepSeek-R1 模型版本直接引入運行 Qualcomm Snapdragon X 處理器的 Copilot+ 電腦。

微軟將煩人的 Windows 11 開始功能表廣告引入 Windows 10

微軟將煩人的 Windows 11 開始功能表廣告引入 Windows 10

儘管 Windows 10 作業系統將不可避免地在 2025 年 10 月消亡,但微軟仍繼續宣佈為 Windows 10 添加新功能的計劃。

微軟發布全新流體紋理桌面桌布合輯,立即下載!

微軟發布全新流體紋理桌面桌布合輯,立即下載!

微軟發布全新流體紋理桌面壁紙集

邀請下載專為 Windows 11 設計的動態桌布包但在最後一刻取消

邀請下載專為 Windows 11 設計的動態桌布包但在最後一刻取消

除了新介面、新功能等元素之外,Windows 上還有一個雖然不大但卻備受關注的方面:微軟為特殊場合設計推出的壁紙包。

微軟停止支援 Windows 遠端桌面應用,轉而使用新的 Windows 應用

微軟停止支援 Windows 遠端桌面應用,轉而使用新的 Windows 應用

微軟向使用微軟商店 Windows 遠端桌面應用程式的客戶發布了重要公告。 2025 年 5 月 27 日,該應用程式將正式停用並從 Microsoft Store 移除。

微軟停止對 Windows Media Player、Windows 7/8、Silverlight 上的舊版 DRM 的支持

微軟停止對 Windows Media Player、Windows 7/8、Silverlight 上的舊版 DRM 的支持

如果您讓五位 Windows 使用者解釋 Vista 的數位版權管理 (DRM) 是什麼,您可能會得到五個不同的答案。但有一點

微軟宣布 Office 2016 和 2019 應用程式和伺服器的支援終止日期

微軟宣布 Office 2016 和 2019 應用程式和伺服器的支援終止日期

微軟終於正式宣布了對 Office 2016 和 Office 2019 應用程式生態系統的計畫終止支援 (EOS)。

微軟開始強制使用者更新至Windows 11 24H2版本

微軟開始強制使用者更新至Windows 11 24H2版本

Windows 11 版本 24H2(2024 年唯一的主要 Windows 11 更新)已經發布幾個月並且正在慢慢穩定下來。

微軟解釋為何在某些華碩 PC 上封鎖 Windows 11 24H2

微軟解釋為何在某些華碩 PC 上封鎖 Windows 11 24H2

當使用者報告某些 PC 無法完成更新並遇到藍色畫面死機 (BSOD) 錯誤時,首次報告了該問題。

如何取得新發布的 Windows 11 24H2 更新

如何取得新發布的 Windows 11 24H2 更新

Windows 11 預計今年將迎來兩項值得注意的重大更新。

微軟希望用戶了解為什麼舊 CPU 無法運行 Windows 11

微軟希望用戶了解為什麼舊 CPU 無法運行 Windows 11

當使用者嘗試安裝 Windows 11 build 26058 時,安裝檔案將顯示一則訊息,提示“此 PC 的處理器不支援關鍵功能 (PopCnt)”

Windows 11 的「原始」版本即將消亡

Windows 11 的「原始」版本即將消亡

不久前,微軟停止了對 Windows 10 版本 21H2 的支持,這意味著 22H2 版本成為目前唯一受支援的 Windows 10 版本。

如何在 Windows 10 和 11 上安裝 Paint 3D

如何在 Windows 10 和 11 上安裝 Paint 3D

Paint 3D 不再在 Microsoft Store 中提供,但這並不意味著您沒有機會嘗試它。

微軟分享了有關 Windows 11 上 USB 安裝的更多值得注意的信息

微軟分享了有關 Windows 11 上 USB 安裝的更多值得注意的信息

2023 年,Windows 11 正式支援 USB4 40Gbps,後來擴充支援高達 80 和 120Gbps 的資料傳輸速度。

如何成為主題演講者並賺錢

如何成為主題演講者並賺錢

建立您的聲譽,概念化您的訊息,並將自己定位為您的專家。那麼成功的演講者賺錢的方法將會對你有用。

發音相反但實際上並非如此的英語單字對

發音相反但實際上並非如此的英語單字對

豐富的英語詞彙,具有易於識別的反義詞。不過也有例外,以下列出的英文詞對雖然含有常見的反義詞前綴,但卻不是反義詞。

最新《Kurokus Basket Showdown》代碼及兌換方法

最新《Kurokus Basket Showdown》代碼及兌換方法

透過兌換 Kurokus Basket Showdown 代碼,您將獲得大量免費硬幣來購買籃球風格遊戲的裝飾或旋轉。

最新全明星塔防代碼 04/25/2025,兌換寶石和星塵

最新全明星塔防代碼 04/25/2025,兌換寶石和星塵

全明星塔防代碼允許玩家免費獲得獎勵。透過這些獎勵,您將有機會接觸您最喜歡的復仇者聯盟和動漫人物。

下載精美桌布慶祝微軟 50 歲生日

下載精美桌布慶祝微軟 50 歲生日

您知道微軟本週將慶祝 50 歲生日嗎?

Google Photos 修復 Magic Editor 無法儲存編輯內容的問題

Google Photos 修復 Magic Editor 無法儲存編輯內容的問題

最近,許多用戶報告說他們無法使用 Magic Editor 來保存他們的編輯。

男人常忽略的常見穿衣錯誤

男人常忽略的常見穿衣錯誤

男人也需要穿著得體,因為這不僅對工作而且對個人生活都有重要影響。以下是最常見的穿衣錯誤。

2nm晶片價格預計將大幅上漲

2nm晶片價格預計將大幅上漲

據報道,台積電本月初開始接受 2nm 晶圓的訂單,預計價格高達每片 30,000 美元。

OpenAI 即將收購全球最強大的 AI 程式碼編輯器之一 Windsurf

OpenAI 即將收購全球最強大的 AI 程式碼編輯器之一 Windsurf

OpenAI 正在洽談收購業界領先的人工智慧程式碼編輯器 Windsurf。

五種應該淘汰的智慧型手機趨勢

五種應該淘汰的智慧型手機趨勢

無論是不切實際的設計選擇還是沒人真正要求的功能,其中一些趨勢都需要永遠消失。

如何在 Instagram 上隱藏​​聯絡訊息

如何在 Instagram 上隱藏​​聯絡訊息

預設情況下,個人聯絡資訊會出現在您的 Instagram 個人資料中。這會影響個人隱私。以下的文章將指導您如何在 Instagram 上隱藏​​聯絡資訊。

如何遠端登出 Telegram 帳戶

如何遠端登出 Telegram 帳戶

Telegram 應用程式會將所有登入該帳戶的裝置保存在一個清單中,以供我們追蹤。從這個清單中我們可以檢查是否有任何未經授權的登入。

最新傳奇世界代碼 04/25/2025 以及如何兌換獎勵代碼

最新傳奇世界代碼 04/25/2025 以及如何兌換獎勵代碼

傳奇世界幫助玩家透過禮品碼獲得一系列鑽石、寶箱和高級角色碎片

什麼是 Google 商店? Google 商店裡有什麼?

什麼是 Google 商店? Google 商店裡有什麼?

Google Store 有著有趣的歷史。

如何移除電腦上的廣告軟體

如何移除電腦上的廣告軟體

安全和隱私問題應始終受到重視。畢竟,它們與您的生活密切相關,因此要對惡意軟體和其他威脅保持高度警惕。