隨著深度偽造技術(shù)(deepfake)的不斷發(fā)展，人們對虛假信息、詐騙和身份盜竊的擔憂日益加劇。一項最新研究顯示，人們對 AI 工具的認知水平極低，難以有效識別深度偽造內(nèi)容。

　　根據(jù) iProov 的一項最新研究，大多數(shù)人在區(qū)分深度偽造內(nèi)容與真實內(nèi)容時存在困難。該研究邀請了來自英國和美國的 2000 名參與者，向他們展示了一系列真實和 AI 生成的圖像及視頻。結(jié)果顯示，僅有 0.1% 的參與者 —— 也就是兩個人，能夠準確區(qū)分真實內(nèi)容與深度偽造內(nèi)容。

　　研究還發(fā)現(xiàn)，老年人更容易受到人工智能生成的虛假內(nèi)容的欺騙。大約 30% 的 55 至 64 歲人群和 39% 的 65 歲以上人群此前從未聽說過深度偽造。盡管年輕參與者對自己的深度偽造檢測能力更有信心，但他們在測試中的實際表現(xiàn)并未優(yōu)于其他年齡段。

　　研究發(fā)現(xiàn)，深度偽造視頻比圖像更難被識別，參與者正確識別假視頻的可能性比識別假圖像低 36%。

　　社交媒體平臺被認為是深度偽造內(nèi)容的主要傳播渠道。近半數(shù)參與者(49%)認為 Meta 旗下的平臺，包括 Facebook 和 Instagram，是深度偽造內(nèi)容最常見的來源，而 47% 的人則指向 TikTok。

　　即使人們懷疑某個內(nèi)容是深度偽造，大多數(shù)人也不會采取行動。只有 20% 的受訪者表示，如果在網(wǎng)上遇到疑似深度偽造內(nèi)容，他們會進行舉報。

　　隨著深度偽造技術(shù)愈發(fā)逼真，iProov 認為僅靠人類感知已無法可靠地識別深度偽造內(nèi)容，需要采用帶有活體檢測功能的生物識別安全解決方案來應對日益逼真的深度偽造威脅。