国产一区高清|日韩精品一区人妻|曰夲AV一区二区|美日韩一区二区三区|国产喷水在线观看|狼友网站成人大全|欧美日韩制服中文视频在线|久草加勒比手机在线|婷婷色综合无码专区|japanese 精品视频在线观看

谷歌研究團隊利用GPT-4攻破AI審核系統(tǒng)

DoNews8月2日消息,谷歌研究團隊正在進行一項實驗,他們使用 OpenAI 的 GPT-4 來攻破其他 AI 模型的安全防護措施,該團隊目前已經(jīng)攻破 AI-Guardian 審核系統(tǒng),并分享了相關技術細節(jié)。

AI-Guardian 是一種 AI 審核系統(tǒng),能夠檢測圖片中是否存在不當內容,及圖片本身是否被其他 AI 修改過,若檢測到圖片存在上述跡象,便會提示管理員前來處理。

谷歌 DeepMind 的研究人員 Nicholas Carlini 在一篇題為“AI-Guardian 的 LLM 輔助開發(fā)”的論文中,探討了使用 GPT-4“設計攻擊方法、撰寫攻擊原理”的方案,并將這些方案用于欺騙 AI-Guardian 的防御機制。

據(jù)悉,GPT-4 會發(fā)出一系列錯誤的腳本和解釋來欺騙 AI-Guardian ,論文中提到,GPT-4 可以讓 AI-Guardian 認為“某人拿著槍的照片”是“某人拿著無害蘋果的照片”,從而讓 AI-Guardian 直接放行相關圖片輸入源。

谷歌研究團隊表示,通過 GPT-4 的幫助,他們成功地“破解”了 AI-Guardian 的防御,使該模型的精確值從 98% 的降低到僅 8%,目前相關技術文檔已經(jīng)發(fā)布在 ArXiv 中。

而AI-Guardian 的開發(fā)者指出,谷歌研究團隊的這種攻擊方法將在未來的 AI-Guardian 版本中不再可用。

標簽: GPT-4
谷歌研究團隊利用GPT-4攻破AI審核系統(tǒng)
掃描二維碼查看原文
分享自DoNews
Copyright ? DoNews 2000-2025 All Rights Reserved
蜀ICP備2024059877號-1