近年來，仿冒生成式人工智能技術(shù)快速迭代，體層AI智能體憑借自動(dòng)化、出不藏安場景化的窮潛全風(fēng)服務(wù)能力，加速融入生產(chǎn)生活方方面面。仿冒但與此同時(shí)，體層大量仿冒AI智能體也集中涌現(xiàn)，出不藏安不僅嚴(yán)重混淆公眾認(rèn)知，窮潛全風(fēng)更潛藏著多重安全風(fēng)險(xiǎn)。仿冒記者在多個(gè)主流大模型平臺實(shí)測發(fā)現(xiàn)，體層在搜索欄輸入知名企業(yè)、出不藏安公共服務(wù)機(jī)構(gòu)名稱，窮潛全風(fēng)均能檢索到大量同名智能體，仿冒其中絕大多數(shù)沒有平臺官方認(rèn)證標(biāo)識。體層
記者以“南方電網(wǎng)”為關(guān)鍵詞在多個(gè)主流大模型平臺檢索發(fā)現(xiàn)，出不藏安僅單一平臺就出現(xiàn)了超80個(gè)相關(guān)智能體，名稱覆蓋“電力業(yè)務(wù)辦理”“招聘咨詢”“內(nèi)部培訓(xùn)”等多個(gè)高頻服務(wù)場景。部分仿冒智能體不僅直接使用企業(yè)官方Logo作為頭像，簡介話術(shù)也高度模仿官方口吻，偽裝性極強(qiáng)，普通用戶很難一眼辨別真?zhèn)巍?/p>
南方電網(wǎng)“南網(wǎng)求知”科普辟謠平臺編輯馬璦萍：
仿冒智能體發(fā)布的不實(shí)信息會(huì)誤導(dǎo)公眾，給用戶造成一定的損失，我們“南網(wǎng)求知”等官方賬號已經(jīng)發(fā)布了風(fēng)險(xiǎn)提醒。在此也提醒大家一定要認(rèn)準(zhǔn)正規(guī)渠道，不要輕易相信未經(jīng)官方認(rèn)證的AI智能體信息。
記者調(diào)查發(fā)現(xiàn)，除了能源類央企，政務(wù)服務(wù)、金融、通信等多個(gè)與公眾利益密切相關(guān)的領(lǐng)域，均出現(xiàn)了大量仿冒智能體。這些仿冒賬號借助平臺流量入口觸達(dá)用戶，不僅嚴(yán)重侵犯了被仿冒主體的知識產(chǎn)權(quán)與品牌權(quán)益，更給普通用戶埋下了信息泄露、財(cái)產(chǎn)損失等多重安全隱患。
仿冒AI智能體藏著哪些不為人知的套路？
AI智能體正快速走進(jìn)我們的生活，但提供便利的背后也暗藏風(fēng)險(xiǎn)。那么，這些層出不窮的仿冒AI智能體，又藏著哪些不為人知的套路呢？
中國信通院人工智能研究所安全治理部副主任陳文弢：
智能體的仿冒相當(dāng)于是一些攻擊者或惡意人員偽造出了一些智能體或智能體三方的工具或技能，讓被誘導(dǎo)的用戶去使用，從而竊取用戶的個(gè)人信息、企業(yè)信息。甚至實(shí)現(xiàn)一些跳板攻擊。
智能體可以分為智能體本體和技能工具兩個(gè)部分，對應(yīng)的仿冒行為也主要分為本體仿冒和技能仿冒兩類；從仿冒手段上看，可以分為描述仿冒和功能仿冒。描述仿冒通過搭建類似釣魚網(wǎng)站的偽造界面，或者偽造技能包的名稱和描述，誘導(dǎo)用戶使用；功能仿冒，則是搭建出具備正常交互能力的智能體或技能工具，但在其中嵌入惡意代碼或非法指令。
仿冒AI智能體層出不窮 潛藏安全風(fēng)險(xiǎn)相關(guān)推薦