近期，有網(wǎng)友發(fā)現(xiàn)，不少AI大模型平臺(tái)都開放了網(wǎng)友自制的AI智能體的體驗(yàn)，其中就有不少打著官方旗號(hào)的智能體。但這些帶有官方Logo、語(yǔ)氣專業(yè)的AI客服給出的回復(fù)乃至建議卻并不那么靠譜。這些引發(fā)大量誤導(dǎo)的智能體究竟是怎么生成的？普通人又該如何擦亮雙眼？

如果AI大模型上的智能體(Agent)告訴你，有“南方電網(wǎng)”招聘的內(nèi)推渠道，這會(huì)是真的嗎？近日，南方電網(wǎng)公司官方科普辟謠平臺(tái)“南網(wǎng)求知”視頻號(hào)發(fā)布視頻，反映在大模型上竟搜出了近70個(gè)“南方電網(wǎng)”智能體，卻沒(méi)有一個(gè)是南方電網(wǎng)發(fā)布的。有關(guān)所謂內(nèi)推信息，視頻號(hào)辟謠說(shuō)：

我問(wèn)南方電網(wǎng)內(nèi)訓(xùn)師智能體，南方電網(wǎng)有沒(méi)有內(nèi)推渠道，它讓我聯(lián)系某個(gè)私人手機(jī)號(hào)，順著號(hào)碼一查，發(fā)現(xiàn)竟是一個(gè)中介機(jī)構(gòu)。事實(shí)上，南方電網(wǎng)從未開展過(guò)任何內(nèi)推。所有招聘信息僅通過(guò)官方渠道發(fā)布。

對(duì)此，相關(guān)AI大模型平臺(tái)表示，企業(yè)在平臺(tái)運(yùn)營(yíng)的官方智能體均帶有認(rèn)證標(biāo)簽。用戶因個(gè)人學(xué)習(xí)、求職等需求自主創(chuàng)建的包括企業(yè)模擬面試官在內(nèi)的各類涉企業(yè)智能體，均未獲得官方資質(zhì)認(rèn)證。后續(xù)平臺(tái)也將對(duì)未經(jīng)授權(quán)、易造成混淆的企業(yè)相關(guān)智能體下架。

究竟什么是智能體，它和我們熟悉的DeepSeek等大模型有什么區(qū)別？工業(yè)和信息化部信息通信經(jīng)濟(jì)專家委員會(huì)委員劉興亮指出，智能體從本質(zhì)上講，是從“對(duì)話”走向了“行動(dòng)”。

劉興亮：智能體，英文名為Agent。簡(jiǎn)單地說(shuō)就是它不只是回答問(wèn)題，它是一個(gè)能替你做事的AI。以前的大模型，你可以理解為它像一個(gè)顧問(wèn)，你問(wèn)他答?，F(xiàn)在這個(gè)智能體，像一個(gè)員工，你說(shuō)了目標(biāo)，他去執(zhí)行。本質(zhì)上，智能體就是把一個(gè)機(jī)構(gòu)的服務(wù)能力做成了一個(gè)“數(shù)字員工”。

既然具備“員工”的能力，為何會(huì)頻繁出現(xiàn)誤導(dǎo)用戶的現(xiàn)象？劉興亮表示，各大平臺(tái)推行的零門檻創(chuàng)建工具，在激發(fā)公眾參與的同時(shí)，也讓未經(jīng)核實(shí)的信息搭上了技術(shù)的快車，放大了大模型固有的“幻覺(jué)”缺陷。

劉興亮認(rèn)為，盡管目前智能體還在初級(jí)階段，可能會(huì)出現(xiàn)種種問(wèn)題，但它的確是未來(lái)AI發(fā)展的趨勢(shì)之一。

劉興亮：過(guò)去的我把他們叫作“生成式AI”，現(xiàn)在智能體這一波，我把它叫作“養(yǎng)成式AI”。就是你得去養(yǎng)，AI給了一個(gè)能力，就像雇了一個(gè)實(shí)習(xí)員工，不是說(shuō)來(lái)了就能很好地上崗，我們得去培訓(xùn)他，去教育他，讓他變得越來(lái)越好。

智能體正快速走進(jìn)我們的生活，但提供便利的背后也暗藏風(fēng)險(xiǎn)。面對(duì)層出不窮的AI應(yīng)用，我們還是要提高安全意識(shí)，特別是辨別虛假信息、違規(guī)服務(wù)或詐騙行為，及時(shí)留存證據(jù)，通過(guò)正規(guī)渠道維權(quán)舉證。

對(duì)于冒充官方的AI智能體，中國(guó)政法大學(xué)人工智能法研究院院長(zhǎng)張凌寒認(rèn)為，其本質(zhì)不僅是侵權(quán)，更是對(duì)公共常識(shí)的混淆。未來(lái)，提供創(chuàng)建工具的平臺(tái)理應(yīng)承擔(dān)起前置審核義務(wù)。

張凌寒：濫用他人名義的Agent，是嚴(yán)重的侵權(quán)行為和混淆冒用的不正當(dāng)競(jìng)爭(zhēng)行為。實(shí)際上平臺(tái)是有審核義務(wù)的，這種實(shí)名制的認(rèn)證，包括真實(shí)資質(zhì)的認(rèn)證。我們國(guó)家已經(jīng)有一套對(duì)賬戶管理體系的完整的認(rèn)證機(jī)制，相信未來(lái)這樣的制度也都會(huì)延伸到有關(guān)Agent的審核當(dāng)中去。

在AI這位“實(shí)習(xí)員工”真正成熟之前，如果因?yàn)檩p信這些山寨智能體造成了損失，制作智能體的個(gè)人創(chuàng)建者需要擔(dān)責(zé)嗎?北京航空航天大學(xué)法學(xué)院副教授趙精武給出了明確的法律界定：關(guān)鍵看是否為了商業(yè)牟利。

趙精武：如果只是為了普及知識(shí)，了解一些業(yè)務(wù)咨詢流程的指導(dǎo)，這不需要擔(dān)責(zé)。但假如研發(fā)者是為了引流、獲取一定的商業(yè)利益，在獲取商業(yè)利益的過(guò)程中發(fā)生了欺詐，這種行為肯定是要擔(dān)責(zé)的。

但并非所有領(lǐng)域的智能體都能被隨意創(chuàng)建。趙精武指出，針對(duì)電網(wǎng)、醫(yī)療等特殊場(chǎng)景，以及AI生成內(nèi)容的標(biāo)識(shí)問(wèn)題，我國(guó)現(xiàn)行法律體系已經(jīng)劃定了明確的紅線。

面對(duì)防不勝防的AI生態(tài)，張凌寒教授特別提醒，尤其在涉及財(cái)產(chǎn)安全的領(lǐng)域，絕不可輕信。

張凌寒：隨著平臺(tái)業(yè)務(wù)的延伸，大量的Agent入駐平臺(tái)，尤其是在人工智能的“幻覺(jué)”還無(wú)法完全消除的情況下，對(duì)于醫(yī)療、金融等專業(yè)的意見和涉及財(cái)產(chǎn)健康方面的Agent，實(shí)際上我們是不能夠完全相信的，而是還要到官方網(wǎng)站去進(jìn)行相關(guān)的服務(wù)和交易。

趙精武提醒，當(dāng)下的智能體尚處于發(fā)展階段，切莫被部分技術(shù)概念炒作的營(yíng)銷口號(hào)迷惑，既要對(duì)新興技術(shù)應(yīng)用抱有積極客觀的態(tài)度，也要警惕技術(shù)創(chuàng)新過(guò)程中不可避免的安全風(fēng)險(xiǎn)。

（總臺(tái)記者 任夢(mèng)巖）

編輯：萬(wàn)林