近期，有网友发现，不少AI大模型平台都开放了网友自制的AI智能体的体验，其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱。这些引发大量误导的智能体究竟是怎么生成的？普通人又该如何擦亮双眼？
如果AI大模型上的智能体（Agent）告诉你，有“南方电网”招聘的内推渠道，这会是真的吗？近日，南方电网公司官方科普辟谣平台“南网求知”视频号发布视频，反映在大模型上竟搜出了近70个“南方电网”智能体，却没有一个是南方电网发布的。有关所谓内推信息，视频号辟谣说：
我问南方电网内训师智能体，南方电网有没有内推渠道，它让我联系某个私人手机号，顺着号码一查，发现竟是一个中介机构。事实上，南方电网从未开展过任何内推。所有招聘信息仅通过官方渠道发布。
对此，相关AI大模型平台表示，企业在平台运营的官方智能体均带有认证标签。用户因个人学习、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体，均未获得官方资质认证。后续平台也将对未经授权、易造成混淆的企业相关智能体下架。
究竟什么是智能体，它和我们熟悉的DeepSeek等大模型有什么区别？工业和信息化部信息通信经济专家委员会委员刘兴亮指出，智能体从本质上讲，是从“对话”走向了“行动”。
刘兴亮：智能体，英文名为Agent。简单地说就是它不只是回答问题，它是一个能替你做事的AI。以前的大模型，你可以理解为它像一个顾问，你问他答。现在这个智能体，像一个员工，你说了目标，他去执行。本质上，智能体就是把一个机构的服务能力做成了一个“数字员工”。
既然具备“员工”的能力，为何会频繁出现误导用户的现象？刘兴亮表示，各大平台推行的零门槛创建工具，在激发公众参与的同时，也让未经核实的信息搭上了技术的快车，放大了大模型固有的“幻觉”缺陷。
刘兴亮认为，尽管目前智能体还在初级阶段，可能会出现种种问题，但它的确是未来AI发展的趋势之一。
刘兴亮：过去的我把他们叫作“生成式AI”，现在智能体这一波，我把它叫作“养成式AI”。就是你得去养，AI给了一个能力，就像雇了一个实习员工，不是说来了就能很好地上岗，我们得去培训他，去教育他，让他变得越来越好。
智能体正快速走进我们的生活，但提供便利的背后也暗藏风险。面对层出不穷的AI应用，我们还是要提高安全意识，特别是辨别虚假信息、违规服务或诈骗行为，及时留存证据，通过正规渠道维权举证。
对于冒充官方的AI智能体，中国政法大学人工智能法研究院院长张凌寒认为，其本质不仅是侵权，更是对公共常识的混淆。未来，提供创建工具的平台理应承担起前置审核义务。
张凌寒：滥用他人名义的Agent，是严重的侵权行为和混淆冒用的不正当竞争行为。实际上平台是有审核义务的，这种实名制的认证，包括真实资质的认证。我们国家已经有一套对账户管理体系的完整的认证机制，相信未来这样的制度也都会延伸到有关Agent的审核当中去。
在AI这位“实习员工”真正成熟之前，如果因为轻信这些山寨智能体造成了损失，制作智能体的个人创建者需要担责吗？北京航空航天大学法学院副教授赵精武给出了明确的法律界定：关键看是否为了商业牟利。
赵精武：如果只是为了普及知识，了解一些业务咨询流程的指导，这不需要担责。但假如研发者是为了引流、获取一定的商业利益，在获取商业利益的过程中发生了欺诈，这种行为肯定是要担责的。
但并非所有领域的智能体都能被随意创建。赵精武指出，针对电网、医疗等特殊场景，以及AI生成内容的标识问题，我国现行法律体系已经划定了明确的红线。
面对防不胜防的AI生态，张凌寒教授特别提醒，尤其在涉及财产安全的领域，绝不可轻信。
张凌寒：随着平台业务的延伸，大量的Agent入驻平台，尤其是在人工智能的“幻觉”还无法完全消除的情况下，对于医疗、金融等专业的意见和涉及财产健康方面的Agent，实际上我们是不能够完全相信的，而是还要到官方网站去进行相关的服务和交易。
赵精武提醒，当下的智能体尚处于发展阶段，切莫被部分技术概念炒作的营销口号迷惑，既要对新兴技术应用抱有积极客观的态度，也要警惕技术创新过程中不可避免的安全风险。
（总台记者 任梦岩）
编辑：及玥 责任编辑：刘亮
浏览量：
79 
大字号
京公网安备11010702003049号
