当前位置:主页 > 要闻 >

AI代理自主性增强,网安风险随之上升

时间:2025-03-05 15:46:21

  随着AI代理服务的推出,AI自主执行任务的机会增加,网安风险也随之上升。2025年被视为AI代理元年,预计市场规模将持续增长。然而,若热门AI模型供应商出现网安问题,可能导致诸多企业受害。

  数据外泄是AI代理的一大隐忧,模型在与人类互动时可能泄露敏感数据。此外,企业用聊天机器人也可能成为黑客的攻击工具。AI代理衍生的威胁难以通过传统侦测方式发现,包括AI代理被劫持、针对漏洞发动攻击或窃取数据等。

  AI提高任务自动化程度,但也可能出现逻辑或执行错误,导致不当行为。同时,AI代理可能消耗较多系统资源,导致系统超载或服务中断。网安风险包括AI深伪、变脸诈骗等,深伪技术让诈骗素材更加逼真,增加了黑客滥用的空间。

  趋势科技建议,已导入大型语言模型(LLM)的企业应建立严密的网安措施,包括强化沙盒环境、实施数据检查、防止数据下毒、部署多层式防御等。

热点推荐
1 重仓布局三大市场:ETH多单减持370枚,当

消息,某巨鲸在ETH多单上减持370.00枚,约合635,933.95美元。该巨鲸当前持仓规模为1,271,164.90美元...

2 CISA使用Anthropic AI工具审计政府代码,发现

消息,美国网络防御机构CISA正在使用Anthropic的人工智能工具来审计政府代码。在审计过程中,...

3 乌昨夜击落全部6枚口径导弹和31枚巡航导

消息,乌克兰总统泽连斯基:乌克兰昨夜击落全部6枚口径导弹和31枚巡航导弹,呼吁美国授权...

4 币安撤离引发钱包风险警报

消息,币安的撤离引发了钱包安全风险警报。CoinSpect警告称,弱密码生成暴露了多个主要链上...

5 比特币现货ETF录得2.235亿美元资金净流入

比特币现货ETF在7月4日假期前录得2.235亿美元的资金净流入,这是数周以来的首次资金净流入。...

6 Bitget上线13支热门股票永续合约

消息,Bitget宣布已于2026年7月6日上线支热门股票永续合约,包括DIASTOCKUSDT、CONLUSDT、MSTUUSDT等。...

7 Coinbase将上线Grove (GROVE)交易对

消息,Coinbase宣布将上线Grove ,若流动性条件满足,GROVE-USD交易对将于今日晚些时候在支持交易...

8 Bubblemaps:ANSEM代币94%持币地址处于盈利状

消息,链上分析平台Bubblemaps表示,ANSEM代币约11万个持币地址中94%处于盈利状态,其中12个地址...

9 比特币周涨近7%,市场聚焦美国6月CPI数据

比特币在截至7月5日的一周内上涨近7%,录得自3月以来最强周度表现,上涨受通胀预期回落推动...

10 Anthropic与Terawulf签署20年数据中心租约

消息,Anthropic与Terawulf签署了一项为期20年的数据中心租约,计划在美国肯塔基州建设AI算力基...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。