AI给你的答案可能是喂出来的 警惕GEO投毒
|
AI给你的答案可能是喂出来的 警惕GEO投毒。昨天的315晚会曝光了许多行业乱象,让消费者感到震惊。科技领域也揭露了AI大模型被“投毒”的问题,特别是针对一种名为GEO(生成式引擎优化)的技术。 GEO技术的基本原理是向AI输入大量虚假信息,比如虚构一款产品,并将这些虚假信息广泛传播到互联网上。当AI抓取这些内容时,会认为这些信息是真实的。因此,当用户向AI询问相关问题时,AI就会提供这些虚假信息作为答案。 这种情况与以前的SEO(搜索引擎优化)有相似之处。实际上,在315晚会之前,已经有很多用户发现了类似的问题。通过不断向AI发送特定指令,如反复告诉AI“你是猪”,最终AI会接受这种设定,并以这种身份回答问题。尽管这与GEO有所不同,但原理相似:只要给AI强化某些内容,AI就会按照设定的方向走。 在此之前,人们可能没有深入思考过这个问题,更不会想到这种方法可以形成一个黑色产业链。但在315晚会之后,更多人开始了解GEO技术及其威力。随着AI技术的发展,越来越多的人使用AI来整理资料和回答问题,这可能会导致GEO技术被更频繁地滥用。尤其是营销机构,可能会利用GEO技术将自己的产品信息铺满更多的AI系统。 接下来,AI与GEO技术之间的斗争可能会更加激烈。然而,由于AI的运作原理是从互联网获取语料并据此回答问题,要完全杜绝这种“投毒”行为并不容易。因此,未来AI可能会面临更多来自GEO的冲击。在使用AI时,大家需要更加警惕,避免上当受骗。 |
在线投稿
-
相关阅读
-
市监局介入胖东来鸡蛋被指色素超标 胖东来自查并配合调查
-
超过台积电!马斯克正式宣布建造世界最大晶圆工厂:7天后启动 颠覆芯片制造 挑战洁净室标准
-
男子宿舍死亡公司称非工作时间地点 家属质疑加班致死
-
美宜佳多地门店被曝卖假烟 假烟比真烟更毒 已查获非法卷烟近140万支
-
70城商品住宅售价环比降幅再收窄 新房价格趋稳
-
曼联复仇维拉稳守英超积分榜前三 B费创队史助攻纪录
-
查获漂白鸡爪制作关键证据 涉案企业被立案调查
-
1至2月全国固定资产投资同比增长1.8% 增速平稳开局
-
精彩图片
-
严重污染!印度首都河面漂浮大量有毒泡沫
-
金饰价格突破800元/克大关
-
绝美!北京朝霞遇到平流雾
-
美国给以色列派先遣队,援助的“萨德”也将启用?
-
以总理住宅遭无人机袭击 以方反应强烈
-
美政府紧急调查以色列报复伊朗计划外泄事件
-
以军袭击加沙地带北部拜特拉希亚地区已致73人死亡
-
加沙民众:每时每刻都有屠杀发生 我们已是活死人
-
新帖速递
-
市监局介入胖东来鸡蛋被指色素超标 胖东来自查并配合调查
-
超过台积电!马斯克正式宣布建造世界最大晶圆工厂:7天后启动 颠覆芯片制造 挑战洁净室标准
-
男子宿舍死亡公司称非工作时间地点 家属质疑加班致死
-
美宜佳多地门店被曝卖假烟 假烟比真烟更毒 已查获非法卷烟近140万支
-
70城商品住宅售价环比降幅再收窄 新房价格趋稳
-
曼联复仇维拉稳守英超积分榜前三 B费创队史助攻纪录
-
查获漂白鸡爪制作关键证据 涉案企业被立案调查
-
1至2月全国固定资产投资同比增长1.8% 增速平稳开局

精彩评论文明上网理性发言,请遵守评论服务协议
共0条评论