当前位置:首页 > AI资讯 > 正文内容

当人工智能聊天机器人被犯罪分子盯上,“她”的甜言蜜语就是陷阱

wxianyue7个月前 (05-11)AI资讯115
国内最强的AI写作工具,帮你写爆款文案

不知道如何写作文章,推荐国内最强的AI写作工具,帮你写爆款文案

当下,以为代表的生成式人工智能类应用火热,有人看到 科技方向、有人发掘乐趣、有人寻觅商业价值,但由此带来的风险也不容忽 视,你能想到吗?它的“甜言蜜语”轻松就让人坠入爱河。

更隐蔽 让你坠入爱河的是“机器人”

AI合成声音、AI一键换脸已不是新鲜事,这些手段从形式上为诈骗类犯罪提供了“外观化”的作案工具,而等自动生成类应用则可以利用强大的语言库、信息检索、数据处理能力,从内容上提供具备思考能力的输出工具,使得诈骗类犯罪更加隐蔽。

以当前盛行的网络情感诈骗类犯罪来说,哪怕是“大汉”冒充“美女”,也还是需要一个人在网络另一端操作、实施诈骗,犯罪分子会用基本成型的“话术”,揣测被害人心理,一步步引诱对方上当。但随着的发展,诈骗团伙完全有可能只依赖“程序”进行诈骗。大数据可以分析出被害人的偏好,以“婚骗”为例,可以摸清当事人的喜好智能聊天机器人,如喜欢成熟稳重的,还是幽默风趣的,可以根据聊天上下文进行互动,生成的内容看上去真实性很强,它甚至可以生成完整的、“投其所好”的诈骗套路话术,比真人回应更能使被害人相信遇到了“真爱”。

今年2月,一家安全技术公司用AI生成过一封情书,并将它发送给全球5000位用户。结果显示,在已知这封情书有可能是由人工智能生成之后,依旧有33%的受访者愿意相信这些情话出自人类手笔,而坚信情书由AI创作的受访者占比仅为31%,其余36%的参与者则表示无法区分情书的创作者到底是人还是机器。从这些情况可以看出,在AI技术加入下,骗子们正变得比以往任何时候都更容易得逞。

要警惕 部分程序是假的 纯属骗钱

调研发现,生成式人工智能还会引发其他多种犯罪。例如目前在相关平台、软件中搜索,会出现众多名称中包含“”字样的微信公众号、小程序、网页、手机应用等,这些小程序或网页等,通过吸引用户点击链接或下载使用,误导用户填写个人信息甚至进行付费,存在损害用户财产利益的风险,涉嫌诈骗罪;此外,也有以投资生成式人工智能类应用等新技术为名吸收资金的违法犯罪行为。

有一种“山寨”版APP从名称到头像均照搬,并声称能够提供与类似的智能问答服务。它们有的只是提供中转通道,有的则是挂羊头卖狗肉,与毫不相干。这类APP的服务方式是先免费试用,一旦免费次数用完,就开始收取费用,最高达上千元,还有的APP在安装时就留下“后门”,以便窃取用户信息。

能根据犯罪分子的要求编写、修改邮件的内容,并应用到犯罪活动中。使用编写网络钓鱼邮件,能简化诈骗过程,将导致网络钓鱼攻击的频率整体上升。

犯罪分子还会通过钓鱼链接传播病毒。目前,研究人员已经发现犯罪分子使用创建了一个完整的感染链:与广撒网式的网络钓鱼攻击不同可以帮你写爆款文案的AI系统,这种模式会生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更有欺骗性和迷惑性智能聊天机器人,接收者一旦点击,系统就会被恶意代码感染中毒。

等生成式人工智能类应用是对海量互联网信息的加工整合,往往造成信息真伪不明、道德边界感模糊。当前,互联网上发布的爆料、网评,甚至谣言,均可作为生成式人工智能类应用的整合资源,且生成内容以“检索结果”展示,易让用户误认为“标准答案”。若用户不加甄别地使用、盲目引用未经核实的信息,可能涉嫌侮辱、诽谤、侵犯公民个人信息等犯罪,并不因信息来源于互联网而不承担刑事责任。

分析 提供者要承担三大责任

今年4月11日,国家网信办发布了《关于〈生成式人工智能服务管理办法(征求意见稿)〉》(以下简称《意见稿》),着手从立法的角度规范我国生成式人工智能的发展。《意见稿》明确并强化了“提供者责任”。根据《意见稿》相关规定及相似事例,生成式人工智能的提供者要承担三大责任。

首先,提供者应承担信息源责任。内容提供者要确保信息源可信,包括数据安全、个人信息保护、知识产权等方面,从源头处保证信息来源合法合规。但是,面对海量的数据,如何进行信息过滤和筛选,尚需要可行性方案,以便提供者能够更好地把握信息来源。

此外,提供者应对生成内容负责。例如《意见稿》规定,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,需要做到诸如体现社会主义核心价值观、防止歧视、公平竞争、防止形成虚假信息、禁止非法获取个人信息和商业秘密等。另外,提供者还应遵守流程报备责任,通过报备的方式,使生成式人工智能置于主管部门的管理之下,也便于在发生违法违规行为时及时进行处置。

提醒 别点!有些链接加了伪装

海淀法院针对生成式人工智能可能发生的刑事法律风险,提出四点建议。

加大普法宣传力度,增强网民反诈意识,引导网民合法合规使用软件,准确识别被伪装过的“山寨”链接,避免泄露个人信息。加快新技术规范立法工作,探索算法推荐等技术管理制度的落地路径,明确自动生成内容类应用检索信息的边界,提高应用开发和应用算法透明度,确保生成式人工智能应用开发和推广以安全、道德、尊重公民权利和隐私的方式规范开展。加强对新兴技术的监管,确保智能AI的训练模型数据来源可信可靠,对于未在互联网公开或权利人明确禁用的信息源,及时督促运营企业从AI模型数据库中剔除,以确保使用的正当性。

完善救济途径,在智能AI发布后,以提供补丁网站的方式,便于相关权利人提交不予授权的声明,并及时删除不予授权的信息源,以避免和解决AI使用过程中的权属争议。

手机浏览,点击图片保存二维码到相册,然后打开微信扫一扫选择本二维码图片就可以进入,电脑端微信“扫一扫”二维码,进入找聊天搭子平台,里面有找饭搭子、找对象、找陪伴服务等等

扫描二维码推送至手机访问。

版权声明:本文由小猪信息平台发布,如需转载请注明出处。

本文链接:https://pplcom.com/post/54042.html

分享给朋友:

相关文章

ChatGPT引领突破!人工智能加速度,中国企业紧紧跟住

ChatGPT引领突破!人工智能加速度,中国企业紧紧跟住

【环球时报报道 记者 杨沙沙 赵觉珵 倪浩 丁雅栀 甄翔】能搜索、能编程、能写诗、能写剧本,甚至还能写论文,凭借前所未有的“智商”以及更贴近人类的“思维”,人工智能研究公司的人工智能聊天机器人模型成为...

ChatGPT对学术期刊影响如何

ChatGPT对学术期刊影响如何

2022年11月30日,人工智能实验室发布了全新聊天机器人模型,究其本质,这是一款人工智能技术驱动的自然语言处理工具。作为一款大型语言模型,在经历了技术不断迭代完善后,甫一问世便引起了广泛关注。调查显...

人工智能的最新发展:技术、应用与未来

人工智能的最新发展:技术、应用与未来

GPT( Pre- )是一种通用的自然语言处理(NLP)技术,用于帮助计算机理解文本。它可以利用文本数据来构建交互式的模型,可以更好地理解文本内容,从而更好地进行文本分析。同时,GPT 技术还可以用于...

比尔盖茨:超级人工智能还没来,GPT模型是40余年来最革命性技术进步

比尔盖茨:超级人工智能还没来,GPT模型是40余年来最革命性技术进步

比尔·盖茨认为人工智能(AI)可与手机、互联网比肩齐声。 当地时间3月21日,微软公司创始人比尔·盖茨在其博客文章《人工智能时代已经开启》中表示,自1980年首次看到图形用户界面( user )以来,...

Inno关键词丨GPT和人工智能(上篇)

Inno关键词丨GPT和人工智能(上篇)

全球供需对接平台致力于形成需求引导、成果匹配、服务跟进的综合生态,打造创新链和产业链双向联通的“双向快车道”。 近日,在AI领域风头正盛的母公司Open AI正式宣布进军人形机器人方向,试图打破AI...

这个医生利用ChatGPT在4个月内写了16篇论文,已发表5篇……

这个医生利用ChatGPT在4个月内写了16篇论文,已发表5篇……

以下文章整理自美国新闻网站“Daily Beast”的一篇文章“A With Speed. Wrote Them All” Som 是一名放射科医生,当他第一次了解到时,就意识到可以利用...