{dede:global.cfg_webname/}

当前位置: 首页 > 资讯 > 5G/AIoT > 正文

ChatGPT可以将人类从重复工作解放,也在助长网络犯罪分子的“壮大”

来源:财联社    时间:2023-02-27 22:27:44

  原标题:ChatGPT滥用背后:黑客们找到了趁手的“钓鱼竿”

  2023年2月27日讯:ChatGPT作为引领时代的新技术,正在解锁越来越多的应用,然而万事都有好坏两面,人工智能显然也被网络犯罪盯上了。

  ChatGPT的确可以将人类从重复性的写作中解放出来。然而,过于逼真的写作能力不仅仅让教授们头大,也在助长网络犯罪分子的“壮大”。

  网络安全公司Checkpoint Security的ChatGPT首席研究员Sergey Shykevich表示,已经看到网络犯罪分子对ChatGPT的利用,他们正在通过人工智能的力量来创建可用于勒索软件攻击的代码。

  钓鱼“熟手”ChatGPT

  Shykevich的团队自2021年12月开始研究人工智能与网络犯罪的关系。去年年底,他们找到了ChatGPT与网络犯罪相关的第一份证据。

  据称,网络犯罪分子正在使用聊天机器人创建可以用于恶意软件攻击的Python脚本。Shykevich指出,代码虽然有一些错误,但大部分是正确的。而更有趣的是,发布这些代码的人以前从未开发过任何软件。

  Shykevich指出,ChatGPT和OpenAI的另一个编码服务Codex正在让经验不足的人也能完成代码写作,而这显然是一把双刃剑。

  网络安全公司Darktrace的网络情报与分析总监Justin Fier也声称,目前网络钓鱼攻击的进入门槛已经很低。人们只要提示到位,ChatGPT就能轻松创建出数十份具有针对性的诈骗电子邮件。

  2月初,网络安全公司Blackberry的一份针对信息技术专家的调查显示,1500名专家中74%的人担心ChatGPT会助长网络犯罪,而71%的人认为ChatGPT已经被有心人“拉下海”了。

  最惨背锅侠

  ChatGPT参与违法犯罪,倒霉的OpenAI可能会被连带追责。

  美国前联邦检察官Edward McAndrew指出,如果ChatGPT或类似的聊天机器人建议某人实施网络犯罪,那么创造出ChatGPT的公司可能要承担责任。

  这与往常的场景不同。大多数科技公司不必对自己平台上的用户言论负责,但由于ChatGPT的文字内容来自人工智能本身,而人工智能开发者对人工智能学习和输出的内容负责。

  McAndrew表示,如果出现问题,OpenAI很难免于民事或刑事诉讼。

  然而,McAndrew也承认如果ChatGPT开源的话,追溯OpenAI的责任将变得很困难。此外,目前也没有一个机构或政府单位专门负责为人工智能行业制定授权。而人工智能领域往往需要国际间的合作,这可能将花费数十年的时间。

  Shykevich也强调,现在的ChatGPT对犯罪分子来说也是危险的存在,因为它不仅爱“乱讲”,而且乱讲话的时候特别自信。这让犯罪分子需要小心翼翼地检查ChatGPT的每一句话,不然就很可能被ChatGPT带进沟里。

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:Email:342 4350 938@qq.com

频道精选

2017-2019 Copyright © IT商业科技网 备案许可证号粤ICP备2022153948号 豫公网安备110102003388号

紧急处理QQ:342 4350 938@qq .com