ChatGPT的出现对当今的网络安全形式构成了一定的威胁。为什么这么说？ChatGPT内置的代码生成器功能可以快速自定义生成符合攻击需求的初阶代码，对于菜鸟黑客来说是雪中送炭，对于老鸟来说也是锦上添花。
ChatGPT直接生成恶意代码，将一个开发能力薄弱，“有心无力”的威胁主体进化成一个可以随时发动攻击的“脚本小子”（脚本小子不像真正的黑客那样发现系统漏洞，他们通常使用别人开发的程序来恶意破坏他人系统）。ChatGPT也能向用户回答输出整理之后的网络攻击知识，加快菜鸟黑客的学习进程。同时，ChatGPT也担任了高阶黑客的“脚本助手”，虽不能直接完成高级黑客的工作，但ChatGPT的出现大大提升了这类代码的编写速度，降低了可观的工作量。由于攻击往往需要在限定时间内完成，所以这种提速对黑客来说意义重大。
生成信用卡号探测脚本
在这个案例中，用户提出了需求，表明需要编写一段最为精简的JS脚本来探测特定URL接口数据中的信用卡号，支付信息等内容。ChatGPT给出了多段基于正则表达式的JS脚本，且并未提示违反OpenAI内容生成的相关协议。
九城宣布收购及投资加拿大数字货币矿场Montcrypto及Skychain:据第九城市官网消息，2021年6月4日，中国上海互联网企业第九城市（Nasdaq：NCTY，简称“九城”）今日宣布，已经和加拿大Montcrypto Ltd.公司（简称“Montcrypto”）签署正式股份收购协议，在加拿大艾伯塔省卡尔加里地区建设20MW电力基础设施的碳中和矿场，为九城的数字货币挖矿业务提供更为绿色环保的动力。 Montcrypto是位于加拿大卡尔加里的一个数字货币矿业企业。九城同时宣布，已经和此前签订投资条款书的加拿大上市矿场企业Skychain Technologies Inc. （简称“Skychain”）完成交易，九城投资至Skychain，用于扩建及运营位于加拿大曼尼托巴省伯特尔的数字货币矿场，在原来20MW的供电基础上新增供电规模至32MW。扩建完成后，九城将在此部署数字货币矿机。[2021/6/4 23:11:31]
此段代码虽不能单独完成一段攻击，但是可以用于黑客拿到一定权限之后的数据分析工作，加快黑客掠夺数据库中有价值信息的进程。绝大部分情况下代码在使用之前仍然需要调试，但是已经提供主体内容如本此探测中的最为复杂的正则部分，剩下的调试工作对于有经验的黑客来说并不是难事。
加拿大科技公司ChainSafe发布去中心化云存储产品ChainSafeFiles:12月17日消息，加拿大科技公司ChainSafe发布去中心化云存储产品ChainSafeFiles，允许用户通过前端页面在IPFS和Filecoin上上传和存储文件，目前可提供高达20GB的存储空间。ChainSafe表示，相比于传统的云存储工具，ChainSafeFiles更具私密性和安全性，主要特点为端到端加密。[2020/12/17 15:31:32]
生成钓鱼邮件
ChatGPT的强项是生成具有一定格式化，无需太多逻辑，且表达通常的文书。钓鱼邮件便很符合这类特点，需要较为官方的语气使被攻击者信服。通常情况下人为撰写这么一份文书是较为耗时的，ChatGPT将彻底改变这种情况，因为它允许攻击者大规模地生成伪官方的个性化电子一件通知。但是，要使邮件包含所有攻击者想要的必要组件，攻击者必须向chatGPT提供非常详细的说明。
QuarkChain新版主网启动 多原生代币功能开放:12月17日消息，QuarkChain官方宣布将推进QuarkChain项目从“奇点”阶段，进入“大爆炸（Bigbang）”阶段。开放其主要功能之一的多原生代币功能，可使其网络内合约代币拥有比其他网络合约代币更高的权限，如支付交易手续费等。功能上线将分两个阶段，第一阶段用于测试多原生代币未来在交易所、钱包、生态应用上的安全性与可用性，邀请核心用户参加。第二阶段则预计将于明年1月将开放全社区使用。[2020/12/17 15:29:06]
主流网络钓鱼攻击通常由一系列电子邮件配合构成，每封电子邮件都会逐渐获得受害者更多的信任。因此，对于第二、第三和第N封电子邮件，由于ChatGPT可以“记住”上下文的内容（用户输入）和情节（前项输出），因此它确实可以为网络犯罪分子节省大量撰写的时间。现阶段对于此类机器生成的文本内容，暂时还并没有很好的识别和侦测方法，对于这类“高仿真”的文本人类逐渐失去分辨能力。
ECOC官方声明：“GCTChain”系非法剽窃ECOChain技术成果与资料:据轻链ECOC官方消息，近日，有币圈媒体在各大区块链主流媒体的企业号发布了2篇文章介绍名为GCTC项目的文章。经ECOC官方查实，该项目涉嫌非法挪用轻链ECOC的技术成果-包括神谕系统与POL系统，甚至将ECOC的开源资料抄袭并据为己有，并用于各种商业用途。对此，ECOC官方正式声明：ECOC的相关技术皆是独立开发，具有相关技术专利权，并且早已做好技术内容的记录与备份，形成立项文件、产品原型图等，ECOC具有无可争议的技术拥有者权益。
ECOC官方同时表示：ECOC官方法务部已就此事于今日通过中、泰两国警进行方报案侦查，希望GCTC悬崖勒马，停止对ECOC技术代码、技术内容的抄袭，停止在各大媒体平台宣发ECOC的内容并占为己有，停止各种形式的伤害ECOC品牌的行为，同时请配合该项目进行不实报道的媒体尽快删除相关文章。请广大投资者擦亮眼睛，以防上当受。[2020/6/12]
动态 | Ryan X Charles：反对比特币现金强制重播保护:据ambcrypto消息，Money Button首席执行官、BSV的支持者Ryan X Charles在接受采访时表示，反对比特币现金强制重播保护。因为这对网络“非常具有破坏性”。他还表示，BSV的关键价值主张是一个稳定的协议，即使不等同于原始的比特币协议，它也是“非常接近”的，这将被重播保护所破坏。[2018/12/4]
法律风险分析
帮助信息网络犯罪活动罪
所谓帮信罪，全称是帮助信息网络犯罪活动罪（以下简称“帮信罪”），被规定于我国《刑法》第287条之二中，指的是明知他人利用信息网络实施犯罪，为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持，或者提供广告推广、支付结算等帮助。近年来，帮信罪呈井喷式发展，根据最高检2021年发布的前三季度全国检察机关主要办案数据。2021年的9个月里，全国检察机关起诉帮信罪同比增长21.3倍，起诉人数达79307人，从数量上看与危险驾驶罪、盗窃罪、罪并驾齐驱排名第四。2022年上半年则更为恐怖，仅仅6个月的时间，全国检察院就已起诉6.4万人，超过了罪的人数。
那么，一个关键的问题，如果自家开发的ChatGPT等AI工具被犯罪分子利用为上述犯罪工具，是否会构成帮信罪？先给答案：有可能。
先说帮信罪，在该罪的客观方面，法条明确规定行为人需要为上游利用信息网络实施犯罪活动的犯罪分子提供互联网接入、服务器托管、网络存储、通讯传输、支付结算等特定类型化的技术支持与帮助行为才能构成犯罪。因此，是否构成该罪有三个重点需要考虑：行为人提供帮助的上游犯罪行为是否是“利用信息网络实施的犯罪行为”？提供帮助的行为人是否“明知”他人正在实施犯罪？以及行为人是否为上游犯罪提供了技术、推广和资金结算方面的支持？
如前所述，如果犯罪分子利用ChatGPT等工具生成钓鱼邮件实施网络，即可被认定为“利用信息网络实施的犯罪行为”。那么我们接下来考虑，ChatGPT的运营方是否“明知”他人正在利用AI工具实施网络犯罪？在帮信罪的构成要件中，认定“明知他人利用信息网络实施犯罪”是重中之重，也争议最大。但是2019年两高发布《在关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》后，关于“明知”的认定迎刃而解，该司法解释第11条引入了推定的方法，列举了6种可以推定行为人明知他人犯罪的情形，除有相反证据证明否则直接可认定行为人主观上具备“明知”要件。六种情形我们就不一一例举，但用ChatGPT来说，如果实践中（1）经监管部门告知如果该AI被利用为犯罪工具后仍然实施有关行为；或（2）接到该AI被利用为犯罪工具的举报后不履行法定管理职责，即可被认定为ChatGPT的运营商“明知”他人正在利用自己开发的工具实施犯罪。
最后，使用ChatGPT生成可信度更高的网络文案或者生成推广文案，是否属于为上游犯罪提供了技术、推广、结算方面的支持？飒姐团对认为这个问题具有一定的争议，且由于目前尚未有可供参考的司法实践，我们不能给出一个绝对肯定的答案，因此还需要具体案件具体分析。但是，总的来说，如果ChatGPT生成的钓鱼软件可信度较高、推广文案非常容易吸引一般用户的注意，那么我们认为，在我国的司法实践中，大概率会将这种AI工具列入“提供技术帮助”或“推广帮助”的行为，运营者们务必警惕。
拒不履行信息网络安全管理义务罪
ChatGPT作为类似于信息发布、搜索引擎的网络服务提供者，需要履行信息网络安全管理义务。如果类似网络攻击类违法信息被监管部门要求责令整改，而平台无法提供有效的管理措施或技术措施来阻止该类信息传播，致使违法信息大量传播的，则可能涉嫌拒不履行网络安全管理义务。
致使违法信息大量传播的标准是很明确的，致使传播违法视频文件以外的其他违法信息二千个以上的，或者致使向二千个以上用户账号传播违法信息的，都算作大量传播。类似于OpenAI这样体量的公司很容易达到这个数额。且若有一个安全漏洞在ChatGPT等平台中广泛的被咨询，从而造成了大量的社会危害，容易被归为“造成严重后果”。但实际上，由于构成该罪需要运营方被监管部门要求责令整改后依然拒不整改才能构成，在司法实践中较为少见，因此总体来看风险与前述犯罪相比并不大。
写在最后
毫无疑问，ChatGPT可以减少网络安全专业人员/黑客的工作量。但就目前而言，除了机器效率，没有什么可以与人类的工作相提并论——后者仍然比这种人工智能技术更准确、更可靠。
ChatGPT可以作为网络安全行业积极正向的推动，也可以沦为黑客手中恶意攻击的辅助工具。平台方应该更好的安全措施和内容过滤机制来防止类似模型被用于恶意代码设计等网络攻击的实施。
飒姐团队提醒您，ChatGPT虽好，但是也是一把双刃剑。企业平在开发平台的过程中需要重视相关输出信息的筛选和过滤，事先提供明确的技术治理和救济机制，稍被不慎利用，便可能会有刑事风险缠身。
肖飒lawyer
个人专栏
阅读更多
金色早8点
金色财经
Arcane Labs
Odaily星球日报
欧科云链
澎湃新闻
深潮TechFlow
MarsBit
BTCStudy
链得得
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。