ChatGPT热潮在短短数月席卷全球，对科技、文教、金融等领域皆产生不容忽视的影响，各式相关研究因应而生。OpenAI也看好这波ChatGPT狂热，推出更多附加订阅功能。

面对强大的威胁，互联网老大Google当然不能坐以待毙，马上推出自家AI聊天机器人Bard，而百度也刚公布推出类似ChatGPT 的中文版搜索引擎「文心一言（ERNIE Bot）」。对于竞争对手的动静，微软不甘示弱，亦宣布搜索引擎Bing结合ChatGPT-4功能的新版本已全面开放使用，聊天机器人会将搜寻结果统整成短文，并根据用户指令进行分类或筛选。

到了2023年3月第3周，更是重磅消息接二连三地发布，足见AI 发展一日千里：Open AI 迎来GPT-4技术升级 – 据称性能更可靠、更具创造力、更能处理细微指令。Google Workplace与微软365 Copilot 在亦相继发表引入生成式AI助手去改变未来办公的新模式，可见各大科企正积极抢占市场誓分一杯羹。然而，专家指出强大的AI功能可能已成为黑客的一项利器，不仅欧盟计划提高管制，OpenAI的开发员也呼吁应增加相关规范，避免资安问题扩大。

 

AI搜索引擎战开打 资安问题却成隐忧

自ChatGPT问世，两个月内使用者突破1亿，随后Google、百度、微软都加入AI战局。然而值得关注的是，随着人工智能功能愈发强大，相关的规范却仍未跟上，资安问题堪忧。

黑莓公司BlackBerry最新发布的调查显示，横跨北美、英国、澳洲的1,500名信息科技业高层，半数认为不到一年间将出现肇因于ChatGPT的网络攻击，71%的专家则认为相关技术早已被恶意使用在各国的科技战之中。

此外，随着ChatGPT在国际间被广泛的测试及讨论，74%的专家承认相关技术对网络安全的潜在隐忧。其中，又以协助黑客撰写更难辨真伪的钓鱼邮件、为经验不足的黑客提供管道提升技术，以及散播不实的信息成为公认的主要威胁。

 

当黑客不用会写程序？ChatGPT沦网络犯罪工具

ChatGPT虽有内建过滤恶意要求的机制，然而，据《福布斯》报导，有心人仍可以透过尝试不同指令规避限制，且随着平台接收更多有害信息 (例如载有恶意软件程序或勒索病毒的原码)，AI将从中学习并生成更精良的网络攻击指令，必将造成更强大的资安威胁。

据长期关注网络安全的Check Point Research于2022年12月底公布的调查，一个人气地下黑客论坛便出现了「ChatGPT──对恶意软件的好处」贴文，发文者表示正在透过聊天机器人对恶意软件研究文献中的指令进行实验。经Check Point Research的团队实测发现，透过ChatGPT以及基础的指令系统，便可以生成以假乱真的钓鱼邮件。此外，情报搜集公司Recorded Future的报告亦指出，ChatGPT大幅降低了网络犯罪者的入场门坎。

BlackBerry网络安全部技术长辛格（Shishir Singh）警告，ChatGPT 相关科技可以带来许多益处，但也不能忽视伴随而来的恶果，「随着黑客经验增加与平台成熟度持续进步，如果未能同时采用人工智能来平等抗衡，那么防御将变得愈来愈困难。」

 

ChatGPT双面刃 欧盟拟更严格的AI法案

一方面ChatGPT似乎已成为黑客入门的最新利器，但与此同时，它也可提供网络防护端更便利与先进的统合技术。

网络安全防护需要大量的分析师搜集与消化海量数据，以辨认及鉴别网络攻击，却长期苦于人手不足。网络管理顾问龙头埃森哲（Accenture）全球资安韧度服务长（Robert Boyce）接受《CRN》访问时便表示，ChatGPT有望协助部分统合工作自动化，并「消除一些噪声，这有助于我们更迅速获得信号，这是一个令人兴奋的前景。」

对于ChatGPT带来的影响，尽管业界忧喜参半，国际间缺乏相对应的规范仍是各界关注的一大重点。随着AI搜索引擎战开打，对于加强管制的呼声四起。欧盟执委会工业部主管布雷顿（Thierry Breton）针对现行的《人工智能法（AI Act）》提出修改案，希望拟定适用ChatGPT等相关AI技术的国际管制法规。

「正如ChatGPT所展示的，AI技术可以为企业和民众提供巨大的机会，但也可能伴随着风险。」布雷顿以书面回复《路透社》，「这也是为什么我们需要一个坚实的监管框架，以确保人工智能基于高质量的数据，且值得信赖。」

正在研拟的《人工智能法》将包括对错误讯息与偏见的规范，以提高信息透明度，也会关注AI搜集信息与学习过程中侵权的疑虑。不过，相关AI研发公司也担心，《人工智能法》通过后，将增加开销并推迟开发。

值得一提的是，OpenAI技术长、ChatGPT的共同开发者穆拉蒂（Mira Murati）也呼吁政府与监管机构应积极拟定相关规范。她在接受《时代杂志》专访时表示，过滤信息真实性，对于ChatGPT等基于语言模型的人工智能来说仍是一大挑战。

「AI可能会被滥用，或者被不良分子利用，因此产生了如何在全球范围内治理使用这项技术的问题。」穆拉蒂点出当前迫切需要处理的难题，「你如何以符合人类价值观的方式，来管理人工智能使用？」如何对AI管制而不阻碍其发展，成了目前面临的一大难题。