ChatGPT熱潮在短短數月席捲全球，對科技、文教、金融等領域皆產生不容忽視的影響，各式相關研究因應而生。OpenAI也看好這波ChatGPT狂熱，推出更多附加訂閱功能。
面對強大的威脅，互聯網老大Google當然不能坐以待斃，馬上推出自家AI聊天機器人Bard，而百度也剛公布推出類似ChatGPT的中文版搜尋引擎「文心一言（ERNIE Bot）」。對於競爭對手的動靜，微軟不甘示弱，亦宣布搜尋引擎Bing結合ChatGPT-4功能的新版本已全面開放使用，聊天機器人會將搜尋結果統整成短文，並根據使用者指令進行分類或篩選。
到了2023年3月第3周，更是重磅消息接二連三地發布，足見AI 發展一日千里：Open AI 迎來GPT-4技術升級 – 據稱性能更可靠、更具創造力、更能處理細微指令。Google Workplace與微軟365 Copilot 在亦相繼發表引入生成式AI助手去改變未來辦公的新模式，可見各大科企正積極搶佔市場誓分一杯羹。然而，專家指出強大的AI功能可能已成為駭客的一項利器，不僅歐盟計劃提高管制，OpenAI的開發員也呼籲應增加相關規範，避免資安問題擴大。
AI搜尋引擎戰開打 資安問題卻成隱憂
自ChatGPT問世，兩個月內使用者突破1億，隨後Google、百度、微軟都加入AI戰局。然而值得關注的是，隨著人工智慧功能愈發強大，相關的規範卻仍未跟上，資安問題堪憂。
黑莓公司BlackBerry最新發布的調查顯示，橫跨北美、英國、澳洲的1,500名資訊科技業高層，半數認為不到一年間將出現肇因於ChatGPT的網路攻擊，71%的專家則認為相關技術早已被惡意使用在各國的科技戰之中。
此外，隨著ChatGPT在國際間被廣泛的測試及討論，74%的專家承認相關技術對網路安全的潛在隱憂。其中，又以協助駭客撰寫更難辨真偽的釣魚郵件、為經驗不足的駭客提供管道提升技術，以及散播不實的資訊成為公認的主要威脅。
當駭客不用會寫程式？ChatGPT淪網路犯罪工具
ChatGPT雖有內建過濾惡意要求的機制，然而，據《福布斯》報導，有心人仍可以透過嘗試不同指令規避限制，且隨著平台接收更多有害資訊 (例如載有惡意軟件程式或勒索病毒的原碼)，AI將從中學習並生成更精良的網路攻擊指令，必將造成更強大的資安威脅。
據長期關注網路安全的Check Point Research於2022年12月底公布的調查，一個人氣地下駭客論壇便出現了「ChatGPT──對惡意軟體的好處」貼文，發文者表示正在透過聊天機器人對惡意軟體研究文獻中的指令進行實驗。經Check Point Research的團隊實測發現，透過ChatGPT以及基礎的指令系統，便可以生成以假亂真的釣魚郵件。此外，情報搜集公司Recorded Future的報告亦指出，ChatGPT大幅降低了網路犯罪者的入場門檻。
BlackBerry網絡安全部技術長辛格（Shishir Singh）警告，ChatGPT相關科技可以帶來許多益處，但也不能忽視伴隨而來的惡果，「隨著駭客經驗增加與平台成熟度持續進步，如果未能同時採用人工智能來平等抗衡，那麼防禦將變得愈來愈困難。」
ChatGPT雙面刃 歐盟擬更嚴格的AI法案
一方面ChatGPT似乎已成為駭客入門的最新利器，但與此同時，它也可提供網路防護端更便利與先進的統合技術。
網路安全防護需要大量的分析師蒐集與消化海量數據，以辨認及鑑別網路攻擊，卻長期苦於人手不足。網路管理顧問龍頭埃森哲（Accenture）全球資安韌度服務長（Robert Boyce）接受《CRN》訪問時便表示，ChatGPT有望協助部分統合工作自動化，並「消除一些雜訊，這有助於我們更迅速獲得信號，這是一個令人興奮的前景。」
對於ChatGPT帶來的影響，儘管業界憂喜參半，國際間缺乏相對應的規範仍是各界關注的一大重點。隨著AI搜尋引擎戰開打，對於加強管制的呼聲四起。歐盟執委會工業部主管布雷頓（Thierry Breton）針對現行的《人工智能法（AI Act）》提出修改案，希望擬定適用ChatGPT等相關AI技術的國際管制法規。
「正如ChatGPT所展示的，AI技術可以為企業和民眾提供巨大的機會，但也可能伴隨著風險。」布雷頓以書面回覆《路透社》，「這也是為什麼我們需要一個堅實的監管框架，以確保人工智能基於高質量的數據，且值得信賴。」
正在研擬的《人工智能法》將包括對錯誤訊息與偏見的規範，以提高資訊透明度，也會關注AI蒐集資訊與學習過程中侵權的疑慮。不過，相關AI研發公司也擔心，《人工智能法》通過後，將增加開銷並延緩開發。
值得一提的是，OpenAI技術長、ChatGPT的共同開發者穆拉蒂（Mira Murati）也呼籲政府與監管機構應積極擬定相關規範。她在接受《時代雜誌》專訪時表示，過濾資訊真實性，對於ChatGPT等基於語言模型的人工智能來說仍是一大挑戰。
「AI可能會被濫用，或者被不良分子利用，因此產生了如何在全球範圍內治理使用這項技術的問題。」穆拉蒂點出當前迫切需要處理的難題，「你如何以符合人類價值觀的方式，來管理人工智能使用？」如何對AI管制而不阻礙其發展，成了目前面臨的一大難題。