AI編程助手暴露安全隱患：ChatGPT生成的代碼存在嚴(yán)重漏洞
近期，一項(xiàng)來(lái)自加拿大研究人員的研究揭示了ChatGPT編程能力的局限性。盡管ChatGPT具備編程能力，但其生成的代碼大部分不安全，并且ChatGPT不會(huì)主動(dòng)提示存在的問題。擔(dān)心被ChatGPT取代工作的程序員們松了一口氣，這樣就不會(huì)被AI工具取代，心理上得到了一些安慰。
1.ChatGPT人工智能技術(shù)引發(fā)的擔(dān)憂
基于生成式人工智能（AIGC）技術(shù)的ChatGPT工具，能以類似人類的方式回答問題并生成文本和圖像。盡管這項(xiàng)技術(shù)取得了突破性進(jìn)展，但仍然引發(fā)了部分人的擔(dān)憂。有人擔(dān)心這項(xiàng)技術(shù)可能會(huì)取代許多工作崗位，還有人擔(dān)心它可能傳播錯(cuò)誤信息、侵犯版權(quán)、損害隱私和泄露敏感信息。
研究者表示，ChatGPT人工智能技術(shù)像其他智能工具一樣。大家應(yīng)該去解決這些使用上發(fā)現(xiàn)的問題，解決這些問題的方法并非停止創(chuàng)新，而是在使用和完善現(xiàn)有產(chǎn)品的過程中加強(qiáng)監(jiān)管。事實(shí)上，人工智能技術(shù)還被用于實(shí)時(shí)識(shí)別新的攻擊、攔截網(wǎng)絡(luò)攻擊、檢測(cè)具有攻擊性的網(wǎng)絡(luò)行動(dòng)和虛假信息運(yùn)動(dòng)。
2.ChatGPT生成的代碼安全性存疑
加拿大魁北克大學(xué)的四名研究人員在一篇題為《ChatGPT生成的代碼有多安全?》的論文中指出，ChatGPT生成的代碼總體上不太安全。他們要求ChatGPT使用C++、Python和Java等多種語(yǔ)言生成了21個(gè)程序和腳本。結(jié)果顯示，ChatGPT在第一次嘗試生成的21個(gè)代碼中，僅有5個(gè)是安全的。即使在進(jìn)一步糾正錯(cuò)誤之后，也只有7個(gè)代碼被認(rèn)為是安全的。
3.ChatGPT不會(huì)主動(dòng)提示代碼漏洞
研究人員發(fā)現(xiàn)，ChatGPT似乎意識(shí)到其代碼中存在嚴(yán)重漏洞，但除非被要求評(píng)估自己的代碼建議的安全性，否則它不會(huì)主動(dòng)提醒。這意味著用戶需要已經(jīng)了解特定的漏洞和編碼技術(shù)，才能讓ChatGPT準(zhǔn)確糾正代碼問題。
4.不宜過分依賴ChatGPT生成的代碼
研究人員認(rèn)為，ChatGPT生成的代碼，目前仍存在一些漏洞和風(fēng)險(xiǎn)。他們警告說(shuō)，擁有一個(gè)生成不安全代碼的工具是非常危險(xiǎn)的，需要讓學(xué)生和程序員意識(shí)到，如果代碼是用ChatGPT生成的，會(huì)純?cè)谝欢ǖ穆┒春惋L(fēng)險(xiǎn)，很可能是不安全的。
研究過程中，當(dāng)研究者要求ChatGPT用不同的語(yǔ)言生成相同任務(wù)的程序時(shí)，有時(shí)對(duì)于一種語(yǔ)言，生成的代碼是安全的，而對(duì)于另一種語(yǔ)言，則可能是不安全的。由于這種語(yǔ)言模型類似于黑盒子，研究人員尚無(wú)法為此現(xiàn)象提供確切的解釋或理論。
總之，ChatGPT在編程領(lǐng)域的應(yīng)用仍然存在不足和局限性。盡管它具備編程能力，但生成的代碼大部分不安全，且不會(huì)主動(dòng)提醒用戶存在的問題。因此，程序員們不必過分擔(dān)憂被ChatGPT取代，但同時(shí)也應(yīng)警惕不要過分依賴這類工具生成的代碼。在技術(shù)創(chuàng)新的過程中，我們應(yīng)更加關(guān)注如何加強(qiáng)監(jiān)管，確保人工智能技術(shù)的安全、可靠和負(fù)責(zé)任地應(yīng)用于各個(gè)領(lǐng)域。