• 元宇宙：本站分享元宇宙相关资讯，资讯仅代表作者观点与平台立场无关,仅供参考.
  • 元宇宙
  • AI
  • AI资讯
  • AI编程助手暴露安全隐患：ChatGPT生成的代码存在严重漏洞

AI编程助手暴露安全隐患：ChatGPT生成的代码存在严重漏洞

  • 2023年4月25日 10:43

近期，一项来自加拿大研究人员的研究揭示了ChatGPT编程能力的局限性。尽管ChatGPT具备编程能力，但其生成的代码大部分不安全，并且ChatGPT不会主动提示存在的问题。担心被ChatGPT取代工作的程序员们松了一口气，这样就不会被AI工具取代，心理上得到了一些安慰。


1.ChatGPT人工智能技术引发的担忧

基于生成式人工智能（AIGC）技术的ChatGPT工具，能以类似人类的方式回答问题并生成文本和图像。尽管这项技术取得了突破性进展，但仍然引发了部分人的担忧。有人担心这项技术可能会取代许多工作岗位，还有人担心它可能传播错误信息、侵犯版权、损害隐私和泄露敏感信息。

研究者表示，ChatGPT人工智能技术像其他智能工具一样。大家应该去解决这些使用上发现的问题，解决这些问题的方法并非停止创新，而是在使用和完善现有产品的过程中加强监管。事实上，人工智能技术还被用于实时识别新的攻击、拦截网络攻击、检测具有攻击性的网络行动和虚假信息运动。

2.ChatGPT生成的代码安全性存疑

加拿大魁北克大学的四名研究人员在一篇题为《ChatGPT生成的代码有多安全?》的论文中指出，ChatGPT生成的代码总体上不太安全。他们要求ChatGPT使用C++、Python和Java等多种语言生成了21个程序和脚本。结果显示，ChatGPT在第一次尝试生成的21个代码中，仅有5个是安全的。即使在进一步纠正错误之后，也只有7个代码被认为是安全的。

3.ChatGPT不会主动提示代码漏洞

研究人员发现，ChatGPT似乎意识到其代码中存在严重漏洞，但除非被要求评估自己的代码建议的安全性，否则它不会主动提醒。这意味着用户需要已经了解特定的漏洞和编码技术，才能让ChatGPT准确纠正代码问题。

4.不宜过分依赖ChatGPT生成的代码

研究人员认为，ChatGPT生成的代码，目前仍存在一些漏洞和风险。他们警告说，拥有一个生成不安全代码的工具是非常危险的，需要让学生和程序员意识到，如果代码是用ChatGPT生成的，会纯在一定的漏洞和风险，很可能是不安全的。

研究过程中，当研究者要求ChatGPT用不同的语言生成相同任务的程序时，有时对于一种语言，生成的代码是安全的，而对于另一种语言，则可能是不安全的。由于这种语言模型类似于黑盒子，研究人员尚无法为此现象提供确切的解释或理论。

总之，ChatGPT在编程领域的应用仍然存在不足和局限性。尽管它具备编程能力，但生成的代码大部分不安全，且不会主动提醒用户存在的问题。因此，程序员们不必过分担忧被ChatGPT取代，但同时也应警惕不要过分依赖这类工具生成的代码。在技术创新的过程中，我们应更加关注如何加强监管，确保人工智能技术的安全、可靠和负责任地应用于各个领域。

元宇宙最新

元宇宙热门

Copyright © 2021.Company 元宇宙YITB.COM All rights reserved.元宇宙YITB.COM