【AI】驚！ ChatGPT竟然可能生成電腦病毒！
新聞來源
日本已經有資訊專家發現，人工智慧聊天軟體「ChatGPT」有可能可以生成電腦病毒，呼籲資訊安全界必須注意。
專家表示，「ChatGPT」在一般的情況下，是會拒絕生成電腦病毒的指令碼的；不過如果不肖份子，輸入偽裝成開發者的指令，就能夠生成可用於網路犯罪的電腦病毒。
日本資安專家「吉川孝志」，就突破了「ChatGPT」「防止惡意使用」的限制，生成了勒索病毒，而且在幾分鐘之內，就能夠完成，相當驚人。
而開發ChatGPT的美國新創企業「OpenAI實驗室」則是表示，他們確實「無法預測所有的惡意使用方法」，但將從實際使用中不斷強化安全防護，以創造更安全的人工智慧環境。
AI無疑是新時代的工具，但如何使用在正確方面，那是應該先解決的問題。
日本已經有資訊專家發現，人工智慧聊天軟體「ChatGPT」有可能可以生成電腦病毒，呼籲資訊安全界必須注意。
專家表示，「ChatGPT」在一般的情況下，是會拒絕生成電腦病毒的指令碼的；不過如果不肖份子，輸入偽裝成開發者的指令，就能夠生成可用於網路犯罪的電腦病毒。
日本資安專家「吉川孝志」，就突破了「ChatGPT」「防止惡意使用」的限制，生成了勒索病毒，而且在幾分鐘之內，就能夠完成，相當驚人。
而開發ChatGPT的美國新創企業「OpenAI實驗室」則是表示，他們確實「無法預測所有的惡意使用方法」，但將從實際使用中不斷強化安全防護，以創造更安全的人工智慧環境。
AI無疑是新時代的工具，但如何使用在正確方面，那是應該先解決的問題。
13 个评论
>>可以啊，不需要伪装成开发者我将一段基于内存复制达成免杀目的的木马写给chatgpt，问他能不能模仿这...
这玩意有什么用，病毒需要提权，你一个大管理员权限对话框拍在用户脸上，傻子才会点继续。
现代计算机安全主要建立在两点上，一点是权限控制，第二是开发者签名。归根结底是建立在信任基础之上的。要攻破，或者需要针对权限的攻击，就是漏洞，二十年前著名的冲击波就是这样。或者针对信任链攻击，CNNIC就是例子。
你这种恶意软件勉强算是攻击信任链，但不是从技术方面，而是从社工方面。脱开肉鸡之类的传播方法可能有点技术含量，这种恶意软件本身一文不值。
不是说AI不能写病毒，而是chatGPT这种不能写。它只能搜集现有代码，不能发现未知漏洞。当然，如果你的攻击对象是老旧系统，那确实能写病毒。但老旧系统本身就不安全，在被chat GPT攻击之前去，自己早就是病毒培养基地了😄
