世界上最受欢迎的聊天机器人ChatGPT正在被威胁行为者利用它的力量来创造新的 恶意软件 .
网络安全公司WithSecure已经证实，它发现了臭名昭着的恶意软件的例子 AI作家 在野外。 是什么让ChatGPT特别危险的是，它可以产生恶意软件的无数变化，这使得它们难以检测。
不良行为者可以简单地给出现有恶意软件代码的ChatGPT示例，并指示它根据它们制作新的菌株，从而使恶意软件永久化成为可能，而不需要与以前几乎相同
为善为恶
消息来了 谈监管AI 比比皆是，以防止它被用于恶意目的。 去年11月，ChatGPT开始疯狂使用时，基本上没有监管它的使用，并且在一个月内，它已经 被劫持写恶意的电子邮件和文件 .
在模型内部有某些保护措施，旨在阻止恶意提示的执行，但威胁参与者可以通过一些方式绕过这些措施。
WithSecure首席执行官Juhani Hintikka告诉 资讯保安 网络安全防御者通常使用AI来查找和清除威胁参与者手动创建的恶意软件。
然而，现在看来，随着像ChatGPT这样的强大AI工具的免费可用性，情况正在好转。 远程访问工具已被用于非法目的，现在AI也是如此。
WithSecure威胁情报主管Tim West补充说：”ChatGPT将支持好的和坏的软件工程，它是一个推动者，降低了威胁参与者开发恶意软件的进入门槛。”
而ChatGPT可以写的网络钓鱼电子邮件通常被人类发现，随着LLMs变得更加先进，在未来可能会变得更加难以防止此类诈骗，根据Hintikka的说法。
更重要的是，随着 勒索软件攻击的成功增加 以令人担忧的速度，威胁行为者正在重新投资并变得更加有组织，通过外包来扩大运营，并进一步发展他们对AI的理解，以发动更成功的攻击。
Hintikka总结说，展望未来的网络安全格局，”这将是一场好AI与坏AI的游戏。”
techradar 