道高一尺，魔高一丈。研究人员发现，随着OpenAI的ChatGPT加入防止滥用的方法，攻击者也发展出能绕过这些限制的新方法及商业服务。
安全厂商陆续发现，OpenAI的服务不只造福程序代码工程师，也能帮助技术不佳的黑客。例如Check Point研究人员去年发现，ChatGPT可被攻击者用来撰写网络钓鱼电子邮件，并产生基本的恶意VBA程序代码，或是执行reverse shell，进而接受英文攻击指令。
为此，OpenAI为其服务添加限制防止滥用，像是如果攻击者通过ChatGPT的用户接口要求它撰写冒充银行的钓鱼信件，或撰写恶意程序，将遭到拒绝。
但CheckPoint研究人员近日发现黑客界又有新的应对方法。在黑客论坛上，有人兜售绕过OpenAI限制的服务。一个方法是创建Telegram机器人（下图），通过API集成并访问ChatGPT。某名黑客服务的商业模式是，他们可使用20次ChatGPT免费查询，而对客户提供每100次查询5.5美元的服务。
图片来源／CheckPoint
研究人员指出，目前OpenAI允许外部应用程序如Telegram频道以API访问GPT-3模型，几乎没有任何防止滥用的机制，因而可被用来生成钓鱼信件或恶意程序代码等内容，不受现有规则限制。
另一名黑客则是借由撰写基础的脚本程序直接查询OpenAI API，借此绕过反滥用机制，完成开发恶意程序的目的。
研究人员表示，这显示随着ChatGPT不断强化控制，黑客也会持续“精进”其滥用OpenAI模型的技俩。