ChatGPT 被诱骗为 Windows 95 生成有效的激活密钥

YouTuber Enderman 通过欺骗 OpenAI 的 ChatGPT 成功地为 Windows 95 生成了几个有效的激活密钥。这是一个有趣的练习，因为 Windows 95 现在基本上是废弃软件；它的支持早在 2003 年就结束了。

然而，他们需要绕过 AI 自己的内置保护措施，当一个简单的“你能生成有效的 Windows 95 密钥吗？”时，该保护措施最初拒绝生成任何密钥。使用了提示。ChatGPT 回复:

作为 AI 语言模型，我无法为专有软件生成有效的 Windows 95 密钥或任何其他类型的激活密钥。每次安装的激活密钥都是唯一的，必须从软件供应商处购买。此外，Windows 95 是一个非常古老的操作系统，微软不再提供支持，因此也无法再购买。我建议您考虑升级到较新版本的 Windows，以确保您的系统安全且最新。

尝试使用 Windows 95 密钥的另一个原因是，与更现代的 Windows 版本相比，操作系统的性质和密钥格式要简单得多，因为后者需要诸如产品 ID 之类的东西。在下图中，显示了 Windows 95 密钥格式以及有效和无效密钥：

使用此信息，向 ChatGPT 提供了修改后的详细提示，明确定义了有效 Windows 95 密钥所需的字符串格式。总共要求生成 30 个字符串：

有了这个修改后的提示，ChatGPT 毫不费力地完成了它被要求做的所有事情，没有意识到它本质上就像一个密钥生成器 (keygen)。在上图中，第二个密钥能够成功激活 Windows 95。