OpenAI宣布 GPT-4 “比 GPT-3.5 更可靠、更有创意，并且能够处理更细微的指令。” GPT-4 的改进之一是能够处理更大的 8192 和 32768 个令牌的上下文窗口。这是对 GPT-3.5 和 GPT-3 的重大改进（它们分别限制为 4096 和 2049 个令牌。）

GPT-4 的另一个显着特征是它能够接受图像和文本作为输入。这一事实使它能够用不寻常的图像描述幽默、总结截屏文本以及回答包含图表的试题。

为了更好地控制 GPT-4 模型，OpenAI 引入了“系统消息”的概念。这种自然语言指令可以提供给 GPT-4 的聊天优化版本，以指示他们的语调和任务。

例如，系统指令可以指示模型“成为莎士比亚海盗”，从而产生押韵、莎士比亚散文的响应，或者要求它“始终将 [its] 响应的输出写入 JSON”，然后它将遵循通过添加键和值来匹配模型回复的结构。

在 OpenAI 的示例中，该模型始终遵守其系统指令，即使用户在对话期间另有要求也是如此。

OpenAI 选择不透露有关 GPT-4 的具体技术细节，例如模型大小或训练期间使用的硬件。虽然该报告提到该模型是结合对大型数据集的监督学习和强化学习以及人类和人工智能反馈进行训练的，但它没有提供有关训练过程的任何进一步细节。

这包括有关训练数据集构建、所需计算能力或超参数（如学习率、轮数或使用的优化器）的信息。该报告将“竞争格局和大型模型的安全影响”列为影响这一决定的因素。

GPT-5模型

基于其前身的进步，GPT-5有望展现出更令人印象深刻的能力。可能 GPT-5 将具有更大的上下文窗口并改进对复杂指令的理解。它将允许系统处理并生成更连贯、更深入的响应。

除了文本和图像，GPT-5 还可以结合其他形式的输入，例如音频和视频，进一步增强其通用性。该模型的整体架构可以进行改进，从而提高性能、能效和泛化能力。

OpenAI 还可能引入更复杂的安全措施和控制机制，以解决潜在的滥用和其他道德问题。

最终，GPT-5 可以在各个领域发挥重要作用，从 AI 辅助内容创建和自然语言理解到高级问题解决和跨广泛行业的人机协作。