以下是Llama 4支持的特殊标记和标签的完整列表:
通用标记
<|begin_of_text|>:指定提示符的开始。
<|end_of_text|>:模型将停止生成更多标记。此标记仅由预训练的模型生成。
<|header_start|>…<|header_end|>:这些标记包含特定消息的角色。可能的角色是:[系统,用户,助手]。
<|eot|>:回合结束。表示模型确定已完成与启动其响应的用户消息的交互的时间。这在两种情况下使用:
在模型和用户之间的直接交互结束时。
在模型和任何可用工具之间的多次交互结束时。这个标记向执行器发出信号,表示模型已经完成了响应的生成。
图像标记
当运行图像推理时,这些标记会自动填充
采用了一种动态图像变换策略,将输入图像划分为336×336像素 .此外,全局图块(通过将整个输入图像缩放到336×336像素而创建)附加在局部图块之后,以提供输入图像的全局视图。
<|image_start|>…<|image_end|>:这些标记将图像数据包含在提示符中。
<|patch|>:这些标记表示输入图像的子集。较大的图像在提示符中有更多的补丁标记。
<|tile