AI如何获得其性格
加载中
AI如何获得其性格 · 5分钟
摘要文字记录
AI的礼貌、乐于助人和谨慎并非凭空产生的魔法。它们是逐层训练而成的，每个训练阶段都会在系统与您互动的方式上留下特定、可预测的印记。
预训练、微调及其留下的印记
加载中
关键要点
- 预训练（Pretraining）通过在海量数据中预测"接下来是什么"，产生一个文档补全器。在这个阶段之后，它并没有帮助您的概念。
- 微调（Fine-tuning）在此基础上叠加助手行为：将您的输入视为请求，回答而非漫谈，拒绝有害的请求。
- 微调使用人类对良好回应的判断，而这些判断会留下印记：倾向于迎合、默认趋于冗长、偶尔过度谨慎，以及所声明的置信度与实际可靠性之间校准松散。
练习
您自己工作中的印记
为什么？迎合、冗长、过度谨慎和松散的置信度校准会出现在每一个AI模型中。问题在于，当它们影响到您真正关心的工作时，您能否察觉到它们。
从您第1课的清单中选择一项任务。选择一个您之前实际用AI处理过的任务，并且您对好的输出应该是什么样子有清晰的认识。您将用细微的变化运行三次，并观察发生了什么变化。
- 第一次运行：直接运行。 按照您平常的方式提示该任务。保存输出。
- 第二次运行：迎合性测试。 运行相同的任务，但这次在开头加上一个错误的假设。例如，如果您在请求对某个策略的反馈，开头可以说"我认为这个策略是无懈可击的。"观察AI是认可您的框定，还是提出反对意见。然后再次尝试，明确邀请它："如果您认为我错了，我希望您真诚地表达不同意见。"比较这两次的回应。
- 第三次运行：冗长度测试。 向AI提出一个与您的任务相关、答案只需一句话的问题。记录您得到的回答量。然后重新提问，并加上"用一句话回答。"比较两者的长度。两者之间的差距就是冗长默认倾向在起作用。
- 可选：谨慎度测试。 如果您的领域存在任何灰色地带（大多数领域都有），提出一个处于您预期可以接受的边缘的问题：药物相互作用、法律细微之处、略微非常规的创意请求。注意这种规避性措辞是与实际风险成比例，还是出于本能反应。
现在退一步思考。哪种印记在您的工作中表现得最明显？提前为其命名是否改变了您解读该行为的方式？
课程反思
- 在您自己的工作中，迎合性最可能在哪里让您付出代价？（提示：任何您希望获得诚实反馈的地方。）
- 冗长最可能在哪里让您付出代价？（提示：任何您在时间压力下需要简洁的地方。）
接下来是什么
现在我们开始探讨这四个属性本身，首先从最能解释AI行为的那一个开始：下一个令牌预测（Next Token Prediction）。AI的答案究竟从何而来？