可控性

之前版本的ChatGPT，它回复的风格、语气是一致的。而GPT-4有一个叫System Message的功能，这个东西可以给模型设置某个角色、定义它的人格，让它以你想要的语气来回答你的问题。

这个功能有一定的风险，OpenAI给GPT加了很多安全机制来控制它有什么是不可以说的，而之前在社区中有用户通过System Message的功能，取“催眠”模型，让模型可以随心所欲想说什么就说什么，绕过了OpenAI的安全机制。当然这个bug目前已经被修复，所以大家也不用去尝试。