换句话说，ChatGPT在涌现出难以理论化推导的智能性能后，也开始涌现出难以预测的不可确定性 。
对于“涌现”的黑盒性，9月6日在百川智能Baichuan2开源大模型发布会上，中国科学院院士、清华大学人工智能研究院名誉院长张钹表示：“到现在为止，全世界对大模型的理论工作原理、所产生的现象都是一头雾水，所有的结论都推导产生了涌现现象 。所谓涌现就是给自己一个退路，解释不清楚的情况下就说它是涌现 。实际上反映了我们对它一点不清楚 。”
在其看来，大模型为什么会产生幻觉这个问题，涉及到ChatGPT跟人类自然语言生成原理的不一样 。最根本的区别在于 ， ChatGPT生成的语言是外部驱动的，而人类的语言是在自己意图的情况下驱动的，所以ChatGPT内容的正确性和合理性不能保证 。在经历过一系列概念炒作跟风上车之后 ， 对于致力于开发生产力基础模型的人来说，面临的挑战将是如何确保其产品持续输出结果的可靠性和准确性 。
不过对于大模型相关的娱乐产品而言，正如Character.AI 联合创始人Noam Shazeer在《纽约时报》上所说：“这些系统并不是为真相而设计的 。它们是为合理的对话而设计的 。”换句话说，它们是自信的废话艺术家 。大模型的巨浪已然开始分流 。
参考资料
- Gizmodo-Is ChatGPT Getting Worse?
- TechCrunch-AlAppCharacter.aiiscatchinguptoChatGPTintheUS
- machine Learning Monitoring- Why You Should Care About Data and Concept Drift
- M小姐沿习录-关于ChatGPT的五个最重要问题
- 清华大学人工智能国际治理研究院-对大模型的研究很迫切，不能解释不清楚就说“涌现”
推荐阅读
- 买红薯时，挑“细长”还是“粗圆”？
- 看你吃的是宝贝还是垃圾
- 买Mate60Pro还是iPhone15Pro？店老板的建议很实在，说到心坎里了
- 苹果换充电接口了，但你的Type-C线还是用不上
- 蚊香液是插一夜还是一会儿 蚊香液插了一天
- 上联贴左边还是右边 对联上联贴左边还是右边
- 圈地自萌是褒义词还是贬义词 圈地自萌是什么意思
- 宋喆出狱，马蓉却有了新欢？果然还是错付了
- 李健跌落神坛了？结婚21年不买房、坚持做丁克：不负责还是拎得清
- 张柏芝起诉孙东海，为何做此决定？自我保护还是要给孩子公道？