江苏龙网

  1. 主页 > 生活百科 > >

AI表现出“意识”，人类该慌吗？( 三 )

AI


4月11日 ， 中国国家网信办起草的《生成式人工智能服务管理办法（征求意见稿）》 ， 开始向社会公开征求意见 。围绕近期生成式AI最受质疑的内容不准确、侵犯个人隐私等问题 ， 《办法》要求开发者采取措施 ， 对训练数据来源的合法性负责 ， 不得非法留存能够推断出用户身份的输入信息等 。
曾毅向《中国新闻周刊》介绍 ， 目前 ， 国内在人工智能领域顶层设计上有治理原则 ， 但没有相关法律 ， 对于AI的伦理安全只是非强制性约束 。此外 ， 他参与国内一些人工智能相关管理文件制定时注意到 ， 一些管理办法只是限制研究行为 ， 在应用层面的治理却是空白 。因此 ， 国内对人工智能的监管在法规和实施管理上仍需要加强 。 
一直在AI立法方面走在前列的欧盟正在制定一项《人工智能法案》 ， 该法案正在欧洲议会讨论 ， 预计将于4月26日投票 ， 其核心是基于人工智能的风险等级进行分类监管 。但有分析指出 ， 如何定义“高风险AI系统”是一个复杂而困难的决策过程 。
AI的“iphone时刻”？
2018年起 ， 清华大学人工智能研究院常务副院长、清华大学计算机系自然语言处理与社会人文计算实验室（THUNLP）负责人孙茂松带领团队开始研究大规模语言模型 。THUNLP是国内最早开展自然语言处理研究且极具影响力的科研机构 。
这一年 ， 谷歌推出预训练模型BERT ， OpenAI推出GPT-1 ， 预训练语言模型成为自然语言处理任务的主流范式 。开发者靠不断扩大参数规模 ， 提升AI的能力 ， 比如2019年OpenAI推出参数为15亿的GPT-2 ， 2020年推出GPT-3 ， 将参数提升到了1750亿 。
“当时我们在讨论这条路能走多远 ， 即数据和模型规模的增大 ， 会不会达到一个饱和点 ， 能力趋于极限 。结果不但没有饱和 ， 反而出现了质的提升 。”孙茂松告诉《中国新闻周刊》 。大模型的能力在2020年GPT-3推出时已经显现 ， 但仍主要是完成特定任务 ， 缺乏随机应变的能力 。直到ChatGPT出现 ， 在性能上有了一个质的飞跃 ， 显示出了某些通用人工智能的特质 。

AI表现出“意识”，人类该慌吗？

文章插图
2月1日 ， 瑞士日内瓦 ， 一些高中教师们参加一场由公共教育部门组织的ChatGpt研讨会 。图/视觉中国
ChatGPT发布后 ， 孙茂松在一次测试中让ChatGPT写一首五言绝句 ， ChatGPT写得并不完全合乎对仗、押韵的要求 。但是让孙茂松惊喜的是 ， 当他问道 ， “你觉得哪一句写得好？”机器回复 ， 第二句 ， 并分析因为其中两个词表达了什么情感 ， 两者之间的关联 。孙茂松进一步表示 ， “我认为第四句更好” ， ChatGPT随后对第四句进行了赏析 。2015年起 ， 他曾研发过一个人工智能诗歌写作系统“九歌” ， 2017年面世 。想要让AI写诗 ， 他先要设计好一个小模型 ， 输入诗歌类数据时 ， 需要详细标注出一首诗每句的顺序 ， 之后在向AI提问时 ， 它才会挑出某一句来分析 。
“现在不用教它 ， 它能回答出来 。我们测试ChatGPT的能力 ， 不用多 ， 只要两三个例子就知道 ， 国内现在AI大模型做不出这一效果 。”在孙茂松看来 ， ChatGPT的诞生 ， 意味着人工智能迎来拐点 ， 也将是未来5~10年人工智能发展的必然趋势 。
2016年 ， AlphaGo打败围棋世界冠军李世石 ， 让公众为人工智能深度学习的能力感到振奋 ， 但之后 ， AI的发展陷入寒冬 。多位受访者表示 ， ChatGPT展现的能力与AlphaGo有本质差别 。国内人工智能公司出门问问CEO李志飞告诉《中国新闻周刊》 ， AlphaGo的表现 ， 是在有清晰的规则、不涉及与复杂世界交互、相对简单的环境下发生的 。但ChatGPT背后的大模型 ， 展现了语言、知识、逻辑推理等人类通用的技能 ， 并让人们亲身感受到 。
“ChatGPT展现的能力非常实用 ， 与每个人的生活与工作密切相关 ， 这是人工智能发展70多年来从未达到过的时刻 。”THUNLP副教授刘知远告诉《中国新闻周刊》 ， 但最终ChatGPT是人们生活中必不可少的工具 ， 还是会诞生另一种形态的产品 ， 有待商榷 。


推荐阅读


上一篇：AI焦虑潮下，打工人的抵抗、转向、破局

下一篇：从ChatGPT看人工智能军事应用：会取代人类主宰战场吗