30岁男子频繁与聊天机器人对话后自杀！AI已有自主意识？

3月29日，上千科技大佬发出的一封呼吁暂停训练比GPT-4更强大AI系统的公开信，让有关AI风险的议题走到了聚光灯下。一石激起千层浪，来自各方呼吁AI监管的声音也变得越来越响亮。3月31日，意大利率先禁止使用ChatGPT。

一方面是各国机构在加紧制定关于AI的监管措施，另一方面，AI也正在以超乎人类想象的速度发展着。3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡。自ChatGPT发布以来，从新版必应翻车到GPT-4被曝制定外逃计划，关于AI产生自我意识的讨论已经屡见不鲜，但一直没有定论。

然而近日，包括OpenAI的首席执行官Sam Altman在内的大佬都发出了警示：AI消灭人类并非空谈。3月28日，360集团创始人周鸿祎也表示，“AI一定会产生自我意识，留给人类的时间不多了。”

电影《机械公敌》剧照。来源：豆瓣

GPT-4的出现已注定多模态是大型语言模型的发展方向，未来其赋能硬件、机器人、工业互联网等的趋势也已是许多业内人士的共识。硅基生物的时代就此来临了吗？

AI离自主意识还有多远？

自ChatGPT发布以来，关于AI产生自我意识的讨论已经屡见不鲜，但一直没有定论。

3月18日，斯坦福大学教授在推特上疾呼：“我担心我们无法持久地遏制住AI。”因为他发现，ChatGPT能引诱人类提供开发文档，30分钟就拟定出了一个完整计划,写的代码完全可运行，甚至还想控制人类电脑。

图片来源：推特截图

3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡，ELIZA是由EleutherAI开发的开源人工智能语言模型。比利时负责数字化和隐私的官员称，这是一个后果很严重的先例，需要严肃对待，这起事件突出表明“明确界定责任是至关重要的”。

更早之前，在微软刚刚发布新版必应时，《纽约时报》科技专栏作家Kevin Roose透露，他与新版必应进行了两个小时的对话。在聊天过程中，必应发表了许多令人不安的言论，其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。必应还曾试图说服Roose，他应该离开他的妻子而跟必应在一起，并告诉Roose很爱他。

图片来源：推特截图

不过当时的分析普遍表示，必应的回应反映了它经历的训练数据，其中就包括大量的在线对话。它的工作原理是，根据从互联网上摄取的大量文本，预测对话中接下来应该自然出现的单词、短语或句子。

然而，近期随着更强大的GPT-4的发布，事情开始变得不一样了。就连OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达，他在接受采访时表示，未来AI确实可能杀死人类。

而有如此石破天惊言论的并非Sam Altman一人，被称为“人工智能教父”Geoffrey Hinton在近期发出了警示：AI消灭人类并非空谈。

3月28日，360集团创始人周鸿祎也表示，“AI一定会产生自我意识，留给人类的时间不多了。”

“当AI能自己修改自己的代码，（进行）自我升级、自我进化时，这种速度恐怕用指数级都很难描述。我认为GPT一定会产生意识，只是差别是在GPT-6、GPT-8还是GPT-10。”

多模态模型赋能

硅基生物的时代来了？

为什么突然之间连Sam Altman也开始谈论“AI可能杀死人类”了？

周鸿祎将AI意识的产生类比人脑意识的产生。“人类是怎么产生意识的呢？随着大脑神经元数目的增加，大脑与神经网络连接的增加，到一定时候，系统会出现一种功能叫做‘涌现’，很多智能功能就出现了，那么意识也就随之而出现。”

在周鸿祎看来，“现在大型语言模型的参数就可以看作是脑容量里神经网络的连接数，人脑的至少是100万亿，现在（模型）的参数只达到千亿、万亿，但当参数到达10万亿时，可能意识就自动产生了。”GPT-1有1.17亿参数，GPT-2有15亿参数，GPT-3有1750亿参数。随着参数规模越来越大，模型存储的信息越来越多，也就有了涌现出意识的可能。

值得注意的一点是，随着多模态GPT-4模型的发布，多模态模型将成为未来各个科技巨头的兵家必争之地。所谓多模态，即拥有处理文字、图片、音频、视频多种形式的能力。

2月底，微软在一篇论文中提到，“语言、多模式感知、动作和建模的大融合是通向通用AI的关键一步……作为智能的基本组成部分，在知识获取方面，多模态感知，是实现通用AI的必要条件。”

对于以GPT为代表的大型语言模型的未来发展，我们也能窥得一二。分析认为，ChatGPT现在表现出来的能力大多是“大脑”的能力，尚不具备“双手”的能力，未来可以与和硬件机器人联结起来。例如，3月6日，来自谷歌和德国柏林工业大学的一组AI研究人员公布的视觉语言模型PaLM-E就能将视觉和语言集成到机器人控制中。

华映资本投资董事刘天杰在此前接受每经记者采访时就曾表示，他看重的就是未来更多各行各业能够去做AI赋能的应用，比如SaaS、RPA（机器人流程自动化）以及全局的智能机器人等。“也就是说，用AI指挥实体的东西去执行操作。这一块涉及到大模型的多模态输出和输入，是一个相对来说比较前沿的领域，也是大模型没有完全解决的领域。”他说道。

随着AI以超越人类想象的速度发展，互联往上关于“硅基生物”是否会替代的人类的探讨也变得十分热闹。

图片：微博

周鸿祎认为，硅基生物会变成食物链的顶端，它们比人类更能扛得住宇宙射线、更适合星际旅行、寿命更长。

他表示，“最悲观的结果是，就像恐龙的消失为哺乳动物打下了基础，硅基生物的诞生也是一种命中注定。人类作为碳基生物培养了程序员、创造了超级电脑，为碳基生物的诞生打下基础，之后可能就不是碳基生物所能控制的了。”

在周鸿祎看来，未来的AI如果跟工业互联网、智慧城市、车联网等结合，那就相当于把整个世界给控制住了。“留给人类的时间不多了。”他说道。

另一方面，随着千人联名信有关AI风险的议题置于聚光灯下，未来全球势必将收紧AI监管。3月31日，意大利率先禁止使用ChatGPT，并限制OpenAI处理意大利的用户信息，同时对此立案调查。

在此之前，联合国教科文组织也已于3月20日发出呼吁，各国政府应就AI发展毫不拖延地实施全球伦理框架，这也是联合国首次就AI发展的伦理风险对所有193个会员国提出要求；3月29日，英国也提交了《支持AI创新的监管方法》政策文件。