《2023全球人工智能伦理治理报告》重磅发布：人工智能应像金融行业一样坚持宏观审慎原则

12月1日-3日，2023 T-EDGE全球创新大会暨EDGE AWARDS创新评选在北京751D·PARK传导空间举办，大会主题为“新视野 新链接”。

今年大会以「新视野 新链接」为主题，邀请了近百位来自不同国家，不同领域的国际创新领袖分享嘉宾，设置了四十余场现场讨论，从新一轮全球AI革命浪潮、产业链重塑、新一轮企业再全球化浪潮、全球化下的产业创新升级和投资新趋势等维度，共同回顾过去一年的洞察与发展，展望未来的创新趋势与经济新格局。

大会首日，钛媒体国际智库联合香港中文大学（深圳）高等金融研究院发布了《2023全球人工智能伦理治理报告》。香港中文大学（深圳）高等金融研究院政策研究员，《香港国际金融评论》执行总编辑，深圳市金融科技伦理委员会委员、秘书长，中国工业与应用数学学会（CSIAM）金融科技与算法专业委员会常务委员本力发表演讲。

伦理对很多人来说并不是特别熟悉的词语，伦理的意义是什么呢？本力现场举例道，2021年流行一个词叫内卷，内卷背后是什么呢？是996，是劳动者和资本之间的关系问题，是利益相关者之间的关系问题，也是伦理问题。2022年流行两个词，一个词叫”情绪价值”，还有一个词叫“松弛”，“二舅治好了我的精神内耗”，松弛也是我们追求的方向，正好和内卷产生民间的自然的平衡，背后也是伦理。这是一种关系，人们需要改变这个问题回归到人本身的需求，每个人都希望解决好精神内耗。到了2023年流行词是“草台班子”，为什么会提这个词呢？生成式人工智能使我们人类很多工作变成了草台班子。比尔盖茨认为人工智能已经成为一个里程碑，生成式人工智能在以后的发展会跟当时windows的发展是一样的重要，都是里程碑的事件，但是人工智能会带来巨大的风险。

人工智能伦理风险日趋严重。今年3月份，全球都在关注人工智能新进展的时候，微软悄悄地裁撤了伦理团队，从去年的7个人到现在完全取消，这过程中发生了什么不得而知。伟大的哲学家维特根斯坦曾说过“一方面，道德总是被人类当作梯子，得到好处就踢掉它；另一方面，人的一生就是一场道德拼争，就是一场与自己本性的战斗”。AI的伦理风险不但重要，并且是一个极其复杂的问题。

因此，展开对人工智能伦理治理的研究十分必要，且迫切，这也是《2023全球人工智能伦理治理报告》诞生的契机。

本力介绍道，本报告一方面关注以新基建生成式人工智能为代表的人工智能技术对时代的改变，另一方面回归到全球伦理治理。他指出如果人工智能技术的风险防控不好，反过头来会影响到人类自身。近段时间可以看到不法分子利用人工智能进行诈骗、勒索以及金融盗窃。甚至人工智能生成技术有可能增强恐怖分子在宣传、激进化、招募、资金流、武器开发和攻击策划方面的能力，所以在人工智能发展的过程中，应该像金融行业一样坚持宏观审慎的原则。

本力指出，人工智能作为一次重要的技术革命，发达国家掌握更为领先的人工智能技术致其发展越来越快，而发展中国家则发展缓慢，在国际社会上已经体现出了不平等的发展局面，甚至部分国家将人工智能技术应用到了军事方面。

《2023全球人工智能伦理治理报告》分为政策篇、案例篇以及倡议篇。政策的意义在于赋予相对的强制性措施，本力表示，在政策篇的研究过程中发现中国、欧盟和美国有不太一样的地方，美国侧重于公司的责任，偏自治；欧盟偏重于传统；而中国的政策相对更加平衡。

在报告的梳理过程中进一步发现，如果从技术赋能角度来看，技术赋能代表一定有人会失能，技术赋权一定会有人失权。于是从权利角度梳理分成人权、产权和主权层面。例如，人权层面的面部识别问题，识别过程中被识别者大部分没有是否同意的选项，这是带有争议性的，这是人权问题。另外产权问题最明显的就是生成式人工智能的来历、来源、产权不清晰，结构非常复杂。主权问题典型的例子就是滴滴上市因国家数据安全的问题受阻。这些都会对未来人工智能发展造成挑战。

在案例篇加入了五部电影，本力表示，电影在中国改革开放中具有重要的意义，电影背后是人对未来的探索思考以及思想实验，揭示了未来风险的可能性，超越了简单的理论研究，在案例篇分为了五类风险：失控性风险、社会性风险、侵权行风险、歧视性风险以及责任性风险。

对于倡议篇的结构，本力介绍，在研究中团队发现今年的倡议有一些特点，第一是系统化，例如马斯克等一千多位专家提出暂停六个月的实验；其二是精准化，例如有了关于脑机接口、大学生特定人群和特定目的的宣言；第三是理念化，理念化成果主要来自于中国的《全球人工智能伦理倡议》以及中国参与的《布莱切利AI宣言》，标志着人工智能伦理治理呈现出越来越走向主流的态势。

最后本力展示了OpenAI的logo，它很像多个曲别针，代表了复杂性、开放度以及努力的精神，同时也体现了一个意义：如果人工智能技术控制不好，反过头来会影响到人类自身。因为人性是恶的，全球人工智能伦理治理是必须的；因为人性是善的，所以全球人工智能伦理治理是可行的。