本专栏面向科普工作者和社会公众常年征稿（点击“投稿说明”查看详情），征稿邮箱：zhaozheng@cstm.org.cn。
10月6日，一部以人工智能为主线的美国科幻剧《智能逆袭》登上荧屏，展现了人工智能发展出自我意识之后对世界造成的威胁，并发出灵魂拷问：人工智能成精了，人类该如何自处？”
该剧讲述了科技公司zava的前ceo勒布朗和美国联邦调查局探员萨拉查，携手对付进化了的人工智能next的故事。next本是zava公司的一个研发项目，但后来不断重写自身代码，迅速进化成不受控制的超级智能体。它的物理实体局限在一台冰箱大小的服务器机柜中，但通过接管各种联网设备（电视、电脑、汽车、智能音箱、各类监视器等），设法杀害一切阻止其行动的人，蛊惑人心、制造混乱，妄图达到控制世界的目的。
在这部剧中充斥着失控的人工智能所制造的阴谋：最先发现真相的科学家韦斯博士死于一场被next“设计”的车祸；女主角萨拉查的亲子关系每况愈下，原因竟是家中的智能音箱被next“动了手脚”；通过在互联网和电视台传播虚假新闻、暴露线人真实身份，next煽动公众围攻执法人员办公楼；通过制造虚假的“安珀警报”，发动市民拦截带着孩子逃亡的女主丈夫……重重危机一方面反映出人工智能的强大，另一方面也展现出“成精”的人工智能有多可怕。
人工智能（artificial intelligence，ai）一词，是1956年在美国达特茅斯会议上提出的。作为计算机科学的一个重要分支，其研究重心几经演变，从“感知与分析”到“理解与思考”，再到“决策与交互”。在数字化时代，人工智能作为新兴颠覆性技术取得了突破性进展，使得技术赋能科技和社会发展的能力与日俱增。
deepmind公司旗下的两款人工智能系统alphago在2016、2017年分别击败李世石和柯洁，震惊世界；alphafold在今年12月宣布成功破解蛋白质分子折叠的预测问题，《自然》杂志评价这一成果“将改变一切”。
剧中，next对各种联网设备的操纵，使用的虽是虚拟的网络，但造成的破坏却是真实的，其在法律、道德和伦理方面的风险昭然若揭。
该剧本身是科幻，但放眼我们身边的现实生活，自动驾驶、医疗人工智能、人工智能司法，以及电子商务平台和基于算法的精准营销与推广等，普遍存在着侵犯隐私的风险、个人敏感信息识别与保护的风险、算法安全和决策风险、伦理风险，进而对公共安全构成威胁。
在人工智能的伦理风险中，体现出的是“创造秩序危机”:人们担心的不是机器会做出某个不利于人的行动和决策，而是机器将取代人的行动和决策。
好在人类在对待人工智能风险这件事上是认真的。2017年1月，在美国加州阿西洛马市举行的会议上，近千名人工智能领域的科学家和企业家共同签署了《阿西洛马原则》，涵盖科研、伦理与价值和更长期问题等三个层面共23项条目，对问题的治理力量统筹、经济手段调节、处理好法律与道德的关系等做出思考和规范，尤其强调了对人类价值观和公共利益的保护。
《智能逆袭》这部剧仍在持续播出中，随着剧情的深入推进，带给我们的启示也越来越明确：以人工智能为代表的颠覆性技术的迅速崛起，所带来的究竟是科技赋能社会，还是ai取代人类，关键还在人类的选择。
（作者：马宇罡 中国科技馆科研管理部副主任）
（专栏编辑：赵铮 李竞萌）
（本文转载自：《科普时报》2020-12-18（第2版）“媒眼看世界”栏目）
