全球首位“半机械人”去世,并非结束

全球首位“半机械人”去世,并非结束

本文来自微信公众号:瞭望(ID:LiaoWang1981),作者:于雪、贾雯静,原文首刊于《瞭望》2022年第31期,原标题为《首位“赛博格”去世引人机融合之思》,头图来自:纪录片《彼得:人类赛博格的诞生》

与渐冻症抗争近5年后,6月15日,全球首位真正意义上的“半机械人”(又称赛博格,是人类与电子机械的融合体)——彼得·斯科特·摩根的生命定格在64岁。

2017年11月,彼得被确诊为肌萎缩侧索硬化症(ALS),俗称渐冻症。渐冻症被世卫组织列为五大绝症之一,发病率不高,但尚无法治愈。随着运动神经退化,患者行走、说话、吞咽、呼吸等功能会慢慢丧失,多数患者在症状首次出现后的三到五年内死于呼吸衰竭。

作为全球机器人研究领域小有名气的科学家,彼得决定用现有科技改造自己——把自身器官部分替换为机械。在他看来,只要还能活着,还有自由思考的能力,生命就有存在的意义。

彼得的离去并非结束,不少人相信他为人类开启了一段全新旅程。多位受访专家认为,这是一场围绕人类生存质量展开的科技探索,是技术为人服务的前沿试验。

而当人机融合的触角深入生命本身,人们想要知道:未来该如何定义人类被“困”在身体里的意义?人类的进化发展是否还有新的可能?如何理性认识生命的复杂性?

2021世界机器人大会上展示的脑机接口技术(2021年9月12日摄) 李欣摄 / 本刊

一、“史无前例”的医学尝试

据了解,为维持生命正常运转,用现有科技改造彼得的第一步,是在各类并发症出现前进行“三重造口术”,即胃造口术、膀胱造口术、结肠造口术,以满足可能渐渐丧失的进食、排泄需求。

四川省脑科学与类脑智能研究院院长、电子科技大学信息医学研究中心主任尧德中告诉《瞭望》新闻周刊记者,医学上,造口技术发展相对较为成熟,三项手术本身难度并不大。挑战在于把以往单独进行的手术结合,目前世界范围尚没有患者同时进行过这三项手术。

彼得“史无前例”的手术面临众多争议,最核心的问题是能否对未受伤的器官进行破坏性手术

北京大学医学部医学伦理与法律学系副主任刘瑞爽表示,身体各部分器官是为人的整体健康服务的,手术只是一种手段。通常情况下,对患者实施手术需遵循不伤害、有利、公正、尊重等基本医学伦理原则。

受访专家提醒,不伤害原则需要明确损伤和伤害的关系。在医学实践中,损伤客观存在,比如大多数手术都会对皮肤造成损伤。不伤害,主要指在医学服务中不使患者受到不应有的伤害。

有利原则的核心是权衡手术的风险收益比。如果手术收益大于风险,医生即有义务帮助患者。

公正原则是指医生要公平对待每一位患者。在稀缺医疗资源的分配上,需要以每个人的实际需要等为依据,合理分配医疗资源。

尊重原则则要充分尊重患者和试验对象的自主权。这意味着,是否接受某个治疗方案,是否参与某个医学试验,应该完全由患者或试验对象自己决定,医生不能代替做出任何判断

刘瑞爽说:“医学实践需要根据临床情况具体分析,满足四条原则即可进行相关手术治疗。即便不能同时满足,哪怕其中一项能够得到充分伦理辩护,也是可行的。”

公开资料显示,多位医生起初均未同意对彼得实施手术。受访专家推测,医生们的出发点可能主要基于不伤害原则——他们一方面担心全身麻醉会阻碍呼吸,另一方面担心手术可能导致疾病发展更快。而最终为彼得实施手术的医生主要遵循的是有利原则、尊重原则。

在刘瑞爽看来,如果不进行手术,彼得只能慢慢“等死”,生活质量也会严重下降,对他来说可能更加痛苦。更重要的是,作为科学家的彼得,思想观念较为超前、开放,对于器官改造后的利弊较为清楚,医生这样做既尊重了彼得的意愿,也维护了患者的生命尊严。

彼得的“三重造口术”历经3小时40分钟。关于该手术的医学论文,被选为2019年牛津年度医学病例报告,其前瞻性和重要性可见一斑。

多位受访专家表示,彼得的手术是一个很好的尝试。未来在没有其他方法可选的情况下,针对渐冻症患者的“三重造口术”可能走向规范。

二、人体数字化改造技术任重道远

完成身体基础性改造后,彼得决定用智能机器解决行动、沟通等问题。

为保持活动能力,科学家团队为他定制了一个高端轮椅,配备电脑显示屏,能够通过眼球追踪技术控制电脑,进而控制轮椅,帮助他站立、平躺、走动。

为能够与外界沟通,彼得在尚能说话时,依靠技术团队,留下了大量语言、形象素材,并创建了自己的3D形象,可通过眼球控制电脑,以3D头像与外界互动。

2019年10月,彼得进行了最后一项手术——全喉切除,以避免因无法自主控制喉咙的运动,导致唾液进入肺部威胁生命。而这个月,原本是医生估计的彼得死亡时间。

术后,彼得彻底失去了声音,但可以通过存储在电脑中的合成声音表达思想。于是,一个依靠大脑、眼睛、人工智能和各种电子设备与命运抗争的“彼得2.0”诞生。依靠科技加持,彼得成为人类历史上第一个“半机械人”。

不过,现实版的“半机械人”与影视作品中科幻人物的无所不能存在较大差别。据媒体报道,彼得在改造后经历了常人难以想象的痛苦。比如,智能装备并不能完全领会他的意图,说一句话都要花费很长时间等。

清华大学人工智能国际治理研究院副院长梁正称,这些细节表明,相关智能技术在应用层面仍存在瓶颈

尧德中说,彼得的身体机能是不断退化的,而技术学习和更新的速度远远跟不上身体的变化。对渐冻症患者而言,如何利用仅存的身体机能向机器传达正确信号,是决定技术能否很好为其服务的关键。而对技术本身的发展来说,能否持续跟踪身体退化的进程并同步做出相应的调整和改变、能否找到技术适应变化的规律等,仍需摸索。

梁正介绍,当下语音合成、虚拟化身等技术在娱乐和生活服务方面应用场景较多,比如智能客服、虚拟偶像等,相关技术已逐渐成熟,但人体的数字化改造是相对特殊的场景,尚处于探索阶段。特别是在思维表达、情感输出等方面,技术难度远比我们想象的更大。

以脑机接口为例,尧德中表示,未来该技术或将在治疗脑损伤领域发挥重要作用,包括严重的抑郁症、病态的肥胖、睡眠质量低等问题,但这一技术预想很好,实践难度较大。因为大脑信号不断变化,采集信号存在难度。即便能准确提取信号,由于目前掌握的数据太少,想要准确理解信号的含义也很困难,国际上的成功案例并不多。

受访专家建议,人工智能技术的发展主要依靠学习。未来可考虑增加样本量,鼓励更多专家、患者甚至健全人参与进来,跟踪、学习人类身体运动与生理的变化规律。当学习样本足够充足、技术性能较为稳定时,技术就可能为改善患者生存状态等提供更多机会。

三、人机如何深度融合

作为“机器化人”的现实例证,彼得的自我改造为人机深度融合提供了更多想象空间。

浙江大学马克思主义学院教授潘恩荣说,18世纪60年代以来,现代机器的发明和使用开启了多次“机器换人”的高潮。

据了解,在“机器换人”时代,随着自动化、信息化、数字化技术的发展,部分人力被替代,在一定程度上造成人机关系的对立。但机器在替代部分传统岗位的同时也催生出很多新职业,如自动化培训师、数字化管理师、互联网营销师等。“人机是互补关系而非替代关系,并将逐步走向深度合作。”梁正说。

特别是随着深度学习技术推动人工智能进入新阶段,其再次深度改造人机关系,让“机器化人”逐渐成为可能。

潘恩荣表示,如果说传统的“机器换人”是机器介入人与人之间,那么“机器化人”则是机器介入人类生命本身,构成的“后人类”——赛博格

在刘瑞爽看来,“机器化人”时代,人类的思维或许可以永远延续,在云端实现永生。

美国特斯拉公司首席执行官埃隆·马斯克日前表示,他已将“大脑”上传至云端,并与其展开对话。对此,受访专家提出,所谓的“意识上传”只是噱头,技术上仍存在诸多局限。

与云端的“大脑”对话需依赖众多技术,机器学习是其中的关键。梁正介绍,与目前主要基于深度神经网络和大规模数据训练的机器学习不同,下一步面向人机互动乃至“融合”的技术路线主要有两种:一种是模拟人类的学习方式学习,但因为目前尚不能准确还原人类的学习过程,对其中的因果关系尚不清楚,所以机器学习的深度和精度都有局限;另一种则试图建立一个穷尽人类所有知识的知识库,并将该知识库注入机器,但由于数据量过于巨大,如何顺畅调用各类数据也存在难度。

显然,相较于一些人的美好愿景,以机器学习为代表的人工智能技术的成熟度还远远不够。“打个比方,现在还处于细胞阶段,距离复杂的生命还很遥远。不是说完全没有可能性,只是路还很长。”梁正说。

总体来说,人机融合尚处于外围领域,比如为运动功能丧失的患者换上假肢等。对于更深层次的人机融合,全球鲜有成功案例。

在尧德中看来:“除技术成熟度不够外,更关键的是,人机融合尚未形成共识。例如机器会否取代人类、可以在哪些方面取代人类,机器会否拥有自己的意识、是否允许它拥有意识等。”

“和谐的人机关系始终不能脱离人的尊严,要以人的自由意志为核心。如果脱离了服务于人的根本准则,技术将很危险。”刘瑞爽说。

四、怎样划定人机融合的边界

彼得的生命已经终止,但其留下的关于人机融合的边界等讨论仍在继续。

科技是一把双刃剑。在新一轮科技革命助力传统产业转型升级、驱动智能经济快速发展等的同时,当人机融合的触角深入人类生命,也可能引发一些社会风险。

受访专家谈到,相关技术一旦落地,在使用中可能伴随不公平现象,比如是否所有人都有机会平等享受数字化改造的资源,以及改造后的人类在某些领域可能具有天然优势,更易造成两极分化等。因此,人机融合的相关制度规范必须走在技术发展的前面,为社会治理保驾护航。

梁正建议,明确人机融合边界首先需要明确使用目的。当人机融合用于疾病治疗、提高个体生活质量时,通常满足四项基本医学伦理原则即可。

尧德中表示认同:“对一些罕见病群体,技术可能是他们获得新生的唯一渠道,要为他们敞开这扇大门。”

而当人机融合用于增强身体功能时,专家提出设置更多红线,根据使用场景具体分析,并遵循风险可知可控的原则,即对风险可控的增强技术可以适当放开,对风险不可预估或难以控制的则要严格限制。

梁正举例说,体育竞赛领域显然不能对人体进行增强改造,否则将与体育的公平宗旨背道而驰。在教育领域,提高智力的增强技术可能造成不公,未来风险也难以估计,因此需要对类似场景的使用加以限制。如果技术可以帮助人类摆脱学习中的重复性操作,这一类型的人机融合应用或许可行,但如何准确、科学地划定边界,必须严格论证。

刘瑞爽、梁正等表示,评估风险需要在人机融合的全过程引入伦理委员会审查机制,伦理委员会一般组成人员包括医学家、伦理学家、社会学家、法律专家及社区人员和普通百姓等。对于涉及重大社会利益的典型案例,甚至需要法庭介入并通过相关行政机关审批。

不可否认,机器相较于人更加理性、效率更高、工作时间更长、应用场景更广,但也正是人类的不完美带给生命更丰富的体验,也给文明的进步带来更多可能。很多时候,正是因为人类不能决定生命的长度,才得以努力提升生命的广度、深度和高度。

从这个意义上说,我们需要的或许不是一个理想的“超人”,而是一个独特自由的自己。

本文来自微信公众号:瞭望(ID:LiaoWang1981),作者:于雪、贾雯静

-

本文作者:-

英雄所见略同

发表回复

您的电子邮箱地址不会被公开。

深色 浅色