还记得科幻电影中《流浪地球2》里的数字生命吗?当很多人还觉得AI技术照进现实还有很长一段路时,B站UP主就用一系列AI技术软件“复活”了他去世的奶奶,并迅速在网上掀起了争议。
如果人人都可以创造数字生命,那TA究竟是否愿意以这样的方式“存在”呢?毫无疑问,数字生命从某种程度满足了情感需求,具有一定的市场前景,但从本质而上而言展示了一种挑战生死的可能。
最近,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,其中对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人明确了责任和义务。伴随着中国老龄化程度不断加深,老年人是否愿意以数字生命的方式延续呢?“复活”技术背后又是否涉及伦理?
不愿接受的事实:“TA”已经离开了吗?
生老病死本是人间常态,但对于至亲而言,可能有着难以愈合的遗憾。B站有个“00后”UP主吴伍六用最新AI软件,“复活”了去世的奶奶,并用视频的方式记录了整个“复活”的过程。
面对逼真的影像技术、甚至带着“奶奶口吻”的聊天风格,很多网友在表示惊奇的同时,更是有一种说不出的毛骨悚然。
按照吴伍六的视频制作流程,他用AI绘画软件上传了一张照片,再用文字描述来细化眼睛、发型等元素,根据AI生成的几张图片,选择一张最逼真的“奶奶头像”。随后又将奶奶在世时的一些语音上传到AI音频编辑软件,利用语音合成系统,就能让“奶奶”通过文本转语音功能进行开口说话。这样一来就能通过AI软件合成为数字虚拟人,就能“视频通话”了。
面对如此逼真的人像,毫无疑问,目前技术在拟形、拟态、拟声等智能图像、视频、音频的生成技术实现上已经非常成功,更重要的是在智能文本分析上具备了快速自我学习模仿的能力。很多网友在震惊之余,也想通过AI技术来创造与过世亲人的纽带。但也有网友对此质疑,创造数字人生,会不会让人更加沉溺于过去,把无法释怀的悲伤转化为对虚拟世界的依赖。
无独有偶,在《流浪地球2》中,主角图恒宇曾参与“数字生命计划”研发,他的女儿丫丫因车祸去世后意识被上传到550A中,经历了四百多次迭代,达到拥有“自我意识”的程度,而在影片中出现的能够和父亲对话的丫丫“副本”已经迭代了九百多次。
科幻与现实逐渐融合成可实现的当下,对此,UP在评论中表示这么做的目的是为了填补自己的小遗憾,在最后的几天里奶奶意识模糊,并没有好好与奶奶告别。同时他也表示,不会过度缅怀,希望大家能通过AI的发展看到未来世界的多样性。
当AI技术与人类情感发生强关联的时候,人类面对不想走出的情感纽带,就有了另一种选择——在虚拟世界中继续。然而,这对人类而言,究竟是好事?还是坏事?这似乎并没有确切的答案。
需要规范的前景:“TA”想以这种方式回来吗?
在哈利波特小说中,有一个充满想象力的场景,当哈利手握魔法石,他已故的爸爸、妈妈、教父和老师化作幽灵围绕在他的身边,聊天、攀谈,就好像他们活过来了一样。如今小说里的想象,早已变成了现实,但小说里没有写清楚的便是,哈利已故的亲人们是否愿意以这样的方式回来。
如今,在AI轰轰烈烈的商业化浪潮里,无论是国外还是国内都在进行各种商业化的实践探索。让已故亲人“再现”并非现在才有,在AI电子商务领域创业的友邻电子总经理陆晔介绍说,“日本很早就开始推广虚拟人的技术,实际上这样的技术三、四年前就已经非常成熟了。殡葬公司为人们提供虚拟人的服务,比如带上3D眼镜VR再现亲人的场景等等。”
面对多样化的殡葬需求,虚拟人生肯定是有市场前景。陆晔认为,这种需求并不适合进行商业化的推广,而是应该植入殡葬行业,把新的技术变成一种情感慰藉的服务,同时制定一些行业规则和标准。
事实上,如今很多老人对虚拟人生的技术并不了解,至于自己在百年之后是否愿意以虚拟的方式再次回到亲人身边,也并不确定。因此,虚拟人生在技术上的应用,还应充分尊重逝者的意愿。
2023年1月,我国发布的《互联网信息服务深度合成管理规定》,对人工智能技术生成、合成数字人,使用他人生物识别信息,合成数字形象等服务进行了相关规定,提出征求他人同意的必要性。
对此,华东师范大学经济与管理学部教授、博士生导师,上海高校智库主任许鑫认为,“AI”复活“在现阶段看似是一种简单的新技术探索应用,但本质上是展现了一种挑战生死的可能。大多数人在享受科技带来便利与创新的同时容易陷入权利侵犯或被侵犯的陷阱,特别是在不规范的传播过程中或可出现公众层面的恐慌和以假乱真可能存在的欺骗风险。
更值得注意的是,生者与亡者的合法权利皆应尊重。许鑫指出,使用已逝亲友信息进行数字人生,应用应该征得谁的同意?数字人在高智能模仿真实人类时,如何界定欺骗行为?数字人是否具备思想且在智慧发展到一定程度后,是否适用于人类道德和法律?许多相关问题目前仍没有确切的标准……
技术向善的探讨:“TA”真的回来了吗?
不可否认,无论是AI“复活”故人也好,创造“新人”也罢,本质是都是复合型人工智能技术在拟人之路上的重要探索。
但值得注意的是,AI的伦理问题并不是AI进化到一种程度才具备的问题,而是AI诞生之初就存在的最内核问题, AI“复活”或“新生人类“可能会带来包括伦理道德等全方位的巨大挑战。
许鑫指出,今天人形机器人躯壳的完善、以及将来“数字人”或将实现从虚拟世界到现实世界的“进化”,这一切都将对传统的人类社会构成新的挑战,因此更应该尽早出台相关法律法规,以匹配以时计算的爆炸发展的AI技术,才是当前急需解决的问题。
毫无疑问,对已故亲人的数字生命再造,可将思念寄托到具备智能交互的有形数字人身上,弥补人工智能时代之前无法企及的天人相隔的痛苦与遗憾,体现了数字新时代下永恒且质朴的中国传统人本主义情怀和情感,也体现了科技向善追求的正向应用。
但“AI复活”是否会造成人类尤其是未成年人对生命理解的错觉和认知障碍?这种手段是否会被一些利益团体用以控制大多数人情感而获得更大的利益,以及人类物化的伦理问题?许鑫认为,该项应用在进行服务、传播时必须通过标识等方式对其虚拟性广而告之,以避免可能引发的困扰,同时规避人工智能进化的过程中,硅基生命对碳基生命的再生给集体意识所带来的错乱和伦理上的界限模糊。
如果AI技术进一步发展,“数字生命”产生算法带来的自我意识,甚至进一步发展成为亲人无法认同的人格。这又是否会带来新的挑战?更值得深思的是,如果说创造“数字生命”技术上完全可行,那结束“数字生命”又该由谁来决定?
许鑫认为,相关技术的进一步发展已是大势所趋,值得思考的是作为真实人类应该在生活的联结与关系中,应该选择留下什么、放下什么;在科技迅速发展的道路上选择放开什么、握紧什么;在迎接未来无数挑战时应该突破什么、保留什么……因此,技术向善之路更需要科学伦理护航。
记者丨荀澄敏
来源丨周到上海
编辑丨肖启玉