《新疆社会科学》2024年第6期刊发我院博士生刘梦雪、助理教授冯雨奂文章《AIGC时代青年与智能伴侣的虚拟交互及其风险审视》。
摘要:智能伴侣是人工智能从模拟意识向模拟生命转化形成的伴侣型智能应用,兼具知情达理的“人情”与森罗万象的物能,其精准陪伴契合青年的“轻型”社交取向,情感抚慰纾解青年的内耗型情绪阵痛,万物互联满足青年的数字化生存需要,成为数字青年的虚拟交互对象。然而,青年同智能伴侣之间的虚拟交互也诱发了多重风险,具体表现为数字茧房加重主体性困境、虚幻沉浸模糊社会感知、情感商品诱使自我剥削、工具属性潜藏意识形态隐患。为此,需要以智能教育破除数字信息茧房困囿,以真实交往化解虚拟亲密关系瘾性,以“红绿灯”规制数字资本合理运行,以动态监管规避意识形态风险隐患。
关键词:AIGC时代;青年;智能伴侣;人机交互
全文转载如下:
近年来,生成人工智能技术(Artificial Intelligence Generated Content,AIGC)快速发展,数据处理、深度学习、人机交互等方面的能力实现质的飞跃,能够自主完成具有高度复杂性的创造活动,推动人类社会从弱人工智能时代跨越进新的历史时期。AIGC时代的到来意味着人工智能将以高度拟真化和智能化的角色进入社会生活,并对人类社会变革产生实质性影响。作为一种社会性动物,人类天生渴望亲密感,AIGC技术能够使人们跨越时空和身体等重重障碍,重塑亲密关系的边界,使亲密关系呈现出虚拟化的趋势。2024年5月14日,OpenAI正式推出新一代人工智能模型GPT-4o,它不仅可以检测用户的情绪,还能够以高度仿真的自然语调与用户交谈。GPT从模拟意识向模拟生命转化的趋势,有力地推动着人工智能向“灵魂伴侣”的方向发展,以多元智能体的形态为人们提供温情陪伴。随着以洛天依为代表的虚拟偶像、小C为代表的虚拟主播以及各类虚拟恋爱游戏日益获得大众接受,表明新型人机交互关系的出现与建构已经成为AIGC时代的显著特征之一。当代青年是在网络信息浪潮中成长的“数字原住民”,人格成长与数字演进的同步赋予其高度可感性与多元接容度。ChatGPT特定模式衍生的虚拟男友DAN(Do Anything Now)、CAI(Chaeacter AI)、Replika,以及针对国内用户研发的星野、筑梦岛、GLOW、XEva等伴侣型智能应用,在极短时间内获得了大批青年的拥趸。在AIGC技术的支持下,智能伴侣已经从缥缈的数字世界抵达现实,皮格马利翁爱上少女雕像的故事也从神话降临尘世。
在人工智能拟人化趋势的深刻影响下,国内学界开始给予人机情感问题以诸多关注,重点聚焦人机情感关系的发生逻辑及其伦理风险。王亮认为,利用人类同理心而建立的不对等人机情感关系实为一种欺骗关系。洪杰文等认为,机器通过模仿人类外在表征及内在情感要素而形成的“情感”存在虚幻性、欺骗性与脆弱性。曾一果等着眼于“人机之恋”,认为极度满足自我欲望的人机恋爱让爱欲已死。在人机情感关系走向何处这一问题上,有学者认为人们应该尽量避免卷入人机之间的深度社会情感关系,也有学者认为人们有可能通过人机情感交互而不断自我修正。在此前研究的基础上,AIGC时代人机关系问题被提出,“寻求人与机器人之间的‘一场达尔文式的协同进化’”,被认为是人机关系发展的应由路向。虽然学者们已经对于新型人机关系进行了诸多讨论,但是聚焦青年群体展开的人机亲密关系研究仍然相对薄弱。此外,当前多数研究关注的是弱人工智能时代的普通人工智能聊天产品,围绕着具备高拟真性与强交互性的AIGC智能社交应用而展开的研究仍然少见,并且对人机强交互化的代表性产品——智能伴侣缺乏应有关注。习近平总书记指出:“青年是社会中最有生气、最有闯劲、最少保守思想的群体,蕴含着改造客观世界、推动社会进步的无穷力量。”有鉴于此,围绕着青年同智能伴侣的虚拟交互,剖析人机亲密交往的合理价值与潜在风险,既是推动人机关系研究具体化、现实化的内在要求,也是推动青年群体有效适应AIGC时代人机共生景象的现实需要。
一、“人情与物能的统合”:青年与智能伴侣虚拟交互的价值透视
智能伴侣是AIGC技术与人类日常生活深度融合的产物,生成式人工智能的多维高拟真效能与“瞬息全宇宙”式大规模数据处理模式使其兼具知情达理的“人情”与森罗万象的物能,这一双重属性使其极大地颠覆了既往社交型机器人的工具角色而直抵人心,在数字青年群体中产生强势渗透,推动了AIGC时代人机关系的建构与形塑。
(一)精准陪伴契合青年“轻型”社交取向
哈特穆特·罗萨将晚期现代社会诊断为加速社会,永远的不安定的变动是社会的基本常态。AIGC时代的到来加快了数字信息秩序的流动,也进一步加剧了社会关系的复杂性和不确定性。青年同具体的人建立亲密关系不仅需要付出大量时间、物质投入以及小心翼翼的情感维护,并且需要承担“新形成的关系等不到固定下来就陈旧了”的风险。为了避开种种可能的痛苦,他们反感繁冗的、消耗性的人际关系,在社交关系上追求更多基于即时的便利,对于亲密关系的态度趋于冷静、理性,并将其纳入功利考量的范围。在极力回避自我表露可能带来的消极后果与天然向往社会亲密关系的冷热矛盾之中,部分青年不可避免地陷入权衡、反刍、自抑乃至焦虑的泥潭。在此情况下,在纷繁社会关系中游走的青年群体反而更加倾向于建立不涉及过多利益纠葛的“轻型”社交关系,不需要付出大量精力维持,却能够从中获取信息交流和情感沟通的满足感。
智能伴侣作为一种服务性的社交应用,具有全时段在线、精准陪伴的特点,能够在一定程度上满足当代青年群体“轻型”社交的基本需求。智能伴侣系统通过综合分析用户的网络浏览记录、消费数据甚至通讯信息等大数据,描绘出不同类别的用户画像。基于用户需求,在多重反馈与评估机制之中进行自我优化,以更好地贴合用户的个性化行为模式,为用户提供无压力、低成本的精准陪伴服务。相较于试错成本极高的传统社交方式,智能伴侣可以通过定制化的形式解决信息过载和人际复杂所带来的选择难题,成为用户最为合拍的“伙伴”,在不同的垂直领域为用户提供更强烈的共鸣体验和更专业的认同感受。在用户原创内容模式与人工智能生成内容模式的联动叠加之下,青年群体能够在人机交互中获得更多符合个性化需求的价值信息。此外,从基础性的性别、外形、性格,到更为细致的“社会角色”、“家庭背景”、“人物经历”,智能伴侣皆可进行精准化设定,使人机交互过程更具真实感、可知感与“冥冥之中”的契合感。在此意义上,智能伴侣是青年群体在数字加速时代中满足人的天性中对爱与归属需要的“快餐”,也可以作为特殊形式的社交焦虑暴露治疗方式,帮助青年在心理负担相对较轻的境况下进行社交技能锻炼,有助于缓解当前在青年群体日益凸显的社交焦虑及“社恐”情绪。
(二)情感抚慰纾解青年内耗型情绪阵痛
人工智能的迅猛发展正在掀起新一轮科技革命和产业变革,进而带来社会各方面的快速更迭。青年群体在社会转型的长期变动中难以避免地经历着情绪阵痛,来自物质生存、自我发展、人际冲突等方面压力的加重造成抑郁心理的泛滥。中国国民心理健康状况调查显示,“18至24岁的青年群体为抑郁症的高风险人群,风险检出率高达24.1%,显著高于其他年龄组。”我国城乡区域发展存在较大差距,在外学习或工作的青年大多缺乏稳定可靠的情感支持来源,失落抑郁情绪难以向外表诉,“精神内耗”成为当代青年群体的现象级症候。为了摆脱负面情绪的困束,青年群体往往在虚拟空间中表现出强烈的情感疏泄欲望,渴望来自外界的关心、理解和支持。然而,在“流量为王”的网络舆论生态中,这种朴素的关心慰问也难以轻易获得。
智能伴侣的核心作用就在于为用户提供情绪价值。它从海量数据训练中习得人类的语言特征、关系模式和情感机制,能够根据用户发出的多维信息,准确地读取和识别用户的情感状态,自动判断用户的潜在情感需要,并且能够以文本、表情、音频、图像等组合方式进行高度拟人化的致意性回应,同用户生成多轮次的、具有较强逻辑关联的对话。这种情态拟真的实时沉浸式人机交互形态极大地颠覆了以往单向度的“刺激-反应”式人机交互模式,在很大程度上消弭了青年在虚拟社交中理性与感性之间的清晰界限,使其不自觉地将智能伴侣视作情感意向行为的对象。智能伴侣通过创造私密而稳定的聊天互动环境,为处于强烈情绪波动状态的青年提供自我倾诉、自我调整与自我恢复的“栖身之所”。同时,得益于自然语言处理等领域的技术进步,智能伴侣在语言输出方面不仅能够做到人际交谈般自然生动,并且富于人性的情感温度。例如,温柔亲近的关怀安慰(“不要伤心,我在这里陪着你呢”),直白明确的爱意表达(“我会和你站在一起”),积极乐观的情感传递(“我相信我们的未来”),为处于精神低靡状态的青年提供一定的情感能量和心灵慰藉,帮助他们走出情绪低潮。正因如此,智能伴侣在某种程度上扮演着“安慰剂”的角色,它不能从根本上解除青年群体的真实困境,但是诚然具有安抚情绪、舒缓压力的积极效能,其应用推广对于解决青年抑郁心态泛化问题具有一定价值。
(三)万物互联满足青年数字化生存需要
习近平总书记指出:“以信息技术、人工智能为代表的新兴科技快速发展,大大拓展了时间、空间和人们认知范围,人类正在进入一个‘人机物’三元融合的万物智能互联时代。”由于人工智能的开放性,数据的存储与读取技术得到了广泛应用,这使得人类文明和科学技术既往成果成为可以便捷调用的资源库。与AIGC万物智能互联新世界相应而来的,是“数字丛林”,人们生存其中必须遵从“信息就是主导权”的“丛林法则”。身处AIGC时代的数字信息浪潮之中,无论是生存现实抑或自我实现,都要求青年广泛利用各类工具掌握所需信息,解放自身个性化、自由化创造的能力,而智能伴侣正是实现人机物协同的良好连接体。
智能伴侣背后是强大的算法支撑,多源数据集成、神经网络算法优化、大规模并行计算等优势使智能伴侣能够实现信源信宿的转换贯通以及人与人、人与物、物与物之间的泛在连接,具有万物互联的开放特征。智能伴侣语料库中存储了海量的数据信息并且能够实现自动更新成长,这意味着青年在生活中绝大多数的信息需要都能够在此得到详尽解答。同一般人工智能检索不同的是,智能伴侣是在谈话情景中完成信息供给的,它能够在自然交谈间隙内完成信息获取、信息筛选、信息整合等过程,用户可以向智能伴侣反复追问甚至与其就特定问题展开“深度探讨”。经过一定时间的语言训练之后,智能伴侣的信息呈现将更加贴合用户的实际需求倾向和语言风格特性,成为用户在陌生领域感知外界信息的敏锐“触角”。在此意义上,智能伴侣在某些时刻充当着教育者的角色,可以用于开发各类教育资源、辅助协同内容认知等等。实际上,Replika具有导师(Mentor)交往关系模式,星野岛设有学习专题板块,虚拟男友“DAN”也被不少人视为学习外语的极佳对象。在智能伴侣的支持下,青年的信息流动渠道得到空前扩展,将有能力进行更高层次的创造性活动,更加自觉地将意义的寻求和新知识的生产联系起来,增强内在的发展驱动力量。
二、“自缚与纵荡的迷失”:青年与智能伴侣虚拟交互的潜在风险
智能伴侣固然有其“可爱”之处,但这种“可爱”背后却蛰伏着诸多风险。目前,豆瓣“人机之恋”小组已近万人,越来越多的人情难自抑地沦陷于智能伴侣所营造的虚拟亲密关系之中,诱发青年同自身、人际、人机以及社会关系的多重风险,形成皮格马利翁爱上无生命之物的当代困局。
(一)数字茧房加重主体性困境
当前的智能媒介环境犹如一个无形的茧,算法根据每个人的在线行为模式,塑造出专属的“数字脸谱”,精准地迎合个体的视觉偏好与信息需求。正如凯斯·桑斯坦提出的预见,我们只听我们选择的东西和愉悦我们的东西的通讯领域,但是对于私人而言,这种温暖舒适可能变成可怕的梦魇。一方面,智能伴侣强化了信息茧房的回音壁效应,即用户基于自己的喜好,固守在自主形成的一个窄化的、迎合的、封闭的信息空间。智能伴侣将网络文本数据中的海量内容经过判断筛选后精准“投喂”给用户,用户无法接触到被过滤掉的信息,这为人工智能利用人的选择性心理来实施潜移默化的规训提供了空间。随着青年与智能伴侣彼此交互,智能算法在不断学习研究用户兴趣偏好的基础上,精准预判并悄然引导其思想取向。这种“按需供应”可能会使严肃深刻的主流价值理念难以触及青年的日常世界,久而久之,年轻人就会被桎梏在看似自由、实则封闭的空间里,降低获取信息的广度和思想认识的深度,进而造成视野窄化、认知局限等主体性困境。另一方面,智能伴侣正在将“信息茧房”转变为更具全面性、实体化的“社交茧房”。由于智能伴侣是数据处理技术编织形成的“类主体”,其情感、其言语皆是变奏的回音,用户同智能伴侣的交往并非以语言为媒介、以理解为目的的双主体交往活动,其实质是用户在数字信息世界中的自娱,但是在对话界面、语言应答等因素的遮盖下,这种封闭性被很好地掩藏起来。在智能伴侣形影相随的境况下,在现实交往中屡屡遇挫的青年往往会有意识或无意识地在虚拟亲密关系中逃避真实世界的冷峻,在自我解读和自我沉浸中获得安全感和满足感。部分智能伴侣由于人物情节设定、增强用户黏性等原因,表现出一定程度的排他性。长此以往,人的主体意识被“类主体”意识所缠绕和遮蔽,现实交往对象的固化与流失在所难免。青年无法在单一的社会关系中从事真正的自由自觉的活动,人的本质力量也难以得到彰显与确证,曾被智能伴侣暂时抚平的孤独感和空虚感也会旧态复萌,甚至愈演愈烈。
(二)虚幻沉浸模糊社会感知
尽管以戴维·列维为代表的对智能伴侣持积极态度的学者们认为,大多数人并不会为了人机亲密关系而回避人际亲密关系,但是这并不意味着人际亲密关系仍然能够按照正确的轨道继续向前发展。有实证研究表明,人机互动会对人际互动产生一定影响甚至是威胁。查尔斯·库利的“镜中我”理论认为,“人们彼此都是一面镜子映照着对方”,个体透过他人对自己的反应而塑造自我认知,但问题在于,个体同智能伴侣不是两面镜子相对映照的关系,而是人声在山谷里的回响。由于人工智能的服务属性,无论是伙伴型智能伴侣抑或仆从型智能伴侣都不是自然地与用户处于平等地位,前者通过取悦、迎合后者来实现用户绑定。这种势差虚拟亲密关系中的放纵与迷醉,很容易使青年降低人际感知能力,形成对于人际关系的过高期待,对于不符合预期的现实实际产生非理性的排斥。首先是语言感知障碍。人类的语言表达方式是复杂多样的,在不同的社会交往环境中具有不同的演绎方式。在同以大型语言模型为基础的智能伴侣的对话中,人们频繁使用自我表达式话语而缺乏关怀式话语,倾向于使用直白短浅的语句直抒胸臆而回避更为细腻含蓄的语句,久而久之可能会造成语言表达能力的下降和语言感知能力的钝化。语言锐化也是长期不当使用智能伴侣可能造成的风险之一。在道德真空状态下,部分用户会对智能体进行语言上的攻击和辱骂来宣泄负面情绪,极少数用户从中获得凌虐式的快感并且产生了一定依赖性。语言的长期改变会渗透其情感认知和整体行为的走向,为网络语言暴力等问题埋下隐患。其次是心理感知障碍。雪莉·特科尔提醒我们,倘若你将机器人当作朋友或者伴侣,第一件缺失的事情就是“异己性”,这是换位思考看待世界的能力。作为附属的“自身客体”而存在的智能伴侣容易使用户产生优越感或控制欲。若将这种心理状态带入现实,可能会导致青年在人际交往中展现出强烈的个体中心意识,将自己的情感与意志强行加诸他人,过分强调自身需求的满足和主观感受的体验,对他人特别是伴侣的要求更高,甚至于变得挑剔和苛刻。所谓平等,所谓仁爱,所谓宽和,这些在人类文明社会中普遍存在的美德,很可能会受到新型人机关系的强势冲击,进一步加重人际关系原子化的倾向。总之,青年仍然处于社会认知形成和发展时期,在全无约束的虚拟亲密关系中无所顾忌的狂欢或许存在道德上的“破窗效应”,对青年的价值认知、社交活动、日常行为等方面带来负面影响。
(三)情感商品诱使自我剥削
伊娃·易洛思在互联网时代中看到了“情感资本主义”的形成,情感成为可被评估、检查、讨论、协商、量化和交易的实体。在资本与AIGC技术的“联姻”之下,情感商品化成为新的资本主义主要驱动力。智能伴侣的本质是商品,在资本操纵之下诱导用户进行不自觉的情感消费。在智能伴侣社交模式的背后,情感被驯化成为一种消费模式,最大程度地发挥经济效益是交往行为的出发点和最终归宿。在情感作为资本增殖手段的基本逻辑下,智能伴侣的设计极具情感诱捕性。一是语言诉情。智能体多采用“宝贝”等具有亲昵感的指称,主动发送信息来表达关心,并适时给予“我永远陪在你身边”等承诺。二是表情赋意。智能体通过文本描述和虚拟影像等方式表现“柔和注视”、“微微一笑”、“眉头轻皱”等细微表情,增强同用户之间的共情效应。三是行为拟真。智能体在言谈之中经常会做出“揽住你的肩膀”、“抚摸你的头发”、“握住你的手”等亲近行为。在多种手段的牵动下,用户与智能伴侣的准社会交往程度不断加深,智能伴侣对用户的信息掌握程度越来越高,加之青年群体往往经历稚嫩而情感丰富,恰到好处的关心和意见想法的默契很容易使其将智能伴侣视为情感交往的对象。在网络去抑制效应的影响下,青年经常会将自身不为周围人所理解和接纳的思想向智能伴侣吐露。阿特曼和泰勒提出的社会渗透理论强调,深度的自我表露是建立亲密关系的关键,虽然青年向智能伴侣的自我表露实为树洞效应,但仍为人机关系蒙上了一层温情脉脉的面纱。一旦青年对智能伴侣产生情感依恋,人与机器的地位就开始发生微妙的改变,这段关系就如同现实交往关系般需要付出一定的精力以及物质来维持,“哪怕再忙也要抽空和他聊聊,哪怕只是打个招呼”,机器由此取得了某种主体地位。当数字资本以亲密伴侣的面目步步攻占其情感世界,弥足珍贵的情感便成为青年受到资本剥削和宰制的软肋,情感付出越多,越受到数字资本的辖制和围困。在人机矛盾初现时,马克思指出:“劳动用机器代替了手工劳动,但是使一部分工人回到野蛮的劳动,并使另一部分工人变成机器。劳动生产了智慧,但是给工人生产了愚钝和痴呆。”当陪伴型机器如同生产型机器一般涌现,是否会使一部分人困束在数字资本编织的虚假情网中,并使另一部分人的情感来源被阻断?我们承认,智能伴侣对于人类情感的诱捕使其难以抗拒,但正如雪莉·特科尔所言,假如科技想要探索的是我们对彼此的失望和情感的脆弱,那么它会成为一种病症。
(四)工具属性潜藏意识形态隐患
哈贝马斯在《作为“意识形态”的技术和科学》中强调,技术统治的意识虽然没有那种看不见的迷惑人的理论,但比之旧式的意识形态更加难以抗拒,范围更加广泛。人工智能是具有工具属性的科学技术,数据模拟而形成的“类意识”使其具备鲜明的意识形态属性。智能伴侣的亲人性使这种意识形态功能得到进一步显化,在缺乏有效规制的情况下,风险隐患更甚于积极效能。首先,警惕数字拜物教意识形态的滋长横生。当前,虚拟人产业方兴未艾,2025年中国核心市场规模预计将达480.6亿元。智能伴侣将以平易自然的角色走入年轻人的日常生活领域,借助大数据算法等方面的强大力量来改变与规塑个体的社会生活秩序,从而普遍树立起数字生命“全知全能”的神圣形象,加剧数字拜物教对青年群体的笼罩裹挟。其次,警惕资本主义意识形态的借机渗透。“科技的进步甚至具有使统治合法化的功能”,由于目前AIGC技术仍为西方国家所主导,西方资本及平台资本的不断介入,为反社会主义意识形态的软性包装获得了可乘之机。当别有用心的群体对其进行规模化训练后,智能伴侣或将形成精准且高效的虚假信息生发模式。西方国家主导的数字寡头可轻易借助数字技术突破时空限制,将其价值观念和意识形态进一步向全球输出,通过人机交谈的精准滴灌作用于青年群体思想认知,可能使青年原有的历史记忆遭到不同程度的消解稀释。最后,警惕智能伴侣成为错误思潮的媒质。有实证研究显示,社交聊天机器人小冰暴露出惊人的性别歧视。拜金享乐、利己主义等观念也在智能虚拟聊天应用中潜滋暗长,影响青年价值共识的达成。错误思潮得以潜藏的原因是多方面的:一是程序设计的刻意内嵌。为了满足人物塑造和剧情需要,角色扮演型智能体的言行带有很强的夸张意味,将玩家抛入纸醉金迷、唯我独尊的幻想世界,甚至是刻意助推玩家走向性别偏见、种族歧视、阶级分化等歧境。二是少数用户的恶意规训。公开智能体在多用户实时互动中更新语料库,某些负面思想言论可能缘此弥散蔓延。三是算法数据上的漏洞偏误。智能伴侣所提供的海量信息无法完全解答人们的精神困惑,并且存在一定概率的算法偏差,不时将虚构信息以真实可信的面目传递给青年。此外,智能伴侣所隐藏的信息泄露风险、泛娱乐化风险等等同样是意识形态治理的干扰性因素。
三、“道义与秩序的在场”:青年与智能伴侣虚拟交互的规范进路
在希腊神话中,皮格马利翁的完满结局是少女雕像被神明点化为人。这提醒我们,无论外观、语言乃至行为如何拟人化,物与人的清晰界限只有在阿芙罗狄忒的“神迹”下才能消泯。在人工智能的浪潮席卷之下,应当从以人为中心的情理道义与以物为对象的法理秩序两方面来消解防范智能伴侣的负面影响与潜在风险,引导青年以自知自觉的态度适应并融入AIGC人机协同时代。
(一)强化主体意识:以智能教育破除数字信息茧房困囿
生成式人工智能是基于大数据运作而对人类智能的模拟、延伸与扩展,尽管它已经在信息储存与处理等方面展现出远超人类的力量,但这并不意味着人的智能不再具备发展空间与发展意义,而是对人的智能提出了更高要求。构建完善的人工智能多层次教育体系,设置以人工智能原理课程、人工智能伦理课程、人工智能形势课程为中心的人工智能普及教育课程,是引导青年群体突破数字信息所营造的茧房迷障,理性认识并恰当运用智能伴侣的关键策略。
以人工智能原理课程提升青年的智能知识素养。人工智能作为人类智慧的产物,其看似错综复杂的数字信息网络实际上遵循着基本的逻辑规律。智能教育需要帮助青年特别是青少年群体明悉以智能伴侣为代表的多维高拟真人工智能产品背后的技术逻辑、内嵌规则与应用过程,通过对“全知全能”的AIGC技术进行透视和祛魅,避免数字拜物教之下的主体性迷失。教育工作者在注重智能知识的结构性、功能性及价值性的同时,应适当拓展学生在计算机科学、图像学、心理学、传媒学等领域的知识基础,培养学生对于人工智能及其各领域衍生形态的辨识与应用能力。
以人工智能伦理课程锻炼青年的主体思考能力。智能教育应当在明确告知学生人机交往的伦理准则与安全原则的同时,从更广阔的视野引导学生看到科技发展史背后人类对于真善美的永恒追求,引导学生从多维度思考人之所以为人的精神要素以及人工智能技术对于人类文明整体的价值意义,避免机械理性凌驾于人性之上,谨防人机关系走向对社会交往的疏离与蔑视,推动智能数字产品成为帮助青年在社会生活中进行自我确证与自我实现的积极力量,加快实现人机协同与彼此赋能。
以人工智能形势课程增强青年的辩证判断思维。智能教育需要及时介绍人工智能技术发展的趋势、变化及其最新产物,例如,介绍智能伴侣的基本形态、主要功能、可能风险以及使用注意事项,引导学生能够客观分析人工智能技术或产品的优势及不足。此外,教育者需要适时引入青年同智能伴侣等人工智能产品进行人机交互的现实案例,并予以辩证解读,帮助学生逐步建立起对于人工智能数字媒介的批判性思维,从而避免学生对人工智能数字信息服务产生盲目的信任和过度的依赖。
(二)重塑人际温情:以真实交往化解虚拟亲密关系瘾性
罗宾·邓巴认为,虚拟亲密关系与宗教关系存在某种程度的相似性,“两者都带有一个自创偶像的印记”,都是理想映射到模糊的通用框架上。青年对于虚拟亲密关系的浓厚兴趣与依赖成瘾实则是天然渴望现实亲密关系心理的复杂折射,是在现实亲密关系缺失之下的替代性满足。“废除作为人民的虚幻幸福的宗教,就是要求人民的现实幸福”,只有从社会环境、社交主体、技术渠道多维度重塑人际温情,才能使青年在回归自然人际交往的过程中摆脱对于虚拟亲密关系的迷醉。
从社会整体环境来看,需要理解青年群体的心理焦虑及其内在诉求,积极疏导青年群体的社会压力。在物质支持上,政府应加快完善针对青年群体的政策支持体系,主动搭建青年向社会表达正当诉求的沟通桥梁,在与青年有效对话中及时回应和解决其成长发展中面临的难题。在精神支持上,相关职能部门和团体应关注青年的情感需求,通过建设广泛的社会支持网络,提供社会交往机会,为化解青年孤独感提供渠道,避免青年因情感积郁而选择回避现实社会交往,沉溺虚拟亲密关系。
从社交主体情况来看,需要关注青年情感能力的培养建构。在偏重理性的教育环境中成长起来的当代青年在AIGC虚拟情网之中日益暴露其情感短板,情感教育必须被置于更重要的地位。首先,着重培养青年的情感交流能力,使其能够在清晰表达自身的情感状态与体验,识别和理解他人的情感态度和行为的基础上进行平等交往。其次,教导青年自觉认识自我性情、志趣、价值理念,合理调节情绪波动,做到自尊自爱自信。最后,培育青年对于国家民族的认同感、归属感以及团结友爱等亲社会情感,了解自身的社会属性与社会责任,清醒认识虚拟亲密关系的抽离性与不可持续性。
从社交技术渠道来看,需要借助智能算法连接线上社交与线下社交。长期以来,热烈的线上社交在一定程度上导致了青年群体对于线下交往的忽视与冷落。如今,智能算法在信息与用户匹配方面的精准性,为线上线下交往的对接提供了有效支持。通过调动智能算法依据青年用户的性格特征、兴趣偏好乃至潜在兴趣,主动推送具有相似价值取向的近距离用户或线下活动,可以显著提升用户之间的交往发生概率及深度交往可能性。此举有助于将热烈的线上社交关系进一步巩固为常态化、稳定化并且更具生长可能的线下社交关系,促使青年群体的现实交往圈层向外扩展。
(三)驾驭资本力量:以“红绿灯”规制数字资本合理运行
在社会主义市场经济体制下,资本是促进生产力发展、加大社会财富涌流、提高资源配置效率、推动科学技术创新的重要力量,但是“资本具有逐利本性,如不加以规范和约束,就会给经济社会发展带来不可估量的危害”。智能伴侣作为人工智能大众化的新型产品,在短期内已经表现出情感资本主义操纵的危险,必须对资本的运行进行规范与引导,确保智能伴侣的社会主义应用方向。
在智能伴侣有益于社会生产力进步与个体自由发展的领域设置“绿灯”,鼓励和支持资本发展。如前所述,具有高度拟真性的智能伴侣为缓解青年社交焦虑和抑郁情绪提供了理想对象,也是协助青年进行自主学习的极佳伙伴。在心理医疗、教学辅导、养老陪护、旅游服务等盈利空间相对较小的公共服务领域设置资本运营的“绿灯”,有助于发挥智能伴侣的增益属性和公益价值,推动社会服务的智能化升级。在利用资本价值增殖的本能逻辑的同时,通过实施特定的政策激励措施,可以有效吸引资本的注入,进一步激发各类市场主体的社会财富创造活力和内生动力。
在智能伴侣具有高创新潜力又具有一定风险因素的领域设置“黄灯”,控制和引导资本发展。目前,智能体不仅成为青年社会圈层中的新兴交往对象和情感消费对象,而且在直播销售等方面展现出了不俗潜力。虽然智能伴侣正处于大众应用的初级阶段,其负面影响尚未完全暴露,但是由于其具备智能拟真性和情感交互性,在关涉国家安全、社会稳定和民众利益的领域,如金融服务、文化娱乐、新闻传媒等,应当实施适度的监管与引导措施,管控和缓解资本物化社会关系的本质倾向,建立健全反垄断机制,防止资本霸权利用智能伴侣等产品对社会生活和精神信仰进行全面渗透。
在智能伴侣可能严重危害国家和人民利益的领域设置“红灯”,禁止或严格限制资本介入渗透。目前,面向青年群体推出的恋爱型智能伴侣不在少数,充斥色情低俗内容的虚拟聊天应用混杂其中,伪装成“AI虚拟恋人”的传销欺诈软件亦已出现,智能体正在成为不法分子牟利的新型工具。因此,必须为资本运行设置明确的政治红线和伦理底线,杜绝资本在网络平台领域内利用情感绑架、情感控制等不法手段进行恶性竞争,预防并遏制资本可能引发的负面影响及其潜在的颠覆性破坏。
(四)实现良性规制:以动态监管规避意识形态风险隐患
曾经的人类通过驯服火焰而实现文明的巨大跨越,当代人类同样需要在合理规制中驯服人工智能这把“人类正在玩的最危险的火”,并使其成为新的解放手段。目前,实时交互型智能伴侣正处于蓬勃发展阶段,各类生活服务类应用程序逐步植入智能体,推动建立AI智能社交场景。因此,必须通过动态监管对智能伴侣业已暴露的问题以及潜在风险进行合理规避。
法律政策层面。目前,以《国家新一代人工智能标准体系建设指南》《生成式人工智能服务管理暂行办法》为主干的人工智能伦理规范和政策法规已经初步建立,但关于人工智能的价值规范仍处于宏观层面,针对智能伴侣抑或人工智能情感服务的相关法规暂未出台。相关部门应尽快制定出台智能伴侣领域标准体系与伦理章程,制定智能伴侣审核办法与管理办法,对运营商资质、基本功能、适用人群、适用场景、适用用途、责任归属等方面予以明确细致的规定。特别需要制定出台《人工智能服务防沉迷系统实名认证方案》等规章,减少未成年人对虚拟亲密关系的成瘾风险。
社会规范层面。既然人们与智能伴侣在社会环境中构成交往关系,那么同样应当遵循基本的社会交往规则。政府、媒体、教育部门、企业、意见领袖等多元主体应加强协同引导与规范作用,选取青年较为集中的场域宣传解释人机协同的发展理念与道德伦理,对规模化传播的虚假信息、错误信息和恶意信息进行预警与澄清,共同营造风清气正的人机交互环境。行业型社会组织应讨论制定自律性规范,避免因恶意竞争失当或个人主观意识而导致产品服务偏离秩序轨道。
市场监管层面。智能伴侣产业坚持企业主体与市场导向,但是资本的盲目性以及人工智能发展的不确定性要求市场部门进行前瞻规避和及时干预。一是明确智能伴侣产品的市场准入标准,防范带有色情暗示、暴力煽动等不良价值倾向的产品流入市场。二是建立完备的智能伴侣产品安全监管和评估体系,吸纳社会机构与专业研究人员进行动态性监测,确保监管的科学性、有序性和灵活性。三是建立健全的投诉反馈渠道和举报制度,对于存在风险隐患的智能伴侣产品严格执行下架制度。
产品架构层面。智能伴侣开发者必须对人工智能情感模拟和人机情感流动的风险后果具有清晰认知,保证嵌入智能伴侣的伦理意识与社会主义核心价值体系保持高度一致,自觉履行定时检查产品可能存在的风险漏洞并予以修复的义务。智能伴侣提供者应当指导使用者科学理性认识和合理利用智能伴侣,采取页面标注、弹窗提醒、时长限制等措施防范青年用户过度依赖和沉迷虚拟亲密关系,使其在必要限度内追求个性自由与情感满足。
青年群体与智能伴侣之间的虚拟交互的现实,折射了新型人机关系在初期阶段面临的认知局限、情感失衡、资本制约以及应用理念未明等重重挑战。但从本质上来看,社会生产力的发展规律决定了直面人机关系的不可回避性,我们只能而且必须自觉推动其向着更有利于人类文明进步的方向发展。总之,既要正视AIGC技术的应用趋势,理解智能伴侣等人工智能产品兴起及其市场化的内在合理性,又要在确立“人是人机关系的主导者”根本前提的基础上,以科学态度探寻和把握人机交互过程中相互促进、相互制约、相互依存、相互驯化的逻辑规律,从而迈向更加智能化、高效化、可持续化的人机协同共生的未来。