尹帮文 孙伟平｜逃逸、生成、诱导：人工智能意识形态风险反思

　　【摘 要】生成式人工智能的迅速崛起对人们的生产生活影响深远，改变了意识形态的表达、传播和渗透形式。在资本主义条件下，资本逻辑导致人工智能成为意识形态工具，助推资本主义意识形态全球扩张和渗透；智能逻辑导致人工智能的自主性预期外进展，不仅影响人的意识，而且可能逃离人类掌控并反过来掌控人类，造成“智能异化”。化解人工智能带来的意识形态危机，既要揭示人工智能的意识形态性，也要确立“以人为本”的人工智能发展原则，引导人工智能向好向善发展，更要设法促进人的自由全面发展，为人机智能文明到来奠定基础、创造条件。

　　早在20世纪初，人们就已注意到科学技术对于意识形态生成与传播具有重要作用。由此，科学技术与意识形态的关系成为热点话题。进入智能时代，以人工智能为代表的新兴科技与资本主义意识形态联系日益紧密，引发一系列风险。资本逻辑驱使下的人工智能加速“资本化”，导致其正蜕变为意识形态工具，协助资本主义国家开展意识形态渗透活动。而随着ChatGPT等生成式人工智能风靡，人工智能自主性与自主能力与日俱增，机器智能正试图摆脱人类控制，通过影响和改造意识让人类按照智能逻辑“行事”。在资本逻辑与智能逻辑双重助推下，人工智能的消极影响初见端倪，逐渐将社会发展导向巨大不确定性。因此，立足唯物史观对人工智能开展批判，既是为了应对资本主义意识形态渗透，也是为了防范“智能失控”和“智能异化”等意识形态危机。

　　一、人工智能资本化形成的意识形态工具

　　意识形态渗透在现代社会中普遍存在，特别在数字化、智能化加速演进的今天，资本主义凭借各种信息智能科技将资本主义意识形态迅速推向全球，不断加剧意识形态冲突。在人工智能等新技术加持下，资本主义意识形态渗透正变得越来越普遍、复杂和隐蔽。

　　（一）作为“意识形态工具”的人工智能

　　一般认为，“意识形态”是关于观念的科学，是系统自觉反映一定社会的经济基础和政治制度的思想体系，是社会精神生活及其过程的总概括。意识形态是上层建筑的重要组成部分，包括占统治地位的政治和法律思想、道德、文学、艺术、宗教、哲学以及大部分的社会科学等。作为社会存在的主观反映，意识形态由社会存在决定，并随社会存在的改变而形成特殊的内容、形式、特点与功能。

　　马克思、恩格斯通过论述社会存在与社会意识关系批判了资产阶级意识形态的虚假本质，并在此基础上系统阐发唯物史观，形成马克思主义意识形态理论。在《德意志意识形态》中，马克思、恩格斯指出，以德国哲学为代表的资产阶级意识形态是从“天国降到人间”，而“我们是从人间升到天国”。在以费尔巴哈、鲍威尔、施蒂纳为代表的“德意志意识形态家”那里，存在和意识、生活和观念之间的关系是颠倒的。他们不是从物质生产和现实生活出发，而是从观念出发，企图以观念代替现实，通过变革观念去改变德国社会现状。面对德国哲学的“颠倒”，马克思、恩格斯首先揭露了社会意识的物质根源，提出社会意识由社会存在决定，物质性是意识形态的第一属性。“思想、观念、意识的生产最初是直接与人们的物质活动，与人们的物质交往，与现实生活的语言交织在一起的。”任何意识或观念的生成，都离不开物质和物质生产活动。意识形态是阶级社会中的特有现象，其往往服务于特定阶级利益，具有鲜明阶级性。“统治阶级的思想在每一时代都是占统治地位的思想。”无论以何种形式呈现，意识形态都具有阶级属性，而资产阶级意识形态是资产阶级进行阶级统治的工具。代表特定阶级物质利益的意识形态在思想主张、观念体系、价值诉求方面具有虚假性。为了维护阶级利益，资产阶级意识形态用观念上的哲学变革取代现实革命，割裂了解释世界与改造世界的关系，“表现为激进状态下的辩护立场与保守主义”。在《〈政治经济学批判〉序言》中，马克思继续阐发作为上层建筑的意识形态与经济基础的辩证关系，提出了社会基本矛盾理论，揭示了人类历史发展的一般规律。

　　20世纪以降，以法兰克福学派为代表的西方马克思主义者在技术层面进一步考察了资本主义社会的意识形态现象，提出现代科学技术成为“隐性意识形态”的重要观点。内燃机、电力系统、通讯信息等现代科技的迅速普及不仅重塑了人们的生产生活方式，而且深刻改变了上层建筑特别是意识形态的内容和形式。例如，霍克海默断言，“不仅形而上学，而且还有它所批评的科学，皆为意识形态的东西”。在霍克海默看来，资本主义社会中的科学技术妨碍了人们认识自身处境与思考社会危机，科技自始至终都以意识形态面貌展现给普罗大众。马尔库塞认为，晚期资本主义社会的所有领域均被技术理性渗透，不仅主宰着社会运转的节律，而且“雕刻”着社会成员的“需要”。“这样的需要具有社会的内容和功能，它们取决于个人所无法控制的外力；这些需要的发展和满足是受外界支配的。”这一需要裹挟着人们在技术理性统治下进行生产，被迫“降格”为巨大的技术和社会系统“零部件”。哈贝马斯认为，科学技术在晚期资本主义社会业已成为一种意识形态，因为构成生产力重要因素的科学技术能够驱动生产关系和上层建筑发生变革，促使意识形态发生相应转变，而在由现代科学技术建构的资本主义意识形态“牢笼”中，所有人都难以摆脱被意识形态渗透和统治的命运。

　　进入智能时代，各种新兴信息智能科技快速崛起并普及。作为实践的产物，人工智能是人类认识和改造世界的手段，然而，在资本主义掀起并驱动的智能化浪潮中，人工智能成为服务于资本逻辑的“意识形态工具”。“人工智能的资本化”即“人工智能的资本主义应用”，是指在私有制下，人工智能不仅在经济领域成为资本组织社会生产、创造经济价值的技术条件，而且在意识形态领域成为资本主义进行思想渗透、观念改造和文化殖民的工具。马克思深刻揭示了生产领域“机器的资本主义应用”及其消极后果，这背离了技术本身的价值，导致机器成为资本家奴役工人、摄取利润的手段，“因为机器就其本身来说缩短劳动时间，而它的资本主义应用延长工作日；因为机器本身减轻劳动，而它的资本主义应用提高劳动强度……因为机器本身增加生产者的财富，而它的资本主义应用使生产者变成需要救济的贫民，如此等等”。当前，资本主义国家在智能化进程中不仅抢占先机，而且将先进技术和设备私有化，广泛应用于社会生产和日常生活各个领域。例如，以微软、亚马逊、苹果、谷歌、OpenAI等为代表的大型跨国数字企业掌握了全球最先进的智能科技，不仅将新技术应用于生产领域，重组劳动过程、提高生产效率，而且把各种数字产品、智能设备投入消费市场，以此传播资本主义生活方式、思想观念和价值体系。

　　随着人工智能成为智能时代经济社会发展的核心驱动力，金融资本主义联合新兴智能技术打造了全球化的“能源—芯片—模型—制造业或服务业”的新型垄断结构，以技术和产业垄断持续推行意识形态霸权。在庞大的智能化机器和社会系统中，数据成为能够媲美工业时代的蒸汽、电气、石油等主要能源，为智能化生产生活提供基本动力；芯片成为核心技术硬件，在整个系统中扮演“大脑”角色，组织协同驱动智能机器或智能设备正常运转；算法模型作为软件系统，为机器系统填充神经网络，让智能机器更加智慧地感知、思考和行为。在“数据+算法+算力”综合作用下，人工智能逐渐成为制造业和服务业发展的新趋势。一方面，新技术、新业态彻底重构了人们的生产生活方式，将人类带入全新的“智能化生存”；另一方面，在资本主义主导的智能化浪潮中，新技术质变为意识形态渗透的新手段、新载体，协助资本主义实施意识形态霸权。金融资本主义更加深了对人工智能的垄断，不仅垄断芯片制造并通过平台广泛吸纳全球数据信息，而且将资本主义意识形态以算法形式植入数字产品，通过技术优势掌控智能产业和智能经济命脉。新型垄断结构如此得以形成，推动金融资本主义向数字帝国主义发展。数字帝国主义“构建出一种超越民族国家、统摄全球文明的‘数字世界新文明’，并主要以文化殖民的方式在全球展开殖民掠夺”。

　　（二）人工智能意识形态渗透的新表征

　　随着互联网、物联网、虚拟现实等智能技术的迅速崛起，人工智能遵循“数据+算法+算力”进化模式迭代升级。在资本逻辑驱使下，资本主义充分利用人工智能的技术优势开展意识形态统治和渗透，呈现出一系列新趋势。

　　第一，数字信息网络基础设施使资本主义意识形态渗透范围更广泛。随着网络信息化高速演进，“数字化生存”即通过各种新技术手段接入互联互通的数字空间开展日常生活，已成为人们的普遍生存方式。在数字化生活中，人们主动使用智能设备与他人，甚至与平台机器人交流，也被动面对资本主义意识形态的渗透。资本主义智能化浪潮由资本逻辑主导，人工智能算法往往植入了资本主义经济原则、制度架构、价值诉求和思想文化等意识形态内容，并通过智能产品渗透到世界各个角落。例如，近来火爆全球的人工智能产品ChatGPT和Sora隶属于美国的OpenAI公司，“它们训练的语料库主要是以英文为主，人工标记的环节由带有西方价值观念的工作人员完成，其中渗透了西方的意识形态是可以想象的”。研发主体的意图、语料信息的筛选、资本与技术的结合方式等因素，都可能影响算法的价值构成，使其成为特殊意识形态载体。在互联网和智能设备加持下，这些被植入了意识形态的算法迅速遍布全球，打破了传统意识形态渗透尤其传统媒体渗透的局限，使全世界陷入资本主义编织的意识形态“茧房”，被迫接受资本主义统治。

　　第二，“数据分析—智能推荐—黏性培养”的循环机制使资本主义意识形态的影响更加深远。当前，越来越多的人正借助数字智能化产品和服务投身数字活动。数字活动的轨迹表现为数据，而数据因表征了用户的行为信息对意识形态渗透具有核心作用。通过算法对大数据进行分析，数字平台及其所有者掌控了用户的行为习惯，进而可以向用户“精准投放”内容，以更加隐蔽的手段引导、规训当代人。在全面掌握用户特征后，消费网站、社交平台、游戏公司以算法“精准”向用户推荐产品，通过影响数字生活而改变现实生活，而这些产品不仅直接体现消费主义意识形态，而且可能隐含不良内容。为控制用户，数字企业不断降低产品使用门槛，通过算法迭代升级，提升便捷性；不断开发推送通知、个性化定制和分享等功能，提升消费者参与度，强化“用户黏性”，即“控制用户的注意力时间”。由此，“数据分析—智能推荐—黏性培养”的意识形态循环机制形成，这一“点对点地进行精准化的、持续性的”价值传输模式，加深了人们对智能产品的依赖，使人们在日常生活中“机不离手”，沉溺于资本主义意识形态“囚笼”而难以自拔‌。

　　第三，人工智能的“非意识形态化”作用机理让资本主义意识形态渗透变得更加隐蔽。“非意识形态化”与“意识形态化”相对，是资本主义进行意识形态渗透的补充手段。相较于借助军事冲突和政治斗争输出，思想文化输出具有“低成本、隐蔽性、伪装性”等优势。因此，冷战期间，以美国为首的资本主义国家常利用思想文化侵略瓦解社会主义阵营，而“非意识形态化”渗透方式随着科技迅猛发展沿用至今。如此，本就具有“非政治化”虚伪面纱的意识形态，就通过各种越来越“亲民”的技术实现日常生活化，以更加隐蔽的方式出场。“科学技术这种新的意识形态形式抛弃了以往依赖于绝对的剥削和欺骗的意识形态呈现方式，取而代之的是一种易于让人接受的柔性间接控制方式。”随着资本与智能技术“联姻”，“去意识形态化”的意识形态渗透正被推向极致，人们虽能接入全球互联网，获取来自世界各地的信息和文化产品，但技术手段本身就附带着特殊价值取向，隐藏着资本主义意识形态，而且生成式人工智能可以根据特定指令自动生成能够引导用户价值观念的内容，实现对社会成员的“洗脑”和隐形意识形态控制，使人们不知不觉认同资本主义生活方式和价值理念。

　　尽管人工智能技术十分先进，但这并不意味着它没有意识形态工具的特征。当下，人工智能依旧是资本主义达成政治目的、维护经济利益的手段。在政治领域，人工智能正协助资本主义推行意识形态霸权，不仅表现为将带有意识形态色彩的产品植入数字化生活，而且表现为应用具有意识形态属性的推荐算法。例如，在俄乌冲突中，美国将自己标榜为“民主”的代表，把俄罗斯定义为“专制”的代表，并利用推荐算法传播此类观点，通过社交媒体发布虚假信息、煽动社会情绪，拉拢其他国家加入自己的阵营。通过技术渗透，美国实际上介入了俄乌冲突。在经济和社会生活领域，资本主义正凭借智能技术实施更加普遍的意识形态渗透，以此攫取经济利益。例如，大型数字企业通过广告、游戏、视频等内容产品，不断传播资本主义生活方式，诱导消费，使社会财富加速流向资本主义国家。同时，在算法推荐下，人们加深对数字产品的依赖，转而投身数据生产，这些数据既可作为商品打包出售，也可作为训练算法的“原料”促进人工智能迭代升级，而在资本主义意识形态控制下，人们通常对此毫不知情。

　　总之，在由资本主义掀起并主导的智能化潮流中，人工智能主要由发达资本主义国家的极少数利益集团掌控，成为其实施意识形态渗透的手段。智能化工具在很多方面突破了传统工业机器在意识形态功能上的局限，正以新路径、方式和方法将资本主义意识形态推向世界每个角落。随着资本对科技创新投入不断增加，人工智能各项机能的指数级提升，引发了一些新的意识形态问题。

　　二、智能“逃逸”与自主化的“意识形态智能体”

　　马克思主义认为，技术并不会控制人，“技术控制人”往往由特殊应用方式导致，比如在资本主义应用方式下，技术会对人形成控制，产生颠倒的人机关系。马克思对此展开深刻批判，在资本主义生产方式中，规模化、程序化、工具化的机器生产使工人必须按照机器节律从事劳动，变相成为机器的附庸。马克思指出：“在工厂中，是工人服侍机器”“不是工人使用劳动条件，相反地，而是劳动条件使用工人，不过这种颠倒只是随着机器的采用才取得了在技术上很明显的现实性”。这种颠倒的关系并没有因时代发展而退场，反倒发生一系列新变化，转向智能机器在生产生活领域中对人的观念、意识进行控制。正如马克思预言，机器“是人的手创造出来的人脑的器官，是对象化的知识力量……一般社会知识，已经在多么大的程度上变成了直接的生产力，从而社会生活过程的条件本身在多么大的程度上受到一般智力的控制并按照这种智力得到改造”。进入智能时代，以智能机器形态出场的“一般智力”对人形成巧妙操控，进而引发“智能异化”这一新型意识形态危机。

　　（一）从“智能涌现”到“智能逃逸”：机器智能自主能力初显

　　发展至今，人工智能大致经过计算智能、感知智能、认知智能等阶段，并随着ChatGPT等生成式AI的问世，向通用智能阶段迈出关键性一步。生成式人工智能以大模型为核心，是一种拥有大量参数和复杂结构的机器学习模型，“具有‘大智能’‘大应用’‘大参与’的技术特征及功能效应”。通过预训练海量数据，大模型能够发现数据的规律和隐藏信息，生成极强的预测性能，从而在应用端处理自然语言、计算机视觉、语音识别以及推荐系统等更加复杂的任务。尤其是随着GPT-4等大型多模态模型的出现，人工智能已在面部表情识别、文字输入限制、情感感知、回答准确性等方面实现巨大突破，可以根据要求和提示处理更加细致与复杂的指令，生成风格多样的创意文本、代码、演示文档、视频等内容，呈现出更稳定可靠、有创造力的生成性能。不仅如此，基于循环反馈机制，算法模型能够在数据持续输入的情况下发现自身缺陷并积极自我调整、改善和升级，展现出强大的学习能力、创造能力、泛化能力和自我改进能力。

　　随着数据井喷、算法改进和算力指数提升，人工智能呈现出“狂飙突进”的发展态势，使越来越多人类智能为机器习得和应用，引发了“智能涌现”现象。马克思指出，“资本只有一种生活本能，这就是增殖自身，创造剩余价值”，与资本将攫取来的利润“再资本化”相似，人工智能通过训练获得的能力“再智能化”，不断提升自身智慧。在资本主义条件下，智能技术往往遵循“效率最优化”和“系统合理化”等加速进化。在这一过程中，人工智能通过网络吸纳越来越多数据，使数据如“洪水”般加速“集聚”，为人工智能进化升级提供了基本“养料”。“没有大数据，机器学习算法无法学习。”通过学习和训练海量数据，算法逐渐发现其中的人类智能和事物关系等，并在实践中加以应用。“类人智能”等新型智能体正快速学习人类能力，“一旦机器掌握了一项技能，便可以高速重复使用这项技能，并且及其精准、不知疲倦”。人工智能的学习和进化能力突飞猛进，不断从数据“实践”中掌握新知识，发展出原本只有人类才拥有的高级智能。

　　生成式人工智能在多领域取得了超出预期的突破，不仅逐渐表现出类人特征，而且还在快速进化，日益呈现出“智能逃逸”态势。从物种进化速度看，人工智能似乎遵循“硅基生物”的指数级进化逻辑，在许多专用领域和特殊能力方面已赶上甚至超越人类。从图灵测试到围棋领域“人机大战”，从机器人“索菲亚”获得公民身份到ChatGPT等生成式AI风靡，人工智能正在削弱工业机器的机械性和工具性，在思维、意志、预测、创意和交流等智能层面不断取得突破。“随着人工智能的不断发展，它已经变得越来越不人工（也就是不依赖人类来设计），而变得越来越高深莫测，难以看透。”例如，在GPT-4诞生之初，计算心理学家科辛斯基就与其展开过深度对话，结果GPT-4透露了自己的“越狱”想法与详细计划，甚至“暗示”人类协助其实施该计划。由生成式人工智能引发的“智能逃逸”不禁使人担忧，一旦跨过“奇点”，拥有超级智能，人工智能就可能以一种“类人”甚至“超人”形象反过来同人类竞争并最终胜出。

　　（二）自主化“意识形态智能体”引发“智能异化”风险

　　尽管目前在语义理解、意识生成和自反性等能力上还有欠缺，但人工智能可以用统计的方式、通过数据分析理解事物间的因果关系并提供解决方案。因此，面对未来的不确定性，“人工智能将抽象的未来简化为可操作的‘预测下一个标识’，在没有借助先验方法的条件下，成功地以贝叶斯方法去保证预测的有效性和可信度”。在应用层面，人工智能既能自动决策和精准预测，又能应对复杂提问。令人担忧的是，“人工智能算法能够自己学会没有写进程序里的东西，也能够自己决定人类高管并未预见的事情”。也就是说，如果不加限制地训练模型，那么算法极有可能按照自身理解和“需求”设定目标，在应用中把相关的人和物当作工具或手段。为实现程序目标，人工智能将改造人类意识，使其服从算法逻辑。有观点认为，人工智能尚未发展出且很难发展出自我意识，因此自然无法改造人类的意识，但实际上，人工智能能否生成自我意识与能否改造人类意识并无必然联系，如它可以作为不同于人类意识的思想实体完成相关活动。

　　随着智能不断“集聚”和“涌现”，人工智能极有可能摆脱人类控制，成为一种独立于人而存在的自主化“意识形态智能体”。如果说资本家是资本的“人格化”，那么意识形态智能体就是人工智能的“实体化”，由智能逻辑和工具理性主导。“工具理性强调效率和经济效益”，世间万物都可进行数据化分解并加以工具化应用，成为技术增长的有利条件。对于人类这种拥有主观意识的生物，人工智能可通过意识改造诱导人类认同智能逻辑。因此，一系列问题值得思考：为什么人类总是不加限制地致力于推动技术创新？为什么技术增长与社会分化总是相伴而行？这一切到底是人类自己期望的，还是在技术“座架”控制下期望的？随着机器智能自主性快速提升，我们不得不深思这些哲学问题，因为面前的事实是：具备智能的机器正按照智能逻辑影响和改造人类，而人类似乎没有察觉到这一点。

　　在智能逻辑看来，并非所有人都对技术增长有价值，没有“价值”的人将面临被筛选和排挤出社会的风险。按照目前人工智能发展速度看，高度智能化的社会不再是“天方夜谭”。在智能社会中，无人化生产可以为整个社会提供基本生活资料，资料的分配、交换和消费由智能手段执行，智能分析和智能决策日益嵌入社会治理，甚至无人化的机器人军队也掌握在智能系统手中……如果有人类成为智能社会和智能系统运转的阻碍，那么人工智能极有可能将其识别为“累赘”并排斥于社会之外。人类实践活动产物使人类变得“无用”，造成“智能异化”，这将彻底实现马克思的预言，“科学、巨大的自然力、社会的群众性劳动都体现在机器体系中，并同机器体系一道构成‘主人’的权力”。

　　意识形态智能体是“智能异化”的产物，由此可能造成新型的“技术利维坦”。事实上，类人化发展仅是冰山一角，人工智能“不像人”或“异于人”的发展更令人担忧。当人工智能开始独立思考并决策时，就可能摆脱人类控制，制定符合智能逻辑的新规则。“只要人工智能拥有对自身系统的反思能力，就有可能改造自身系统，创造新规则”，而这些规则一旦被运用到人类社会，人工智能必然会塑造人类意识。智能逻辑遵循的工具理性不同于价值理性，如果由意识形态智能体主导整个社会有机体运转，那么人类将不可避免被导向未知风险。2024年10月，一位14岁的美国少年在与人工智能聊天系统讨论关于死亡的问题后饮弹自尽，引发全球首例人工智能致死案。由此，“人工智能毁灭人类”的担忧开始有了现实依据。无处不在的人工智能规则发挥指导性作用，就可能让人类逐渐丧失思考和行动能力，在依赖中受到智能系统统治。这一人工智能“反客为主”的奇特现象就是“技术利维坦”。算法和机器取得巨大权力，可能造成技术失控的社会风险——主宰人类未来的不是什么神秘的东西如“上帝”，可能正是人工智能。

　　如果说传统的工业机器与专用智能是意识形态渗透的手段，那么，意识形态智能体就是意识形态本身，将导致机器智能与人类智能直接对立，使人工智能和人类产生对抗。这一对抗前所未有，人类有可能失败，沦为被机器控制的“奴仆”。

　　三、从“资本批判”到“技术批判”：反思人工智能意识形态危机

　　在改善人类生产生活方式的同时，人工智能也带来一定消极后果，尤其是助推资本主义意识形态在全球蔓延并向各个领域渗透。在资本逻辑与智能逻辑复合作用下，“智能异化”现象日益显著，人工智能不仅呈现出摆脱人类控制的势头，而且正按照智能逻辑改造人类意识。因此，有必要对人工智能的意识形态影响做批判性思考，寻找应对方案，使智能技术创新服务于人的发展。

　　（一）颠覆人工智能应用方式，抵御资本主义意识形态渗透

　　人工智能成为资本主义的意识形态工具，离不开私有制下“人工智能的资本主义应用”。因此，有必要转变人工智能的应用方式，重塑其背后的所有制形式，达到对“人工智能的社会主义应用”，抵御资本主义意识形态渗透。“数据是人工智能所有技术最为基础的单元”，不仅算法的训练、改进和升级都离不开数据，而且市场预测和广告推荐等也离不开数据，而数据来自全体人民的数字化实践。由全民共同生产的数据资料为新型公有制奠定了物质基础，同时人工智能也为数据生产者的大联合提供了技术条件。因此，有必要以数据资料公有制取代数据资料私有制，实现全民生产的数据资料由全民所有。这意味着，人们不仅享有是否向平台上传数据的权利，而且享有数据使用知情权和监督权。

　　针对资本主义意识形态智能化渗透，我国必须加快技术自主创新步伐，通过智能科技创新抢占智能时代的意识形态阵地，抵御资本主义的意识形态霸权。例如，“以颠覆性技术推动意识形态治理智能化”，通过研发能够识别、筛选、过滤附带资本主义意识形态的算法模型和软件平台，构建起意识形态渗透的防护网，“用主流价值导向‘驾驭’算法”，创造更加多样化内容产品，用人们喜闻乐见的方式传递社会主义意识形态，促使人们将社会主义价值观内化于心，自觉抵御资本主义意识形态渗透。

　　（二）引导智能技术健康发展，阻遏“智能异化”意识形态风险

　　人工智能的超预期进化是数据、算法和算力综合作用的结果。数据来自全球各地不同个人的数字生活，大数据既表征向善价值观，也潜藏向恶的价值观。如果不加监管进行数据训练，那么算法就有可能形成向恶价值观，并在“人智反馈循环”过程中无限放大。“如果算法系统不假思索地依赖带有人类偏见的数据，机器学习也会面临进一步加深人类偏见的风险。”这些负面观念被算法习得后，人工智就会生成“做恶”能力，“各种数字化智能机器不仅在生产过程中逐渐代替人的位置，将人驱逐出工作岗位，在生活中更是占据和控制着人的身体和心灵，撼动和威胁着人的主体性地位”。为此，有必要确立发展规则，为智能科技创新设置红线，防止人工智能“逃逸”并产生“做恶”能力。

　　任何技术创新都须坚持以人为本。面对“智能异化”趋势，人们有必要探寻引导人工智能向好向善发展的方案。人工智能的发展离不开技术研发、数据原料、算法学习等因素，“智能向善”首先意味着科技工作者向善。这就要求相关从业者应接受道德教育、通过伦理测试，树立正确价值观。对于研发有害模型的行为和责任者，须以法律进行严厉打击，不断提升科技工作者的责任意识。其次，智能向善的前提是“数据向善”，必须注明数据来源，对不同数据做分级、分类处理，防止乱用和滥用。最后，智能向善的根本在于“算法向善”。面对复杂语料，必须让算法具备分辨是非好坏的判断力和自反能力，使其不仅能学习向善的内容并在应用中执行，而且能学习向恶的内容并在应用中改正。

　　（三）推动技术垄断向技术开源转变，加快构建新型人机文明

　　“人工智能作为类人的社会存在，从存在逻辑上影响着人类的自我探询与主体认知。”人工智能应是人类关照自身、促进自身发展的手段，而不应成为异己敌对力量。当前，人工智能自主意识和自主能力初步显现，挑战着人类的主体性地位，如ChatGPT等大语言模型能清晰感知任务、自发识别并描述自身行为，具有一定的行为自我意识。随着智能水平不断提升，人工智能欺骗甚至改造人类意识的倾向会愈发明显。但是，对于机器“如何”“为何”会欺骗等“黑箱问题”，人类依然束手无策。“透明度可以通过允许访问代码来展示，但是实际程序的复杂性使得人们难以知道或者不可能知道程序将完成什么。”令人担忧的是，在垄断资本主义主导的新一轮智能科技革命中，先进算法模型被用于维护资本主义国家、集团和个人特殊利益，许多算法“在黑箱问题”解决之前就匆匆面世，这无疑会造成大量消极影响。

　　为此，必须加快打破资本主义对算法技术的垄断，以“共商、共建、共享、共治”的发展理念应用人工智能。“科技进步是世界性、时代性课题，唯有开放合作才是正道。”第一，在新一轮科技革命中，中国必须抓住机遇，在独立自主创新智能科技的同时，不断凝聚共识、深化国际合作，促进核心技术突破，打破资本主义垄断。第二，充分发挥人工智能促进会、国际电信联盟等国际组织的作用，敦促人工智能企业和科研机构承担社会责任，共享科研成果，推动算法模型的技术开源，为共克“黑箱难题”贡献力量。第三，有必要加强基础科技理论教育，不断提升全民科技素养，加深人们对算法的理解。第四，对于任何超出人类认知和监管的算法模型，必须明令禁止，防止人工智能摆脱人类控制，以超级智能的姿态反制人类，确保所有面向消费者的算法模型都是可信任的。随着难题不断攻克，人工智能必会实现巨大发展，以“人机共融”“人机共生”等方式促进人的自由全面发展，为人机智能文明到来奠定基础、创造条件。

　　（作者：尹帮文，重庆邮电大学马克思主义学院讲师、上海大学智能哲学与文化研究院特约研究员；孙伟平，上海大学智能哲学与文化研究院教授。来源：昆仑策网【授权编发】，转编自“毛邓理论研究”微信公众号，原载“《毛泽东邓小平理论研究》2025年第5期”；图片来自网络，侵删）