2025年6月25日，前途网站与杂志主编、独立专家、前欧洲通讯社（德国）驻罗马分社记者卡洛·马里诺博士在2025·中欧人权论坛主旨发言后，接受了华中科技大学人权法律研究院网站、微信公众号通讯员喻翰林采访，就人工智能与人权、人工智能发展与人的主体性价值谈论具体观点。

1、喻翰林：卡洛·马里诺博士您好，很荣幸能够采访您，请问您是如何理解人工智能与人工智能发展的？

卡洛·马里诺博士：人工智能（AI）指的是那些能够通过分析自身所处环境并采取行动（在一定程度上具有自主性）以实现特定目标而展现出智能行为的系统。基于人工智能的系统可以完全由软件构成，运行于虚拟世界中（例如语音助手、图像分析软件、搜索引擎、语音和面部识别系统），或者人工智能也可以嵌入到硬件设备中（例如先进机器人、自动驾驶汽车、无人机或物联网应用）。人工智能正在经历一场重大的变革：从完全依赖人类生成数据的传统学习模式，逐渐转向自主学习的形式，在这种形式中，人工智能通过直接经验与环境（无论是真实的还是模拟的）的互动来获取技能。生成式人工智能（如大型语言模型）的成功依赖于对由人类生成的海量数据的训练：包括文章、书籍、对话、图像和视频等。这种方法促成了能够完成多种任务的多功能系统的诞生，但同时也存在结构上的局限性。特别是在某些领域（例如高等数学或计算科学），现有的人类知识已达到饱和阈值：仅仅通过添加新的人类数据，模型的性能就不会再有显著提升。为了克服这些局限性，研究正致力于开发能够从经验中学习的模型，即通过与复杂环境的主动互动来实现。在这种模式下，人工智能不再只是被动地“吸收”数据，而是会行动、实验、接收反馈并根据所取得的结果调整其策略。

2、喻翰林：就您今天大会报告的话题，您如何理解人的主体性与人工智能之间的关系？

卡洛·马里诺博士：人类的主观性与人工智能的发展之间的关系是一个深刻且不断演变的话题，涉及伦理、哲学和技术等方面。一个细胞具备机器的所有经典机械特性，同时还具有源自生命信息、意识和自由意志的量子特性。在机器人中，并不存在一个整体，只有其各个碎片的总和，即其经典部分。而一个细胞则与一个量子整体相连，这个整体的性质远超其量子和经典部分的总和。简而言之，使生物与人工智能机器人有所区别的关键特性在于意识和自由意志，这些特性能够与细胞的量子部分进行交流，通过生命信息来决定其整体行为。具体而言，“人类的主观性”指的是我们独有的能够进行有意识体验、产生情感、展现创造力以及进行道德推理的能力。与人工智能不同，人类具备以下四种特质：第一，自我意识：能够反思自身存在和所做选择的能力；第二，情感深度：诸如爱、痛苦和喜悦等情感会影响人类的决策；第三，伦理判断：基于情境而非单纯规则的道德推理能力；第四，创造力与直觉：艺术、哲学和创新源自主观体验。这些特质使得人类的判断在诸如法律、医学和艺术等领域中不可或缺，因为在这些领域中，细微之处和同理心至关重要。其主观意义与机器所使用的客观符号是不同的。例如，为了选择用于与某人交流所需的词语，我必须首先将我的主观意义转化为脑海中的语言，然后将其说出来。这样我就创造出一种能够传递我们双方所理解的语言所传达意义的声波。这些声波被杰戈的听觉系统所感知，并在不知不觉中被认作是我想要表达的那些象征性的词语。到目前为止，这个识别过程与机器的操作类似。然而，紧接着，卢卡在意识中不仅感受到了被识别词语的声音感受，还感受到了它们的主观意义，而这个意义可能与我的不同。

3、喻翰林：以您的理解，人工智能与人类的区别是什么？

卡洛·马里诺博士：哲学家们使用“质感”（Qualia）这一术语来指代我们在意识中所体验到的感知和情感。质感指的是我们在自动识别符号之后在内心体验中所感受到的东西。符号是质感的载体，而质感则是意义的载体。计算机无法听到任何声音，当一个符号被识别时，这种识别仅仅会生成另一个符号。这就是计算机所能做的全部事情。质感和意义是意识的属性，而这些属性在计算机中并不存在。当我们说自己是“有意识的”时，意思是我们拥有基于感觉和情感的内心体验。在这种情况下，对身体信号的自动且无意识的检测，随后对这些信号的机械处理和识别，最终会形成一种基于“质”的有意识体验。因此，有意识的感知就是将神经系统的自主电磁和电化学活动以及身体的这些活动转化为“质”的过程。简而言之，我们对一个单词的识别过程就像机器人一样自动完成，但我们的意识则更进一步，将这个符号转化为声音体验，并赋予其相应的意义。这些意义主要来源于与我们生活经历的长期记忆相关的各种情绪和想法。被传达的意义一旦由主体自由选定，就具有意识和自由意志，尽管它受到物理法则的严格限制。细胞具备了机器所具有的所有典型机械特性，此外，它还具有源自生命信息、意识和自由意志的量子特性。在机器人中并不存在“整体”概念，只有其各个典型的组成部分的总和。而细胞则与一个量子整体相连接，这个整体远不止是其量子部分和经典部分的简单相加。简而言之，使生物与人工智能机器人有所区别的关键特性在于意识和自由意志，这些特性能够与细胞的量子部分进行交流，通过生命信息来决定其整体行为。

4、喻翰林：您是否认为人工智能最终会取代人类？

卡洛·马里诺博士：随着人工智能的发展，人工智能能够增强人类的创造力（例如，人工智能辅助的艺术创作、医疗诊断），但不应取代人类的判断力。从另外的角度来说，如果人工智能系统在没有人类监督的情况下做出决策（例如自主武器、存在偏见的算法），那么主观性的价值就会受到损害。进一步思考，这些关于人工智能的哲学问题就会显现出来：人工智能能否真正具备意识？它是否应该模仿人类的情感？这些争论凸显了人类经验的独特性。说到真正的智慧，正是有意识的理解才起到了关键作用。而这种理解是意识所独有的、非算法性的特性，计算机永远无法具备。计算机之所以能够发现海量信息之间的统计关联，是因为它们能够比我们快数十亿倍地进行数学运算。人工智能能够为社会做出这一贡献实属一大成就，但这在概念上并非什么新事物。在诚实、正直和道德的引导下，人工智能将使我们能够极大地增进对世界的理解，使我们能够掌控那些超出我们大脑作为机制所能控制范围的现象。然而，人类真正的智慧并非来自大脑，而是来自意识。需要觉醒并认识到自身更广阔本质的正是自我意识，这样才能明智地利用人工智能造福大众，而不是加以控制。

5、喻翰林：您认为东西方对待人工智能的观点是否不同？我们应该如何处理这种差异？

卡洛·马里诺博士：对东西方观点的比较至关重要，因为它凸显了两种截然不同的理念。在西方，当我们谈及人工智能时，我们会提及个体自主性、个人自由、道德责任。我们这样做是因为我们深受希腊哲学和神学的影响，这些思想是以其特有的语言表达出来的。因此，人工智能的愿景是以权利为核心：保护隐私、知情同意、算法控制。在东亚地区，尤其是在儒家思想中，出发点是不同的：人类并非孤立的个体，而是在关系网络中的一个节点。道德源自联系，源自对家庭、社区、社会的责任感。在这种情况下，人工智能必须根据其能否促进和谐与社会凝聚力的能力来进行评估，而不仅仅是保护个人。与技术本身的关系也蕴含着这两种理念。一方面，西方的理念将技术视为一种中立的手段，仅根据其使用情况来评估。另一方面，东方的理念则将其视为一种环境，认为它是塑造、形成和改变人类的因素。人工智能并非仅仅是一种工具：它是人类生活、思考和感受的环境的一部分。我们不能仅仅思考如何使用它，还要思考如何在其中生活，保持人类的本性。因此，我认为未来我们应该合作而非取代。最佳的发展方向是以人为本的人工智能，在这种模式中，机器负责计算工作，而人类则提供智慧、道德判断和情感智能。