AI Ethics & Governance

Addressing the societal implications, privacy concerns, and regulations of AI.
自主性基础:界定与衡量人工智能系统中的能动性
AI Ethics & Governance

自主性基础:界定与衡量人工智能系统中的能动性

随着人工智能日益深入人们的日常生活,关于"AI自主性"(通常表述为"能动性")的讨论变得愈发紧迫。所谓能动性,指的是AI系统在无需持续人工干预的情况下独立行动、决策并执行计划的能力。尽管我们习惯性地将某些系统称为"自主",但深入探究便会发现其中交织着技术、哲学与伦理的复杂命题。 我们曾发表过探讨实现具身智能关键技术的文章。但AI真正具备能动性意味着什么?如何量化这种自主性?这对社会和企业界又将产生哪些深远影响?本文旨在剖析AI能动性的理论基础,探索其定义与量化方法,并通过实际商业案例加以阐释。 人工智能中的能动性概念 能动性(Agency)是哲学与认知科学中的经典概念,传统上指具备独立行动能力和意向性的主体。当我们将这一概念引入人工智能领域时,一个根本性问题随之浮现:机器是否真的具有自主性,抑或只是在执行一套复杂的预设指令?这场争论的核心,在于类人类的理解能力与机械化处理之间的本质张力。当今从自动驾驶汽车到智能助手的AI系统,虽展现出不同程度的自主性,却普遍缺乏构成人类能动性核心的自我意识与真实意向。 即便有限度的能动性,也能深刻改变AI系统与世界的交互方式。例如实时规避障碍
6 min read