人工智能体的自主性与责任承担

发布时间：2024-03-06 05:18

　　认知是人类对信息加工的过程。延展认知理论认为,认知不一定局限于大脑和身体之内,可以延展到身体之外。当前,借助互联网和大数据技术,人工智能体对人类感觉、知觉、思维、语言等多种认知能力模拟水平飞速提高,智能化程度也大大提升。在智能体与人、环境等要素共同构成的人机系统中,人机交互呈现出新的特点,智能体表现出越来越强的"自主性",而人却主动地放弃选择的自由,这引发学界关于人机系统中智能体能否承担事故责任以及怎样承担等问题的新讨论。本文认为,人类的认知可以被人工智能体延展,但责任却不能延展,由此设计出人机系统的责任分配原则;最后分别从人工智能体的"输入-输出"能否控制,尝试在四种语境下给出了人机系统的责任承担方案。

【文章页数】：6 页

【文章目录】：
一、人工智能体的自主性与担责可能性的论辩
    1. 正方意见:人工智能体已经产生自主性,可以承担一定责任
    2. 反方意见:人工智能体没有自主性,不能担责
    3. 综合意见:人工智能体可以延展人类认知,但是责任不能延展
二、人机系统的责任分配原则
    原则一:以人为本、共生共存原则
    原则二:人类作为责任主体承担全部后果
    原则三:分级分类制订担责方案
三、人机系统的责任承担方案
    第一,“人——输入输出均可控的人工智能体”:传统的技术补救和法律问责
    第二,“人——输入不可控、输出可控的人工智能体”:政府和企业的安全监控
    第三,“人——输入可控、输出不可控的人工智能体”:技术的价值敏感设计和风险转移机制
    第四,“人——输入输出均无法控制的人工智能体”:国家之间缔结盟约应对全球威胁
四、结语:我们到底需要什么样的人工智能?



本文编号：3920608