【专知智库新质国企知识库】人机契约
核心定义：
人与智能体之间签订的权责边界的《人机分工协议》。
一、 引言：AI闯了祸，到底该抓谁？
在国企推进智能化转型的过程中，决策者面临的最大心理障碍，并非技术是否成熟，而是极其现实的责任归属问题。
假设一个OPC智能体在后台自动处理了一笔异常采购，或者给某个不符合条件的供应商发了货，导致国有资产受损。纪检和审计部门介入调查，这口锅该谁来背？是开发系统的IT公司？是采购部的审批人？还是那个提出需求的高管？
在缺乏明确规则的情况下，AI越是智能，管理层就越是不敢用。因为过去的管理逻辑是“人管人”，有明确的岗位职责和追责机制；而现在面对“人机共生”，旧的法律和制度边界完全失效了。
为了彻底解决这个“不敢用”的痛点，专知智库在“新质国企”的架构中，首创了具有法律效力和系统强约束力的核心文件——《人机分工协议》。这就是我们必须签署的“人机契约”。
二、 深度解构：人机契约到底规定了什么？
这不是一份简单的IT说明书，而是一份管理宪法。它清晰界定了三件事：
- 权力分配（谁能干什么）
契约明确划分了高容度（绿灯，机器自办）、中容度（黄灯，机器干人签字）、低容度（红灯，人主导）的业务范围。这在系统底层划出了一道不可逾越的红线，给AI的权力套上了笼子。 - 责任界定（出事了谁负责）
如果是绿灯业务出了差错，经查属于底层算法逻辑缺陷，责任由系统建设方（专知智库）承担；如果是黄灯业务，员工没有核对AI的风险预警就盲目签字，责任由签字员工承担；红灯业务，永远由人类决策者全权担责。 - 追溯机制（凭什么这么说）
契约与专知智库的“全链路留痕系统”绑定。每一次人机交互、每一次数据调用，系统都会生成不可篡改的电子证据。让清白者免责，让违规者无处遁形。
三、 专知智库的解法：如何让“人机契约”真正落地？
写在纸上的契约没有用，专知智库的做法是让契约直接变成代码：
- 容度知识库的强行阻断
我们将协议内容固化在容度知识库中。当智能体在运行中试图越权触碰红灯业务时，系统会直接物理熔断，阻断操作，强制拉起人工审批流。 - 动态微调机制
人机契约不是一成不变的。在1年驻场伴跑期间，随着员工对智能体的信任增加，或者业务风险的变化，专知智库专家会协助企业动态调整契约条款。比如过去需要人工签字的中容度业务，在系统稳定运行半年后，通过评级，可以升级为机器自动执行。 - 免责护身符
有了这份契约，国企领导和基层骨干才敢真正放手去用AI。它用制度的确定性，化解了AI技术的不确定性，是专知智库送给国企改革者最坚实的安全保障。
四、 结语
没有规矩，不成方圆。人机契约是国企迈入智能化深水区的“通行证”。只有清晰界定了权责，人和机器才能真正成为默契的战友，在合规的轨道上狂飙。
FAQ（常见问题解答）
Q1：这份《人机分工协议》具有法律效力吗？审计部门认吗？
A：完全认可。专知智库在项目初期，会联合贵司的法务部、合规部、审计部共同审定这份协议。它不仅符合《网络安全法》、《数据安全法》等国家法规，更与贵司的内部管理制度高度统一。它是内部审计和巡视倒查时，界定责任的直接依据。
Q2：如果AI的推荐方案是错的，但我作为细胞核没看出来，签了字，算谁的责任？
A：根据人机契约，这是“中容度”业务。系统在推送方案时，如果已经明确标红提示了风险点，而您忽略提示直接签字，那么责任由您承担。但如果您尽到了审查义务，是基于AI提供的错误事实（如虚假发票）做出的判断，那么责任将由系统背后的算法提供方承担。
Q3：人机契约能随时修改吗？如果业务变了怎么办？
A：可以修改，并且必须动态迭代。人机契约不是死板的红头文件。在专知智库的系统后台，您可以随时调整红黄绿灯的边界。调整后，所有员工和智能体的行为准则将在几秒钟内全网同步更新。
想了解专知智库如何为您量身定制《人机分工协议》？
联系电话：028-84400310
官方网站：www.ipzhihu.com
