AI 治理 · 马来西亚与新加坡
马来西亚与新加坡的 AI 治理
您的员工已经在使用 ChatGPT、Claude、Copilot 或 Gemini,速度往往快过公司政策。本指南说明 2026 年适用哪些规则,以及如何在 90 天内治理 AI:从免费模板开始,逐步发展为风险团队每周使用的 AI 风险管理平台。
更新于 2026年10月31日 · 基于 AI Governance Kit v1.0

- 份可编辑模板
- 48份可编辑模板
- 项管控措施,各有编号
- 422项管控措施,各有编号
- 个层级:Lite、Standard、Regulated
- 3个层级:Lite、Standard、Regulated
- 天建立稳定的 Lite 治理
- 90天建立稳定的 Lite 治理
简短答案
什么是 AI 治理?
AI 治理是一套规则、角色和记录,用来决定组织可以使用哪些 AI、用于什么、使用哪些数据,以及出问题时由谁负责。实际上,它从五件事开始:一个获批准的 AI 工具、一份可接受使用政策、一份在用 AI 登记册、每个 AI 系统的指定负责人,以及一种报告事件的方式。
为什么是现在
马来西亚和新加坡的 AI 规则正从自愿遵守走向监管预期
风险和 IT 团队通常面对两个糟糕的选择:在从零编写政策期间放慢 AI 采用,或者在没有清单、负责人和证据的情况下任由其运行。良好的治理让您不必二选一。
大多数组织已经在使用 AI 工具,许多组织现在还把它们连接到电子邮件、文件和业务系统,或让智能体在浏览器中执行操作。这使 AI 风险从“有人输入了什么”转变为“这个系统能代表我们做什么”。我们的智能体 AI 治理指南介绍了自主级别和连接器管控。
监管机构的期望正趋于一致:了解您运行的 AI、对其风险分类、指定人类负责人、管控第三方,并报告事件。
| 法规文件 | 状态(2026年10月) | 要求内容 |
|---|---|---|
| 马来西亚:《国家人工智能治理与伦理指南》(AIGE) | 状态(2026年10月)自愿性,已生效 | 要求内容七项原则,包括问责、透明和隐私 |
| 马来西亚:《2010年个人资料保护法令》(PDPA),2024年修订 | 状态(2026年10月)已生效 | 要求内容资料保护官(DPO)、72 小时内通报资料泄露、个人资料跨境传输规则 |
| 马来西亚:AI 治理法案 | 状态(2026年10月)草案(咨询中) | 要求内容开发者与部署者的义务、危害分级、事件及未遂事件(near miss)报告 |
| 马来西亚:个人资料保护局(JPDP)AI 与个人资料框架 | 状态(2026年10月)草案(咨询中) | 要求内容贯穿 AI 生命周期的隐私设计与影响评估 |
| 新加坡:Model AI Governance Framework for Agentic AI(智能体 AI 治理示范框架) | 状态(2026年10月)自愿性,已生效 | 要求内容预先界定智能体风险、人类问责、技术管控 |
| 新加坡:MAS AI Risk Management Guidelines(AI 风险管理指南) | 状态(2026年10月)已定稿,2027 年起适用 | 要求内容AI 清单、风险重要性、生命周期管控(金融机构) |
状态截至 2026年10月,出自 AGK Pre-read v1.2。法律草案在咨询期间会有变动:依赖之前请核对最新文本。
良好的 AI 治理涵盖什么:五个基本模块
无论是哪个监管机构,都会提到同样的五个基本模块。每一个都对应一份您本季度就能采用的文件。
01
了解您运行的 AI
一份涵盖所有 AI 工具和系统的登记册,包括员工自行找来使用的工具。
AGK-TPL-01, AGK-PRC-07
02
对风险分类
将数据从“公开”到“机密”分级标注,并决定每个级别可由哪一层级的 AI 工具处理。
AGK-STD-A02
03
指定人类负责人
一位 AI 发起人、一位 AI 治理负责人,以及每个 AI 系统的负责人。
AGK-001
04
管控第三方
只用获批准的工具,并按基线配置;连接器和智能体须在使用前获批。
AGK-POL-02
05
报告事件
一份日志、一条清晰的报告渠道,以及个人资料泄露的 72 小时时限。
AGK-TPL-06
影子 AI
影子 AI(Shadow AI):先找出来,再谈治理
影子 AI 是指员工在未经组织批准的情况下用于工作的任何 AI 工具:个人 ChatGPT 或 Claude 账户、浏览器扩展,或在 SaaS 应用中开启的 AI 功能。您无法为不知道的 AI 制定规则,所以把它找出来是 90 天计划的第一步。
01
询问员工
做一份简短调查,了解大家在工作中使用哪些 AI 工具、用来做什么。
02
顺着费用查
报销记录和 SaaS 订阅会显示没人申报过的付费 AI 工具。
03
检查网络
网络与 SaaS 排查会显示公司设备访问了哪些 AI 服务。
04
先免责,再登记
为自行申报的工具设 30 天免责期,之后把每个工具记入 AI 系统登记册。
每个步骤及其负责人和时间安排,详见 影子 AI 排查程序。
工具包的结构
五个层级,从董事会原则到平台设置
每个层级回答不同的问题,变化速度也不同。政策可多年保持稳定。供应商设置每月都在变,因此放在最底层,更新时无需董事会批准。
POL · 政策
为什么和做什么
批准人: 董事会或 CEO
STD · 标准
可测试的管控措施,每项都有编号
批准人: AI 治理委员会
PRC · GDL · 程序与指引
逐步操作方法、负责人和时间表
批准人: AI 治理负责人
TPL · 模板
保存证据的登记册和表格
批准人: 文件负责人
ANX · 供应商附录
每个 AI 平台的具体设置;唯一点名供应商的地方
批准人: AI 平台管理员
共享核心上的两条路线
核心
章程、可接受使用、风险与数据政策、申请受理、事件与审查。每个组织都需要。
路线 A:使用 AI 工具
适用于使用供应商 AI 工具的组织:平台基线、数据处理、连接器、浏览器智能体与技能(skills)。
路线 B:构建 AI
适用于构建 AI 应用或智能体的团队:生命周期、智能体身份与访问、评估、防护机制与监控。
一项要求,逐层落实
- 1. 政策
未经人工批准,AI 智能体不得执行不可逆的操作。
- 2. 标准
连接器上的每个写入或执行类工具都设为“需要批准”或“已阻止”。
- 3. 程序
启用写入工具的申请如何分流、批准和记录。
- 4. 模板
登记册中的一行记录该工具、其设置和批准人。
- 5. 供应商附录
您所用每个 AI 平台上各工具的具体权限设置。
采用层级
您属于哪个层级:Lite、Standard 还是 Regulated?
工具包中的每项管控都标注了其适用的最低层级,因此一家 50 人的公司和一家银行使用同一套文件,只是深度不同。
| 层级 | 适用于 | 需要采用的内容 | 常见时长 |
|---|---|---|---|
| Lite | 适用于刚开始使用供应商 AI 工具、没有自建 AI 的组织 | 需要采用的内容约 20 份文件和 53 项管控(39 项从第一天起,14 项在启用连接器等功能后) | 常见时长约 90 天;前三周内完成政策、数据规则和获批工具 |
| Standard | 适用于正在启用连接器和智能体、构建 AI,或 AI 涉及客户或人事决策的中型企业 | 需要采用的内容全部核心与路线 A,若自建 AI 再加上路线 B | 常见时长三到六个月,取决于您构建多少 AI |
| Regulated | 适用于受 BNM 或 MAS 监管的金融机构、医疗机构、涉及欧盟业务,或计划取得 ISO/IEC 42001 认证 | 需要采用的内容完整工具包,包括 Regulated 专属管控和 ISO/IEC 42001 适用性声明 | 常见时长与法律顾问一起规划;请马来西亚或新加坡律师审阅资料包 |
两分钟层级自测
逐题回答是或否。
结果如何得出
- 第 1 题答“是”:Regulated。从 AGK-000 和 ISO/IEC 42001 适用性声明开始。
- 否则,第 2、3 或 4 题任一答“是”:Standard。从 AGK-000 和治理章程开始。
- 第 1 至 4 题都答“否”:Lite。从 AGK-001 Lite Quick Start(快速入门)和下方的 90 天计划开始。
- 第 5 题答“是”:在启用这些功能之前,先采用连接器和浏览器智能体标准。
- 第 6 题答“是”:将现有内容与可接受使用政策模板对照,而不是从零开始。
逻辑出自 AGK Pre-read v1.2 的两分钟自测。
管理层在第一周要做的六个决定
这些决定没做出,其他事情都无法推进。每个决定只需一次讨论,而不是一个项目。
- 1
谁负责 AI?
指定一位 AI 发起人(高管)和一位 AI 治理负责人。
AGK-POL-01
- 2
谁来决定?
成立三人委员会:发起人、治理负责人、资料保护官(DPO)。
AGK-POL-01
- 3
可接受多少风险?
用一段话写明风险偏好:AI 可以用于什么、绝不能用于什么。
AGK-POL-01
- 4
批准哪个 AI 工具?
确认员工应使用的平台,以取代个人账户。
AGK-GDL-C01
- 5
时间与预算
前 90 天,治理负责人每周约投入半天,另加软件许可费用。
AGK-001
- 6
我们如何谈论工作岗位
在员工提问之前,发布一份简短、坦诚的声明,说明 AI 如何影响岗位。
AGK-GDL-C03
前 90 天
为起步组织而设的 90 天 AI 治理计划
这是 AGK-001 中的 Lite 路径。每一步都以某项内容获批准、完成配置或填写完毕作为结束。Standard 和 Regulated 采用者按相同顺序进行,并加入其余文件。
第 1 周
指定负责人
AI 发起人、AI 治理负责人和三人委员会。用一段话商定风险偏好。
AGK-001 · POL-01
第 1–2 周
找出已在使用的 AI
员工调查、费用数据、网络与 SaaS 排查,并为自行申报的工具设 30 天免责期。
AGK-PRC-07 · TPL-01
第 2 周
制定规则
批准可接受使用政策和数据规则。每位用户在获得访问权限前须确认。
AGK-POL-02 · STD-A02 · GDL-A01 · TPL-07
第 2–3 周
配置平台
按供应商附录应用基线。在公司设备上阻止个人 AI 账户。
AGK-STD-A01 · ANX
第 3–4 周
沟通与培训
关键信息、员工 FAQ、推广大使、表达顾虑的安全渠道、基础培训。
AGK-GDL-C03 · STD-C01
第 4–6 周
选出首批用例
举办两小时工作坊,按价值、可行性和风险为想法评分,试点两到三个速赢项目。
AGK-GDL-C02 · TPL-12
第 4–6 周
为问题做好准备
申请表、事件日志、联系人,以及个人资料泄露的 72 小时时限。
AGK-PRC-01 · PRC-04 · TPL-03 · TPL-06
第 6–12 周
试点、衡量、决定
跟踪效益。在启用连接器或浏览器功能之前,先采用相应标准。
AGK-TPL-12 · STD-A03 / A04
第 90 天
审查
委员会审查在用的 AI、事件、效益和下一季度计划。当您构建智能体或扩大规模时,升级到 Standard。
会议记录 · 更新后的登记册
框架
以 ISO/IEC 42001 为基础,以 NIST 管理风险,对应马来西亚和新加坡的规则
工具包没有自创框架。它以一项国际管理体系标准为结构,以一个风险框架为方法,并将每份文件对应到马来西亚、新加坡及其他地区适用的规则。
| 框架 | 是什么 | 工具包如何使用 |
|---|---|---|
| ISO/IEC 42001:2023 | 是什么国际 AI 管理体系标准 | 工具包如何使用为工具包提供计划–执行–检查–改进循环、政策和角色;38 项 Annex A 管控已对应到现成的适用性声明中 |
| NIST AI RMF 1.0 及 Generative AI Profile | 是什么美国风险管理框架:Govern、Map、Measure、Manage | 工具包如何使用决定程序中如何识别、评估和处理风险 |
| 马来西亚 AIGE | 是什么《国家人工智能治理与伦理指南》 | 工具包如何使用原则对应到各项政策 |
| 马来西亚 PDPA 2010(经修订) | 是什么《个人资料保护法令》 | 工具包如何使用数据处理管控、资料保护官(DPO)角色、资料泄露通报、跨境传输 |
| 马来西亚 AI 治理法案草案及 JPDP 框架 | 是什么法律草案及个人资料框架草案 | 工具包如何使用以草案形式对应,若获通过,工具包已准备就绪 |
| Singapore Model AI Governance Frameworks | 是什么IMDA/PDPC 发布的 AI 治理示范框架,包括智能体 AI 框架 | 工具包如何使用智能体自主级别、人类问责、技术管控 |
| MAS AI Risk Management Guidelines | 是什么MAS 针对金融机构的 AI 风险管理监管指南 | 工具包如何使用Regulated 层级的 AI 清单、风险重要性和生命周期管控 |
| OWASP Top 10 for LLM and Agentic Applications | 是什么AI 应用和智能体的安全威胁清单 | 工具包如何使用威胁与对抗性测试 |
| EU AI Act | 是什么欧盟 AI 法规 | 工具包如何使用当您的 AI 输出触及欧盟时的相关条款 |
现在即可免费阅读,无需注册
从这里开始,准备好采用时再获取 Lite 资料包。
工具包导读(PDF)
十分钟读完:路线、层级自测、管理层决定、90 天计划和文件地图。
- 员工安全使用 AI 指南
每位员工都应阅读的浅白指南。全文可在线阅读。
- AI 可接受使用政策模板
政策必须涵盖的内容、一段摘录,以及数据 × AI 工具矩阵。
阅读 - 模板库
下载前,可在浏览器中预览每个免费模板。
阅读
免费 AI 治理 Lite 资料包
起步组织在头 90 天治理 AI 工具所需的文件。Word 和 Excel 格式,可直接编辑。
- Lite Quick Start(快速入门)与管控核对清单 AGK-001 · Word
- AI 治理框架与文件架构 AGK-000 · Word
- AI 可接受使用政策 AGK-POL-02 · Word
- AI 数据处理标准 AGK-STD-A02 · Word
- AI 排查与影子 AI 程序 AGK-PRC-07 · Word
- AI 采用路线图与用例优先级指南 AGK-GDL-C02 · Word
- AI 系统登记册 AGK-TPL-01 · Excel预览 AI 系统登记册
- AI 用例申请表 AGK-TPL-03 · Word
- AI 事件、不符合项与纠正预防措施(CAPA)日志 AGK-TPL-06 · Excel预览 AI 事件、不符合项与纠正预防措施(CAPA)日志
- AI 可接受使用确认书 AGK-TPL-07 · Word
- Pengakuan Penggunaan AI(马来文版) AGK-TPL-07-BM · Word
- AI 用例优先级与效益跟踪表 AGK-TPL-12 · Excel预览 AI 用例优先级与效益跟踪表
模板版本 v1.0 · ZIP · 990 KB
获取免费的 Lite 治理资料包
模板仅供治理用途,不构成法律意见。
AI Governance Hub
AI Governance Hub:为您的风险团队打造的 AI 风险管理平台
模板会过时。Hub 让每个 AI 系统都有登记、风险评估、负责人和证据,并根据贵公司自己的政策回答员工的问题。即将推出:加入候补名单,我们会在开放前联系您。
| 功能 | 免费 | 会员 |
|---|---|---|
| 模板 | 12 份 Lite 文件 | 全部 48 份文件,含版本记录 |
| 预读资料与层级自测 | ||
| 含负责人与证据的 90 天规划 | ||
| 政策助手:为您公司定制的文件包 | ||
| AI 系统与风险登记册,附现成的 AI 风险库 | ||
| 管控负责人登记册,含季度确认与证据 | ||
| 连接器、智能体与 AI 供应商登记册 | ||
| 事件、例外与复审日程 | ||
| KRI 仪表板与一键董事会报告 | ||
| MCP 连接:员工向 Claude、ChatGPT 或 Copilot 提问,答案来自公司自己的政策 | ||
| 法规与供应商设置更新提醒 |
会员功能为上线规划,可能会调整。
企业版 · 部署在您的环境 · 即将推出
在您自己的云账户(AWS、Azure 或 Google Cloud,并使用您自己的 AI 模型账户)中运行同一套 AI 风险平台,或在您自己的服务器上完全离线运行,并使用私有 AI 模型。适合无法使用共享云软件的组织。价格按需报价。
希望我们与您一起完成设置?我们提供治理设置冲刺:负责人、政策、登记册和一个获批准的 AI 工具。 预约线上会议
RM 2,400
每个机构每年
AI 治理常见问题
什么是 AI 治理?
AI 治理是一套规则、角色和记录,用来决定组织可以使用哪些 AI、用于什么、使用哪些数据,以及出问题时由谁负责。它通常从一个获批准的 AI 工具、一份可接受使用政策、一份 AI 系统登记册、指定的负责人和一套事件处理流程开始。
AI 治理有哪些支柱?
AI 治理的支柱是让 AI 使用可问责的基本要素:了解在用的 AI、划分风险、指定人工负责人、管控第三方,以及报告事件。并没有唯一的官方清单,例如马来西亚的 AIGE 指南列出了七项原则。在实践中,马来西亚和新加坡的监管机构期望做到以下五点:
- 了解在用的 AI:一份涵盖所有 AI 工具和系统的登记册,包括员工自行使用的工具。
- 划分风险:为数据贴上标签,并决定每个标签可以进入哪些 AI 工具。
- 指定人工负责人:AI 发起人、AI 治理负责人,以及每个 AI 系统的负责人。
- 管控第三方:只用获批工具,连接器和智能体须先获批准才能使用。
- 报告事件:事件日志、清晰的报告途径,以及个人资料泄露的 72 小时时限。
马来西亚法律是否要求 AI 治理?
目前还没有专门的 AI 法律作此要求:截至 2026年10月,马来西亚尚无专门的 AI 法律生效。但经 2024 年修订的《2010年个人资料保护法令》(PDPA)已适用于任何处理个人资料的 AI,包括在 72 小时内通报资料泄露。AI 治理法案和个人资料保护局(JPDP)的 AI 与个人资料框架仍是咨询中的草案,国家 AIGE 指南则属自愿性质。如想了解草案的内容以及现在应记录什么,请阅读我们对马来西亚 AI 治理法案的解读。
新加坡适用什么?
在新加坡,与 AI 最相关的有三项:AI 治理示范框架(Model AI Governance Frameworks,包括智能体 AI 框架),属自愿性质且已生效;AI Verify,自愿性质的测试框架和工具包;以及适用于金融机构的 MAS AI Risk Management Guidelines(AI 风险管理指南),该指南已定稿,2027 年起适用。下面逐一说明,更详细的内容见我们的新加坡 AI 治理指南。
什么是新加坡的 AI 治理示范框架(Model AI Governance Framework)?
这是 IMDA 和 PDPC 发布的一套自愿性质框架,说明组织应如何治理其使用和构建的 AI。它们已生效,但不具法律约束力。智能体 AI 框架要求组织预先限定智能体风险、保持人的问责,并采用技术管控。工具包把它映射到智能体自主程度、人的问责和技术管控。
什么是 AI Verify?
AI Verify 是 IMDA 推出的自愿性质测试框架和工具包,用于证明 AI 系统如何符合 AI 治理原则,例如新加坡 AI 治理示范框架中的原则。当您需要向客户、合作伙伴或监管机构说明 AI 系统如何经过测试时,它最为有用。
MAS AI 风险管理指南适用于我们吗?
它适用于受 MAS 监管的金融机构。该指南已定稿,2027 年起适用,要求建立 AI 清单、评估每项 AI 用途的风险重要性,并实施生命周期管控。如果您不受 MAS 监管,它并不直接适用,但可作为成熟 AI 清单和风险流程的有用参照。在工具包中,这些管控属于 Regulated 层级。我们的MAS AI 风险管理指南解读(英文)介绍了适用范围、关键日期和 90 天计划。
什么是影子 AI(Shadow AI)?
影子 AI 是指员工在未经组织批准的情况下用于工作的任何 AI 工具:个人 ChatGPT 或 Claude 账户、浏览器扩展,或在 SaaS 应用中开启的 AI 功能。风险在于公司或个人资料进入了没人审查过的工具,也没人能说明分享了什么。我们的影子 AI 指南介绍了其风险以及如何发现和制止。
ChatGPT 算影子 AI 吗?
取决于使用方式。通过列入获批 AI 工具清单的公司账户使用 ChatGPT,属于受治理的 AI。同一个工具若用个人账户来处理工作,就是影子 AI。根据工具包中的可接受使用政策,任何非公开的公司信息都不得输入消费级 AI,包括在其他方面已获批工具上的个人账户。
如何找出并制止影子 AI?
先找出来:开展员工调查、核查费用和 SaaS 数据、进行网络排查,并为员工自行申报的工具设 30 天免责期。把所有发现记入 AI 系统登记册。然后消除其成因:为员工提供获批工具、发布可接受使用政策,并在公司设备上阻止个人 AI 账户。影子 AI 排查程序列出了每个步骤。
AI 政策应包含哪些内容?
AI 政策规定员工可以使用哪些 AI 工具、哪些数据可以输入、谁对 AI 输出负责、AI 绝不能用于什么,以及如何报告问题。在实践中,一份 AI 可接受使用政策至少应涵盖以下规则:
- 只用获批工具,并通过公司账户和单点登录(SSO)访问。
- 数据规则:哪些数据可以进入哪种 AI 工具,机密信息一律不得输入。
- 人工审核:使用 AI 输出的人对其负责。
- 禁止用途:一份简短明确的清单,列出 AI 绝不能用于什么。
- 连接器与智能体:只用获批的,智能体须有人监督。
- 报告事件和顾虑,善意报告不予追责。
- 培训,以及在获得访问权限前签署确认书。
我们的 AI 可接受使用政策模板涵盖全部十个部分,并附有可立即阅读的摘录。
我们需要全部 48 份文件吗?
不需要。Lite 采用者使用约 20 份文件和 53 项管控。其余文件在您启用连接器或浏览器智能体、构建智能体或受到监管时再加入。两分钟层级自测会告诉您所处的位置。
建立 AI 治理需要多长时间?
在 Lite 层级,约 90 天可达到稳定状态,最重要的步骤(政策、数据规则、获批工具)在前三周内完成。Standard 需要三到六个月,取决于您构建多少 AI。
什么是 ISO 42001?
ISO/IEC 42001:2023(常称 ISO 42001)是 AI 管理体系的国际标准:组织用来治理 AI 的政策、角色、风险流程和管控,按“计划–执行–检查–改进”循环运行。它可以认证,其附录 A 列出了 38 项管控。参阅马来西亚与新加坡 ISO 42001 指南(英文),了解谁需要它以及如何准备。
谁需要 ISO 42001 认证?
认证属自愿性质,起步时并不需要。它通常因为客户要求而变得必要,在工具包中属于 Regulated 层级。工具包遵循该标准的结构,因此如果认证变得必要,适用性声明已经开了头。
ISO 42001 与 ISO 27001 有什么区别?
ISO/IEC 27001 是信息安全管理体系标准:保护信息的机密性、完整性和可用性。ISO/IEC 42001 是 AI 管理体系标准:治理 AI 如何被使用和构建,包括人工监督、透明度以及 AI 对人的影响,这些是单靠信息安全无法涵盖的。两者采用相同的管理体系结构,因此已有 ISO 27001 的组织可以扩展现有流程,而不必从头开始。
工具包只适用于 Claude 吗?
不是。政策和标准不偏向任何供应商。供应商附录涵盖 Claude、OpenAI、Microsoft 和 Google;您只需使用所运行平台的附录。
治理会拖慢 AI 的采用吗?
恰恰相反。清晰的规则和获批的工具消除了阻碍人们尝试 AI 的不确定性,而采用路线图会挑出最值得先做的用例。
运行成本是多少?
主要是时间:在 Lite 层级,AI 治理负责人每周约半天,委员会每月约一小时。部分管控需要具备单点登录(SSO)和审计日志等管理功能的 AI 平台许可。
除了模板,有没有管理 AI 风险的软件?
有,正在规划中。AI Governance Hub(每个组织每年 RM 2,400)提供 AI 系统与风险登记册、控制负责人与定期确认、事件管理、KRI 仪表板和董事会报告,以及 MCP 连接,让员工从贵公司自己的政策中获得答案。企业将可以在自己的云账户中运行,或完全离线运行。即将推出,欢迎在本页加入候补名单。
欧盟 AI 法案(EU AI Act)适用于马来西亚或新加坡企业吗?
仅在某些情况下适用。当您在欧盟提供 AI 系统,或其输出在欧盟使用时(例如面向欧盟客户的服务),就可能适用。层级自测会标出欧盟相关业务,工具包也映射了相关的 EU AI Act 条款。我们的马来西亚与新加坡企业 EU AI Act 指南(英文)附有是/否自查清单。如适用,请寻求法律意见。
什么样的 AI 系统算高风险?
当 AI 系统可能对人产生重大影响时,例如协助作出招聘、信贷或定价决定,通常就被视为高风险。马来西亚和新加坡目前还没有统一的法律定义。马来西亚的 AI 治理法案草案提出了危害分级,EU AI Act 也有自己的高风险类别。从治理角度,只要符合以下任何一项,就应把该 AI 用例视为较高风险,并升级到 Standard 或 Regulated 层级:
- AI 协助作出关于个人的决定,例如招聘、信贷或定价。
- 客户直接与 AI 互动。
- 您构建 AI 智能体或 AI 应用。
- 您受 BNM、MAS 或医疗监管机构监管。
- 您的 AI 输出会进入欧盟。
两分钟层级自测会告诉您适用哪个层级。
AI 治理与负责任 AI、合乎伦理的 AI 有什么不同?
负责任 AI 和合乎伦理的 AI 是原则:公平、透明、问责和隐私。AI 治理是落实这些原则的方法:获批准的工具、政策、登记册、指定负责人和事件处理流程,并有证据证明它们有效。马来西亚的《国家 AI 治理与伦理指南》(AIGE)列出了七项这样的原则:公平;可靠、安全与控制;隐私与安全;包容;透明;问责;以及追求人类福祉与幸福。想了解每项原则对企业的意义以及证明它的控制措施,请阅读马来西亚 AIGE 七项原则详解。
