人工智能在金融业运用的法律风险及监控

王志诚

摘　要： 金融业导入AI等新兴科技，虽有助于降低成本、提高效率及推动金融市场发展，但亦可能产生信息正确性与完整性、信息安全与隐私保护、弱势公平性、道德伦理等潜在风险，中国台湾地区从法令与自律规范两个层面来实现智慧金融之法律治理；从监管理念与指导原则、行政指导及自律规范之层面，进行分工治理。申言之，中国台湾地区金融监督管理委员会为协助金融机构运用AI科技优势，并有效管理风险、确保公平、保护消费者权益、维护系统安全及实现永续发展，除了于2023年10月17日公布的《金融业运用人工智能（AI）之核心原则与相关推动政策》之外，还于2024年6月20日正式发布了《金融业运用人工智能（AI）指引》。台湾地区银行业、商业同业公会于2023年10月20日通过《金融机构运用人工智能技术作业规范》，其治理策略的优点在于：不仅可保留监理的弹性，提供金融业运用人工智能技术的空间，而且能兼顾金融消费者或投资人权益的保障。

关键词： 人工智能；法律风险；自律规范；金融科技；机器学习

一、引言

近年来，机器学习（machine learning，ML）或深度学习所带来的创新，已成为人工智能（artificial intelligence，AI）领域的热门话题。透过创新，人工智能得以部分接管高级判断及推理等智力活动并非神话，已在实际生活中实现。虽然机器学习的人工智能应用在金融业层面仍处于起步阶段，但是未来具有相当大的运用潜力。 有鉴于新兴人工智能服务对全球商业环境的高度影响力，各领域参与者无不积极投入，期望在巨变关键时刻，抢占人工智能服务先机。金融业在人工智能的发展洪流中亦应用人工智能技术，积极开发创新金融科技，提供新兴金融服务。 由于金融业有广阔的服务通路或交易平台，运用人工智能学习技术，不仅可预测金融消费者的行为及偏好，进行精准营销，而且还能提升最佳体验的金融消费者互动模式，成为提供优越金融服务体验的生态开创者，特别是2022年11月，ChatGPT横空出世，引爆生成式AI快速发展。鉴于生成式AI快速发展，且影响层面广泛，已被视为AI的重大突破。生成式AI的导入虽有助于提升生产效率及提供多元的功能与服务，但亦可能涉及个人资料及隐私泄漏、信息安全风险及其他法律风险等问题，其快速生成新内容的能力，可能创造大量真伪难辨或不存在的信息，引发虚假信息传播的风险。

由于金融业务具有全球化及高度监管的特性，金融商品或服务的提供受到严格管制，金融业运用人工智能技术嵌入金融商品或服务时必须合法合规，故从金融监管的观点讨论人工智能的应用及影响实有必要性及重要性。鉴于金融业导入AI等新兴科技时，虽有助于降低成本、提高效率及推动金融市场发展，但也可能产生信息正确性与完整性、信息安全与隐私保护、弱势公平性、道德伦理等潜在风险，中国台湾地区金融监督管理委员会于2023年8月15日发布的《金融科技发展路径图（2.0）》宣示具体推动“制定金融业应用AI之核心原则”“金融业应用AI指引”及“督导银行公会制定应用AI自律规范”，以供金融机构遵循办理，希望能在金融创新、风险管控、消费者保护、资金安全防护及弱势群体权益维护等方面持续与业者沟通，建立友善创新的金融环境，协助金融业者在遵循相关法规的前提下加速发展金融科技，助力民众能在负责任创新的基础上，享受科技进步所带来的便捷金融服务。

本文首先说明金融业运用的人工智能技术及范畴；其次，分别分析金融业运用人工智能的服务创新、挑战及法律风险；再次，介绍中国台湾地区金融监督管理委员会对于金融业运用AI技术所采取的各种治理策略，以供各界参考；最后，做出结论。

二、金融业运用的人工智能技术及范畴

（一）人工智能应用于金融业的主要技术

人工智能为全球近60年来最具想象空间的科技名词，历经20世纪60年代与20世纪80年代的两次兴衰，终于在21世纪受惠于“资料量增长”“运算力提高”以及“算法进步”等基础资源的精进及核心应用的优化，得以突破商用服务的临界点，揭开了第三次人工智能热潮的序幕。 人工智能能够处理分析大量数据，并且细致地判断客户需求，因此，在金融业中应用人工智能技术，对外可协助业者了解其客户的需求，并提供更多信息及量身定制的产品或服务；对内可强化内部流程及效率，并降低信用、市场、法令遵循等风险。

就金融业运用AI技术之类型而言，主要为机器学习（ML）、自然语言处理（natural language processing，NLP）或多元语言、计算机视觉能力、机器人流程自动化（robotic process automation，RPA）等技术层次。在机器学习（ML）技术层面，常见者为机率网络（例如贝式网络模型技术）、生成式模型技术、分群技术及深度类神经网络技术等。至于在多元语言及视觉能力技术层面，主要有语言理解技术、口语技术及视觉分析技术等。

1.机器学习

借由导入ML算法模型及深化各项资料来源的应用，跳脱仅依赖逻辑知识的推理运算，并以量化的权重与公式，估算潜在变量对于决策的重要性，进而发展推论推荐系统，例如投资理财规划不再只根据市场价格来建议最适组合，更应综合考量持有天数、投资人偏好等其他预测信息，并计算最终购买各商品的概率，提供最佳资产管理组合。

2.自然语言处理或多元语言

所谓自然语言处理或多元语言，主要是指为结合AI及语言学之分支技术，通过复杂的数学模型及算法，让计算机辨识、分析、理解及生成人类语言，以使计算机与人类沟通更顺畅，完成各项指定任务。

3.计算机视觉能力

计算机视觉主要通过卷积神经网络（convolutional neural network，CNN），在影像处理与分析过程中引导系统，可支持影像分类与物件侦测（deep learning，DL）的推断。金融业可运用光学字符辨识（optical character recognition，OCR）及影像辨识技术，解析个别金融消费者的证明文件影像档或进行身份识别，以提升作业的效率及正确性。

4.流程自动化

机器人流程自动化系复制人类行为的自动化科技方案，以扩大执行日常任务的范围及数量，并可自动执行有规则且重复性高的作业流程，处理结构化数据，或结合图像辨识处理非结构化数据，代替人工进行资料的验证与转换，不仅可降低人为处理的错误率，而且可提高生产力及效率，提升作业流程的透明度。

（二）金融业运用人工智能的范畴

AI在金融业之应用相当广泛，目前较为普遍的实务应用，主要包括客群经营、风险合规、流程精进及数据分析等四大方面。 换言之，AI对于金融机构的应用，主要在于前台客户服务端的客群经营个人化及效率化，并将金融机构的业务流程明确化及精进化，提高金融机构的作业效率，进而有效管控风险，以降低金融机构的法令遵循成本及各种风险。

以客群经营为例，随着AI技术的迅速发展，智能客服已成为各金融机构发展的热点。除可让民众透过各式联网装置与机器人互动聊天，提供客户24小时不间断的在线文字对谈，帮助客户解决疑难之外，还可运用智能语音、智能图像及生物特征识别等AI技术在分行进行迎宾导览与语音互动的工作，以及在线查询信用卡可用额度、消费明细、缴款纪录、账单金额、红利点数、补寄电子账单等服务，让金融服务更便利和有趣，提高客服满意度，减少客服人力成本。 此外，AI技术在信用风险管制的应用亦相当广泛，包括建立AI核贷模型、反欺诈、反洗钱、信用评估等领域，不仅可提高绩效，而且可降低违约及洗钱等风险。

三、金融业运用人工智能的业务创新及挑战

（一）运用及业务创新

通过深度应用人工智能技术，可以实现智慧化、批量化地服务客户，并对金融业务带来各种重大创新。现整理运用人工智能嵌入式体验的金融商品或服务如表1所示，以供参考。

以消费金融业务运用人工智能之创新为例，在贷前管理阶段，人工智能技术可以协助金融机构充分挖掘及开发客户；在拨贷管理阶段，人工智能技术可以协助金融机构进行授信、交易与智慧化决策；在贷后管理阶段，人工智能技术可以协助金融机构进行风险管理，有效增强管理效能及降低不良贷款率。

另以财富管理及理财顾问运用理财机器人为例，金融机构通常会先设计一系列的网络问卷进行认识客户作业（know your customor，KYC），将投资人分为“保守”“稳健”“积极”等不同类型，并由理财机器人推荐相对应基金商品，以供投资人参考。

若依据中国台湾地区金融监督管理委员会于2023年5月所进行的调查，中国台湾地区目前175家金融机构中，有63家金融机构采用AI技术（47%），其应用范畴包含下列四个面向：①客群经营，例如智能客服、机器人理财等；②风险管理及法令遵循，包含洗钱防制、分析可疑交易、开户案件审查等；③流程精进，包含影像辨识（optical character recognition，OCR）及后台流程自动化等；④数据分析，例如客户属性及消费等行为数据分析、市场趋势分析等；⑤其他，例如利用威胁情资分析资安情境等。 详言之，38家银行中有63％运用AI，40家保险业中有58％运用AI，97家证券期货业中有17％运用AI。

（二）风险类型及挑战

勤业众信（Deloitte Global）就全球金融产业所发布的《 AI and Risk Management：Innovating with Confidence 》报告指出，金融机构在实务上应用AI的风险，包含AI模型算法风险、科技风险、法令遵循风险、执行风险、人员风险、市场风险及供应商风险。 此外，中国台湾地区亦在官方媒体中认为，金融机构逐渐尝试运用AI于金融服务，若使用不当，将会衍生潜在的六大风险，包括道德问题、隐私保护问题、市场波动性提高、价格操纵风险、集中委外风险及“黑箱”决策等风险。 金融机构应了解此为双向学习的过程，董事会、高级管理层、业务单位及风控单位皆应本其职能，增加对AI技术及应用层面的了解，而AI模型及系统开发单位，应辨识及掌握相关风险及落实遵守监管的要求。 质言之，人工智能如同一把双刃剑，可能给金融业务创造巨大之发展契机，也可能对金融市场、金融法制及金融监管等层面带来重大冲击。

在全球主要科技业者的积极投入下，可加速全新商业解决方案的形成，且借由人工智能服务（AI as a service）的供应商所提供各种云端运算服务或云服务的模式，包含金融业者在内的各个垂直领域服务业者，可以较低成本提供即用性的整合人工智能服务，并在跨行业间的交互应用下，激发出多元化之崭新商业模式，进而驱动整体金融产业的变革。当然在变革过程中，金融业所面临的重要问题，无疑为诸多名为创新但成效不明的新的业务规划或解决方案带来的障碍，以致出现敏捷灵动的新竞争对手或合作伙伴。 金融业是否具备筛选新种业务规划或解决方案的评估能力、营造适合累积开放式创新协作经验的环境，并克服组织调整的障碍，是无法回避的冲击和难题。

四、金融业运用人工智能之法律风险

（一）传统人工智能之法律风险

为确保金融业在合法合规之前提下运用人工智能技术，应充分掌握及了解各种法律规范，进而辨识及控制金融业运用人工智能技术时可能面对的各种法律风险。从欧盟及美国对于人工智能所采取的发展策略来观察，其中心思想主要建立在“以人为中心”以及风险控制为基础，避免歧视、垄断、不当使用、滥用及违法使用的行为。

首先，机器学习算法，虽可能不断超越限制，影响人类社会的基本生活方式，但可能诱发金融服务场景的算法歧视，在科技软件的遮蔽下，其有限性、许可特权及障碍等限制不易为人所察觉。 ^[1]

其次，随着大数据与人工智能技术的快速发展，人工智能逐步全面应用于金融场景。金融市场的激烈竞争，迫使金融机构开始探索深化人工智能的应用，而从传统金融服务转型为数位化、智能化服务。通过技术深挖金融消费者个人信息，包括地理位置、学历、交易、退休金、工作、通信等，借以提高营销的成功率及反欺诈率，但同时可能借由大数据及人工智能等方式，不当取得、滥用或泄漏金融消费者的个人资料，损害金融消费者的合法权益， 进而衍生新形态的法律争议。

（二）生成式人工智能之法律风险

鉴于生成式AI的快速发展，且影响层面广泛，已被视为AI的重大突破。生成式AI导入，虽有助于提升生产效率及提供多元的功能与服务，但亦可能涉及著作权风险、信息安全防护风险（个人资料及隐私泄漏风险）、歧视风险 或其他潜在法律风险等。其快速生成新内容的能力，可能创造大量真伪难辨或不存在的信息，引发虚假信息传播。因此，金融机构在使用客户资料时，必须充分尊重及保护客户的隐私权，妥善管理及运用相关信息，避免任何可能导致客户个人资料外泄的风险，如果无封闭式地使用生成式AI模型，且无法确认系统环境安全时，不得向生成式AI提供未经客户同意公开的信息。

五、中国台湾地区金融业运用人工智能的治理策略

近年来人工智能技术在金融服务领域的应用日益增加，其导入虽为金融产业带来各种效益，包括提升服务效率、降低服务成本及增加客户体验等，但亦衍生一些新的风险及监管挑战，例如个人信息及隐私外泄之资金安全的威胁、道德风险等。因此，如何确保金融业在运用人工智能技术的同时，有效管理风险、确保公平、保护消费者权益、维护系统安全，并实现永续发展，是当前金融主管机关及金融机构必须正视的重大课题。

由于当前尚无法完全掌握人工智能的发展走向及衍生的风险，法律管制的边际并不明确，监管措施易产生所谓步调问题（pacing problem），应避免过早介入或过于严苛规范人工智能技术的运用领域， 故不宜以制定专法的立法模式监管金融业运用人工智能的行为。为强化人工智能运用的金融监管，显然无法沿袭传统单向的法律治理模式，应同时推进人工智能治理及法律治理的双轴模式。事实上，传统法律治理具有滞后性、僵硬性及空白性等局限性，在监管策略上应建立人工智能金融法律规范，加强人工智能风险预测及评估，并需要联合各类智慧金融的力量，以促进金融业制定自律规范，建立标准行为准则及伦理规范，从而在法律与自律规范双层面实现对于智慧金融之法律治理。 以中国台湾地区采取的治理策略为例，即从监管理念与指导原则、行政指导及自律规范的层面，进行治理分工。

（一）金融业应用AI的核心原则及配套政策

中国台湾地区金融监督管理委员会为协助金融机构运用AI科技优势，并有效管理风险、确保公平、保护消费者权益、维护系统安全及实现永续发展，参考相关意见，并在公共政策网络参与平台及其他渠道征询各界意见后，于2023年10月17日公布“金融业运用人工智能（AI）之核心原则与相关推动政策”。

1.金融业运用AI的六项核心原则

首先，中国台湾地区金融监督管理委员会参考相关组织监管机关针对金融业运用AI的指导原则，并结合其“负责任创新”“强化法遵”“公平待客”“普惠金融”“资通安全”“信息揭露”“永续金融”“关怀员工”等监管理念，提出金融业运用AI的6项核心原则及对应的监管理念。

一是建立治理及问责机制（对应监管理念：负责任创新），即强调金融机构在使用AI系统时应对内部治理与对消费者的权益保护负责，并建立全面且有效的风险管理机制，确保其人员对AI有足够的知识与能力。

二是重视公平性及以人为本的价值观（对应监管理念：公平待客及普惠金融），即强调金融机构在运用AI系统时，应尽可能避免算法的偏见所造成的不公平，并符合以人为本及人类可控的原则。

三是保护隐私及客户权益（对应监管理念：金融消费者保护），即强调金融机构在管理及运用客户资料时，必须充分尊重及保护客户的隐私权，并尊重客户选择是否使用AI服务的权利，提醒客户是否有替代方案。

四是确保系统稳健性与安全性（对应监管理念：强化资通安全），即强调金融机构应尽力维护AI系统的稳健性及安全性，并对第三方业者进行适当的风险管理及监督。

五是落实透明性与可解释性（对应监管理念：信息揭露），即强调金融机构在运用AI系统时，应确保其运作的透明性及可解释性，并在使用AI与消费者直接互动时应适当披露。

六是促进永续发展（对应监管理念：永续金融及关怀员工），即强调金融机构在运用AI系统时，应确保其发展策略及执行符合永续发展相关原则，并尽力维护员工权益。

2.配套政策

中国台湾地区金融监督管理委员会为因应AI的发展，推出8项配套政策：①制定“金融业运用AI指引”；②检视相关规范并适时进行法规调适；③利用AI技术发展监管科技；④与国际组织及其他国家金融监管机关进行交流及合作；⑤鼓励金融业积极参与AI的研发与应用，并协助导入最佳实务做法；⑥对金融业者应用AI的实际状况进行检视；⑦责成各金融业公会制定金融业运用AI系统相关自律规范及最佳实务守则；⑧督导金融机构落实公平对待客户及金融友善准则。

（二）中国台湾地区“金融业运用人工智能（AI）指引（草案）”

1.基础及性质

为鼓励金融机构善用科技，以负责任创新为核心，应用可信赖的人工智能，发展更贴近民众需求的金融服务，并引导从业者在兼顾消费者权益、伦理道德及金融市场秩序的前提下，进行科技创新，提升服务效率、质量及竞争力。中国台湾地区金融监督管理委员会依据2023年10月17日公布的“金融业运用人工智能（AI）之核心原则与相关推动政策”内容，并参考国际清算银行（BIS）、国际证券管理机构组织（IOSCO）、欧盟、新加坡、美国等发布的相关规范、手册或指引文件，制定中国台湾地区“金融业运用人工智能（AI）指引（草案）”。

“金融业运用人工智能（AI）指引（草案）”内容，基本上是在金融业运用AI的6项核心原则的基础上制定的，并依比例原则及以风险为基础，确定金融业运用AI时宜注意的事项。此外，“金融业运用人工智能（AI）指引”采取文件形式而非条文形式，性质上系属中国台湾地区“行政程序法”第165条所规定的行政指导，不具有拘束力，旨在鼓励金融业在风险可控的情况下导入、使用及管理AI，但未来金融业在运用人工智能发展金融业务时，仍应纳入其内部控制制度之中，若未建立适当的内部控制制度或确实执行，则可能受到金融主管机关的行政处罚。

2.架构及主要概念

“金融业运用人工智能（AI）指引（草案）”的内容共分总则及六大章节。总则阐述AI定义、生命周期、风险评估框架及以风险基础落实核心原则的方式；第一—六章分述金融业在落实AI核心原则一—六时，依AI生命周期及所评估的风险，提出所需关注的重点及可采取的措施。

第一章“核心原则一：建立治理及问责机制”，分别说明目的、主要概念、组织架构及问责机制、风险管理机制、人员培训等内容。主要概念包括三点：第一，金融机构运用AI系统的内部责任与外部责任。内部责任指明确界定组织内各单位的权责，包括明确内部治理架构、由可督导跨部门职务的高阶主管或成立委员会进行监督及管理、界定各部门或各业务线的功能与责任，以及落实分层管理机制等。外部责任指组织能对外沟通组织的作为，包括具有沟通机制，可让外界查询或审视受决策影响事项的相关信息，并确保在运用AI系统时符合原始规划目的。第二，金融机构在落实治理及问责原则时，应尽量将相关机制予以书面或数字化，并建立适当监督机制。第三，金融机构宜整体性落实金融业AI核心原则，不宜将任何一个原则视为一次性或独立的任务。

第二章“核心原则二：重视公平性及以人为本的价值观”，分别说明目的、主要概念、公平性之落实方式、以人为本及人类可控原则之落实方式、生成式AI产出信息之风险管控方式等内容。其主要概念包括四点：第一，公平性。金融机构运用AI系统产生的决策，不应对特定群体造成歧视的结果，即决策需有合理性、准确性，并避免偏见。关于决策之合理性要求如下：①利用个人属性作为AI模型决策之因素之一，应有合理理由；②如果无合理理由，运用AI系统所产生之决策不应对特定群体有系统性的不利差别待遇（例如不得以特定宗教、种族或族群等因素，对借款人提供不合理的贷款条件）。关于决策的准确性及避免偏见：应定期审查及验证AI决策模型与数据，以确保准确性及最小化偏见，另应定期审查模型产生出来的决策结果，以确保模型演算后之结果符合设计之目的。第二，以人为本。AI系统在其全生命周期中，应以支持人类自主权、尊重人类基本权利及允许人类监督为原则，以落实人类价值，并达到改善人类福祉之目标。第三，针对受到不利结果影响之消费者，金融机构应提供相关救济渠道。第四，人类在AI系统决策过程中的监督机制，可分为人在指挥（HIC）、人在循环内（HITL）、人在循环上（HOTL）。所谓“人在指挥”（human-in-command）是指人类指挥监督AI系统之整体活动（包括其更广泛的经济、社会、法律和道德影响），并在任何情况下决定何时、如何使用AI系统的能力。所谓“人在循环内”（human-in-the-loop）则表示人类主动参与监督，并保留完全的控制权，AI系统仅提供建议或信息。除非人类下达命令要求AI系统决策，否则，AI系统不能进行决策。而“人在循环上”（human-over-the-loop）是指人类仅有在AI模型遇到意外或不良事件（例如模型失败）时才进行控制，并在运算过程中调整参数。

第三章“核心原则三：保护隐私及客户权益”，分别说明目的、主要概念、隐私保护及资料治理、尊重客户选择的权利及替代方案等内容。其主要概念包括四点：第一，在大数据及AI技术发展下，个人信息常被大量搜集并用以训练AI，可能对客户隐私权造成潜在威胁，进而影响民众对金融机构的信任度及服务满意度，故金融机构在运用AI系统时应注意保护客户的隐私权，妥善搜集及处理其客户信息，避免资料外泄风险。第二，金融机构宜以资料最小化原则搜集与处理必要的客户资料，避免搜集过多或不必要的敏感信息。第三，金融机构运用AI系统面对客户时应告知客户，并尊重其选择是否使用AI服务的权利，并提醒是否有替代方案，以维护客户权益。第四，金融机构运用AI系统时，应注意保护客户的财产权与商业秘密。

第四章“核心原则四：确保系统稳健性与安全性”，分别说明目的、主要概念、系统稳健性的落实方式、系统安全性的落实方式等内容。其主要概念包括两点：第一，系统稳健性，是指AI系统具有预防风险发生的方法，不仅能可靠地按照预设目的执行，而且可将非预期或意外伤害降至最低，并防止不可接受的伤害。系统稳健性包含以下概念：①稳定性。稳定性佳的AI系统，系指计算机系统在执行过程中及面对错误输入时，具有良好应对能力，即使该系统或其组件在无效输入或压力环境条件下仍能正确运作。②准确性。准确性佳的AI系统，系指系统有能力做出正确判断，例如将信息正确地分类到适当类别，或根据数据、模型做出正确的预测、推荐或决策。AI系统若经过完善地规划、开发，可以减少及纠正不准确预测所带来的非预期风险。即使当AI系统偶尔出现不准确的预测时，亦能够在检验时指出其错误率。③可重制性。具有可重制性的AI系统，系指在相同的条件下重复AI系统的测试，仍会得到相近的产出。第二，系统安全性。安全性高的AI系统，系指具有较强抵御外部安全威胁、攻击或恶意滥用的资金安全防护能力，且符合各金融业资金安全相关规定要求，并可确保其系统按照应有的功能运行。

第五章“核心原则五：落实透明性与可解释性”，分别说明目的、主要概念、透明性及可解释性之落实方式等内容。其主要概念包括下列五点：第一，透明性，系指提供外部利害关系人有关AI系统的相关信息，以便了解对其权益的影响等。第二，可解释性，系指可清楚说明部署AI模型的算法如何运作及其预测或决策过程，以有利于组织内评估是否符合内部政策、作业流程及监管要求等。第三，金融机构应理解其运用的AI系统如何做出决策，并应提高AI模型的可解释性，以确保对AI运作的有效管理。第四，金融机构运用AI系统时，应主动向利害关系人披露相关信息。如果利害关系人要求进一步说明，应清楚阐述所使用的资料、资料如何影响决策，以及决策对利害关系人的影响等，以提升民众信任度。但金融机构运用的AI系统如果与洗钱、信息安全及诈骗有关，或如果涉及商业秘密，则应审慎控制对主管机关以外人员揭露相关信息的程度。第五，金融机构应就AI系统生命周期各阶段的透明性及可解释性拟定共通性标准。对于透明性的要求：金融机构一方面宜就评估AI系统所需的适当透明性制定共通性标准，例如运用AI系统产生贷款决策建议时，对客户说明解释的程度、时机及形式等；另一方面，金融机构宜确认在客户生命周期各阶段中，可能需对客户通知的项目为何，并事先备妥相应的通知样板。对于可解释性，金融机构就评估AI系统可解释性制定共通性标准，包含如何评估所需的可解释性程度及揭露对象等。同时，金融机构宜选定可接受的AI系统的解释方法，并设定前述解释方法的最低准确度要求。

第六章“核心原则六：促进永续发展”，分别说明目的、主要概念、永续发展的落实方式、员工教育及培训相关事项等内容。其主要概念包括下列两点：第一，金融机构运用AI系统时，将社会、环境等视为利害关系人，兼顾社会公平及生态责任。例如在使用过程中，可促进数位金融公正转型、降低数位落差、减少水电等能源消耗问题。第二，金融机构运用AI系统的策略及执行方向，依据国际可持续发展目标及自订的可持续发展原则，适当列入可持续发展综合指标。

（三）中国台湾地区“金融机构运用AI自律规范（草案）”

1.自律规范的性质

就金融业的治理而言，有赖于内外监管机制的配合。内部监管机制包含个别金融机构本身的内部规章、法令遵循、风险管理、内部稽核等内部控制制度的建立；外部监管机制则为法令管制、金融监督及金融检查等。至于金融同业公会自发或依主管机关督导所制定的自律规范，相较于政府法令的他律规范模式，形式上虽不具有法律效力，但因金融业必须将自律规范纳入内部控制制度及执行，故在实质上仍具有规范效果。申言之，中国台湾银行商业同业公会（以下简称台湾银行公会）或其他金融业相关商业同业公会所制定的金融机构运用AI自律规范，其内容不仅应对人工智能的范围加以定义，而且对个人信息及隐私保护、风险控制及伦理原则有所规范，并由金融机构纳入内部控制制度。因此，金融主管机关应对各金融机构的法令遵循、风险管理及金融消费者保护等事项，采取各种金融监管措施或金融检查。

2.目前金融业运用新兴科技的自律规范

过去中国台湾地区银行公会为协助会员银行适当管理运用新兴科技的风险，以促进银行业务健全经营，于2017年7月27日制定了中国台湾地区“金融机构运用新兴科技作业规范”，并为确保金融机构办理电子银行业务具有一致性基本准则的安全管控作业；1998年5月16日制定了中国台湾地区“金融机构办理电子银行业务安全控管作业基准”，规定银行在办理电子银行业务使用视频会议时，应确认为真人和本人办理，以便预防规定通过科技预先录制影片、制作面具、模拟影像或深度伪造等手段伪冒身份。此外，银行还应留存验证纪录和交易轨迹，以便查证。

就证券期货业而言，除中国台湾地区证券商业同业公会及期货业商业同业公会于2016年12月13日及2017年1月4日制定了“新兴科技资通安全自律规范”外，中国台湾地区证券投资信托暨顾问商业同业公会于2018年9月7日制定了“证券投资信托事业证券投资顾问事业新兴科技资通安全自律规范”，中国台湾地区证券交易所股份有限公司也于2022年5月11日制定了“证券期货市场相关公会新兴科技资通安全管控指引”。

另就保险业而言，中国台湾地区人寿保险商业同业公会于2003年3月25日制定了“保险业经营电子商务自律规范”；中国台湾地区保险代理人商业同业公会亦于2019年5月8日全面修订了“保险代理人业经营电子商务自律规范”。

3.中国台湾地区“金融机构运用AI自律规范（草案）”的要点

理论上，相关商业同业公会在运用AI自律规范时，应以中国台湾地区金融监督管理委员会所制定发布的“金融业运用人工智能（AI）指引”为基础，并纳入相关重点及措施。目前中国台湾地区金融监督管理委员会虽于2023年12月28日公布“金融业运用AI指引（草案）”，但有60日公开征询外界意见的时间。中国台湾地区银行公会在金融监督管理委员会正式公布“金融业运用人工智能（AI）指引”前，已先研拟完成的“金融机构运用AI自律规范（草案）”，其内容包括AI及生成式AI的定义、规制范围、信息治理、风控机制等规范内容。由于“金融机构运用AI自律规范（草案）”未经中国台湾地区金融监督管理委员会正式核备及公开，故整理其要点如下，以供参考。

首先，金融机构对于涉及客户与投资人的AI运用应列管，除应符合相关法规及公平待客外，更重要的是为金融机构要能管理AI的风险，对模型的可解释性、准确性、可靠性等皆应有效管理。

其次，就自律规范对AI的“规制范围”而言，因直接影响未来中国台湾地区金融监督管理委员会进行金融检查的内容，目前规划包括下列内容：一是与消费者直接互动，并提供金融商品建议（例如智能客服）；二是提供客户服务且影响客户金融交易权益（例如通过AI模型算法的信评模型）；三是对营运有重大影响者（各公司自行评估对营运风险大小且应符合各自内部规定）。

再次，在AI运用资料学习等方面，由各公司资金安全负责人、法律部门负责人及风险控制负责人共同把关，AI使用资料的治理方式、资金安全、监督机制、消费者权益保障及发生非预期事件时的应变措施，应由信息安全、法令遵循及风险管控等单位进行评估，提出意见，必要时可委托专业第三方出具评估报告。自律规范亦要求金融机构进行资料搜集与训练或业务上选择以AI技术提供客户服务时，应采取提升模型输出准确性、可解释性的有效措施。

最后，就风控机制而论，因风险高低会因各公司的规模、营运实力、可承担风险有所不同，故由各公司自行进行风险审视与建立风管机制评估，要求金融机构应以“风险基础”为导向，视营业规模及运用AI的程度，建立适当的风险管理及定期检视机制。

六、结语

面对人工智能技术的发展，金融主管机关应秉持科技中性（tech-neutrality）的监管原则，提升金融业创新科技研发的意愿，逐步建构对金融业运用人工智能技术的治理策略。但金融业在运用人工智能的技术创新金融业务、金融商品或服务时，应遵循既有的金融法令及自律规范，在合法合规的前提下形塑金融与AI共舞的空间。由于人工智能技术的应用可能衍生伦理、公平性、隐私权及透明性等问题，为防范金融业运用AI技术变成损害他人权益的事件，必须进行有效监管，以保障金融消费者或投资人的权益。

中国台湾地区对于金融业运用人工智能技术的治理策略，应主要从监管理念与指导原则、行政指导及自律规范这三个层面进行治理。除由中国台湾地区金融监督管理委员会拟定针对金融业运用AI的相关指导原则，并结合其“负责任创新”“强化法治”“公平待客”“普惠金融”“资金安全”“信息披露”“可持续发展金融”及“关怀员工”等监管理念，提出金融业运用AI的6项核心原则及对应之监管理念。之外，中国台湾地区金融监督管理委员会还应以行政指导的方式，制定“金融业运用人工智能（AI）指引”，以规范金融业相关商业同业公会制定金融业运用AI的自律规范，其目的旨在保留监管弹性，为金融业运用人工智能技术创造空间，并兼顾金融消费者或投资人权益的保障。

[1] Engin Bozdag.Bias in Algorithmic Filtering and Personalization， Ethics & Information Technology ，Vol.15，2013，pp.209—227.