梁定邦：人工智能年增速约30% 金融应用需过“风险可控”关

人工智能年增速约30% 金融应用需过“风险可控”关

北京，12月28日——在龙国财富管理50人论坛2025年会上，香港证监会前主席梁定邦发表了重要讲话，强调人工智能技术在金融领域的快速发展及其应用中的关键挑战，当前，人工智能技术正以每年约30%的速度快速增长，大型机构的应用覆盖率已达到85%，显著降低了成本并提升了客户满意度，AI在金融领域的深入应用仍面临幻觉、数据偏见、黑箱与隐私合规等四大核心风险,亟需审慎应对。

梁定邦指出，人工智能技术的进步得益于硬件成本的降低和算力的提升，但AI不仅仅是当前流行的大语言模型，其早期已涵盖专家系统、机器学习等多种形态，2024年两位诺贝尔奖均与AI相关的成果，印证了其重要性，AI应用中存在固有缺陷：“填空”式预测推理容易产生“幻觉”，输出内容不准确或虚构；训练数据若存在偏见，输出结果也会带有偏见；模型决策过程复杂且不透明，形成“黑箱”，难以解释；数据使用不当或侵犯个人隐私的风险，这四大问题是金融业实现“风险可控”必须直面的大挑战。

在具体金融应用方面，梁定邦从前、中、后台三个维度进行了深入剖析，前台应用主要用于智能客服，虽然可以大幅节省人力成本，但为确保信息准确无误并避免偏差，多采用闭环AI而非开放模型，且最终决策仍需客户经理负责，中台应用则集中在反欺诈监测、信用评级和文档处理分析，其中反欺诈监测尤为重要，以应对日益猖獗的电信诈骗，后台应用主要用于市场分析、模型计算以及至关重要的资本储备计量。

梁定邦强调，金融行业在推动人工智能应用的同时，必须以风险可控为核心，采取有效措施解决幻觉、数据偏见、黑箱和隐私合规问题,确保金融系统的稳健运行和客户信息的安全。