全球掀起产生式 AI 应用热潮，ChatGPT 短时间推出 ChatGPT Plus 版，迅速让 AI 盈利变现，台湾使用者可每月花 20 美元，获更快回应速度。KPMG 安侯董事总经理谢昀泽表示，产生式 AI 不只在拚演算法、功能炫技，各大厂短期的决战重点，还是在「正确性」与「可靠性」。
目前新一代产生式 AI 大战第一回合，Google 紧急推出 Bard 对话机器人应战，但答错太阳系外行星第一张照片是谁拍？落得股价大跌。谢昀泽解释，Google 具备有强大的 AI 演算法及云端运算平台的能量，但「照片正确」环节跌倒，其实不是第一次。
谢昀泽分享，早在 2015 年 Google 就因 AI 演算法出包，将黑人照片辨识为大猩猩，落入种族歧视争议风暴，几乎 Bard 上埸同时，OpenAI 立即观察到 ChatGPT 反应速度，远远追不上使用者的热情，於是推出付费订阅版，以降低使用者暴增造成等待或停止回应时间拉长。
ChatGPT 产生式 AI 大战开打
ChatGPT 快速导入订阅模式，但许多付费使用者仍常遇到服务满载卡顿。谢昀泽认为，「答案有感的机器人，会取代只是历史读稿的机器人」、「反应快速的机器人，会取代页面自转圈圈的机器人」，但如何判断答案「正确」且「适用」将是最大挑战。
谢昀泽分析，各大厂产生式人工智慧大对决的後续观察重点，除了「采用订阅营利或广告营利？」「如何以 API 创造生态圈？」「如何与浏览器或办公室软体整合？」等「商业模式」比拚，谁能持续称霸 AI 进化世界的关键，还是在有没有足够 AI「科技治理」能力。
谢昀泽认为，影响产生式 AI 风险，需严格管理的三大「暗黑情境」为「更迷离的深假（Deepfake）」、「更智慧的骇客」及「更暴露的使用者隐私」。
产生式 AI 就像双面刃
以「深假技术」为例，谢昀泽指出，已可做到使用甲脸孔搭配乙身材与动作，自然用丙嘴型说出假内容，然而产生式 AI 技术大跃进就像双面刃，如果骇客或犯罪组织使用相同技术，将造成重大损失。
谢昀泽说明，如骇客用 ChatGPT 针对不同企业，产生数万封钓鱼邮件後，再运用伪造声纹假冒财务长致电财务人员汇款，或骇客用产生式 AI 强大分析与归纳功能，找出企业内未曾发现的弱点，藉此进行网路进阶攻击或机密窃取。
谢昀泽补充，因产生式 AI 具备写基础程式的能力，恶意程式开发门槛将大幅降低，连不会写程式的人都能当骇客等，虽然各 AI 系统都有使用规则与回避有害内容的功能，但还是有许多控管漏洞，都可能被有心人士绕过。
「深假技术」将造成威胁
KPMG 安侯执行副总经理林大馗预测，如果产生式 AI 连动既有深假技术，可能导致风险加乘，未来 AI 创造的假文章、假程式、假邮件、假影片将大量涌现且难以辨识，进而影响到产生式 AI 的正确性。
企业资安除了标配防火墙与防毒软体，可能还需透过「人工＋工人智慧」打假工具及内容确认工程师等协作，才能有效降低 AI 的资安风险。林大馗建议，新兴风险治理工具尚未成熟前，一般企业可建立「智慧型主动式」的防护能量。
林大馗举例，像是公开影片添加专属杂凑值或安全凭证，或利用深假技术尚未能完整学习受复制对象侧面的技术缺陷，或在视讯会议请客户往左或右转头 90 度，并维持一小段时间等，以确保来源真实性，并防止骇客暗中蒐集与恶意窜改，更可避免骇客用来欺骗其他消费者。
参考「零信任」资讯架构
林大馗说明，或扩大运用「MFA 多因子认证」让消费者透过两种以上的认证机制，才能取得授权，如再搭配实体安全金钥等控制技术与避免单一持有设备，如手机取得所有认证资讯等方式，应可有效降低「深假技术」与「更智慧的骇客」带来的威胁。
为降低骇客攻击的的风险及提升使用者隐私安全性，林大馗认为，企业可以参考零信任（Zero Trust）资讯架构，避免以一次验证後即可长时间与完全取用所有服务的传统做法，改采依据不同的服务风险等级、搭配多次的验证，降低单一识别方法失效的灾损程度，确保适当的风险控管。
针对「深假进化」危机，林大馗提醒网路使用者，开始要建立「眼见不为凭」的警觉，一般民众必须理解，过去习惯的「有图有真相」有可能会变成「看片都上当」，网路收到影片时，应该收起对内容的好奇心，选择安全可靠的科技应用厂商或服务，避免过度揭露个人资料，并强化防护认知。
（首图来源：Unsplash）
