全球掀起生成式AI应用热潮，ChatGPT短时间推出ChatGPT Plus版本，迅速让AI盈利变现，台湾用户已经可以花每月20美元，取得更高的回应速度。KPMG安侯董事总经理谢昀泽表示，生成式AI不只在拼算法、功能炫技，各大厂短期的决战重点，还是在“正确性”与“可靠性”。
目前新一代生成式AI大战第一回合，Google紧急推出Bard对话机器人应战，但答错太阳系外行星第一张照片是谁拍？落得股价大跌。谢昀泽解释，Google具备有强大的AI算法及云计算平台的能量，但是跌在“照片正确”的环节，其实不是第一次。
谢昀泽分享，早在2015年Google就因为AI算法出错，将黑人照片识别为大猩猩，而落入种族歧视的争议风暴中许久，几乎在Bard上埸的同时，OpenAI立即观察到ChatGPT的反应速度，远远追不上用户的热情，于是推出付费订阅版，以降低因用户暴增而等待或终止回应的时间。
ChatGPT生成式AI大战开打
ChatGPT快速导入新的订阅模式，但许多付费用户，目前仍常遇到服务满负荷的卡顿状况。谢昀泽认为，“答案有感的机器人，会取代只是历史读稿的机器人”、“反应快速的机器人，会取代页面自转圈圈的机器人”，但是如何判断答案是“正确”且“适用”将会是最大的挑战。
谢昀泽分析，各大厂生成式人工智能大对决的后续观察重点，除了在“采用订阅盈利或广告盈利？”“如何以API创造生态圈？”“如何与浏览器或办公室软件集成？”等“商业模式”比拼外，谁能持续称霸AI进化世界的关键，还是在有没有足够的AI“科技治理”能力上面。
谢昀泽认为，影响未来生成式AI风险，需要被严格治理的三大“暗黑场景”，包含“更迷离的深假（Deepfake）”、“更智能的黑客”，以及“更暴露的用户隐私”等危机。
生成式AI就像双刃剑
以“深假技术”为例，谢昀泽指出，目前已经可以做到，使用甲的脸孔，搭配乙的身材与动作，自然的用丙的嘴型说出的变造的内容，然而生成式AI技术大跃进，就像是双刃剑，如果黑客或是犯罪组织使用相同的技术，将会造成重大的损失。
谢昀泽说明，例如黑客用ChatGPT针对不同企业，产生数万封钓鱼邮件后，再运用伪造声纹假冒首席财务官致电财务人员进行汇款，或黑客用生成式AI的强大分析与归纳功能，找出藏于企业内部未曾发现的弱点，借此进行网络高端攻击或机密窃取。
谢昀泽补充，同时，因为生成式AI具备程序撰写的优异能力，恶意程序开发门槛将大幅降低，连不会写程序的人都可能当黑客等危机，虽然各AI系统都订有使用规则与回避有害内容的功能，但目前还是有许多管控措施的漏洞，都可能被有心人绕过。
“深假技术”将造成威胁
KPMG安侯执行副总经理林大馗预测，如果生成式AI联动既有的深假技术威胁，可能导致风险加乘，未来AI所创造的假文章、假程序、假邮件、假视频将大量涌现且难以识别，进而影响到生成式AI的正确性。
企业安全除了标配防火墙与杀毒软件外，可能还需通过“人工、工人智能”的打假工具及内容确认工程师等协作，才能有效降低AI所带来的安全风险。林大馗建议，新兴的风险治理工具尚未成熟前，一般企业可创建“智能主动式”的防护能量。
林大馗举例，像是公开视频中添加专属的散列值或安全凭证，或利用深假技术尚未能完整学习受复制对象侧面的技术缺陷，或在视频会议中请客户往左或右转头90度，并维持一小段时间等，以确保来源的真实性，并防止黑客暗中搜集与恶意篡改，更可避免黑客用以对其他消费者进行欺诈。
参考“零信任”资讯架构
林大馗说明，或扩大运用“MFA多因素认证”让消费者通过两种以上的认证机制，才能取得授权，如再搭配实体安全密钥等控制技术与避免单一持有设备，如手机取得所有认证资讯等方式，应可有效降低“深假技术”与“更智能的黑客”带来的威胁。
为降低黑客攻击的的风险及提升用户隐私安全性，林大馗认为，企业可以参考零信任（Zero Trust）资讯架构，避免以一次验证后即可长时间与完全取用所有服务的传统做法，改采依据不同的服务风险等级、搭配多次的验证，降低单一识别方法失效的灾损程度，确保适当的风险管控。
针对“深假进化”危机，林大馗提醒网络用户，开始要创建“眼见不为凭”的警觉，一般人们必须理解，过去习惯的“有图有真相”有可能会变成“看片都上当”，网络收到视频时，应该收起对内容的好奇心，选择安全可靠的科技应用厂商或服务，避免过度披露个人资料，并强化防护认知。
（首图来源：Unsplash）