今年，AI（Artificial Intelligence，人工智能）成了炙手可热的“香饽饽”，谁看到都想“吃”一口，其对于视频、音频、图像、文字的处理逐渐从实验室走向大众，改变着人们的生产生活方式，且应用场景广泛，玩法多元，有人将其称为人类历史上又一次科技革命。
　　AI带来了机遇，也带来了考验。和你语音通话甚至视频对话的，可能不是本人！近期，用AI技术兴风作浪的诈骗案件引起了社会普遍关注。如一位包头老板被AI换脸诈骗430万元，而根据安徽警方公布的另一起AI换脸诈骗案，涉案金额同样高达百万元。这些诈骗采用的是熟人诈骗办法，使用AI技术合成熟人的声音，并且进行换脸，让被害人毫无警惕就上了当。此前，ChatGPT就曾因编写假新闻而饱受诟病，而近期大量出现的AI诈骗提醒人们，技术被滥用的风险，对普通人造成的安全隐患和威胁，绝对不容低估。
　　AI给人们的财产和安全带来了极大的威胁，人们意识到，比发展AI更重要的，是保障AI安全。对此，政府也是高度重视。2017年7月，国务院印发《新一代人工智能发展规划》，其作为我国AI发展的纲领性文件，提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，其中特别提到“到2025年初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。2022年12月，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，要求深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，可能导致公众混淆或者误认的，应当进行显著标识。2023年4月，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，其中第五条就对提供服务方有规定，要求利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，承担该产品生成内容生产者的责任，履行个人信息保护义务。2023年5月24日，中国互联网协会发文提醒，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。
　　业内人士认为，只有AI换脸、AI拟声等在每一个环节有据可依、严格授权，提升造假诈骗难度，才能更好保护每个人的信息和财产安全。面对AI诈骗，还要见招拆招。除了政府出台相关法律法规外，企业也应该加强监管和技术防范手段，建立完整的安全体并对安全技术进行投入和支持，提高安全技术水平。同时，在防止AI技术被滥用的同时，我们对AI这样新一代信息技术的应用不能因噎废食。ChatGPT等前沿AI技术对社会生产力的推动作用显而易见，面对新技术变革，我们除了积极拥抱，更要心怀敬畏，提升风控能力，令其为推动产业数字化转型、提升实体经济服务质效发挥更大的作用。