杨玉龙
西装革履的小伙子舌灿莲花兜售保健品，背景和神态总是雷同；视频中的妙龄女子声称要做老人的“好妹妹”，却明显声画不同步……如今，AI工具被一些别有用心的人滥用，专门用来围猎对新技术不熟悉的老人。
这些AI制造的假信息混淆视听，在短视频平台上流传甚广，目标就是涨粉并诱导粉丝进行消费。而现实中，被AI数字人牵动心绪的老年人不在少数。
据报道，不久前，北京市老龄协会、北京律维银龄研究与服务中心发布专项报告，提醒老年人注意防范AI换脸诈骗。报告指出，老年人因为缺乏分辨能力，已成为AI诈骗的重灾区。对于年轻人而言，应该关注老人的上网习惯，也应引导他们远离“免费领大奖”“重大优惠政策”等宣传。
去年相关部门就提出，人工智能生成合成内容需进行标识。然而，现实情况是，这些AI生成的视频与音频，要么压根没标识；要么虽然标注了“内容由AI生成”等字样，但提示信息字体很小。对此，相关部门当引起重视，逐步构建完善的人工智能监管体系，加大对AI诈骗的惩治力度。
有专家表示，相关技术团队可开发和部署针对欺诈模式的AI系统，通过话语特征、行为模式等进行识别并报警，利用AI检测辅助老人辨识伪造内容。此外，应加强用户数据的加密和保护，防止数据被黑客或不法分子窃取和利用。
AI暴露出的算法偏见、数据泄露、虚假内容生成、不当利用等安全风险，极易引发新型犯罪。对此，互联网平台应负起责任。毕竟，在人类与AI的对垒中，平台企业扮演着重要角色，平台应恪守法律底线行事，而不能为了利益纵容诈骗套路层出不穷。
（作者单位：河北省高碑店市辛桥镇人民政府)