AI爱好者
深度造假技术引领着虚假信息的蔓延，而生成式人工智能（AI）则为其提供了野蛮生长的土壤。曾经只有专业人士能够完成的操纵图像、视频和音频等深度造假内容，如今在生成式AI的助力下，普通人也能轻松创造出这样的内容。
生成式AI的出现可能给人类带来巨大的影响。据美国高盛集团早些时候的警告，超过3亿个全职工作岗位可能会受到波及。同时，美国国会研究服务局的报告指出，AI的最新创新也引发了版权问题，即如何确定AI创建或使用的内容是否属于侵权或合理使用等。
然而，令人担忧的是，生成式AI还可被用于社交媒体上的虚假信息活动。这种虚假信息活动并非单纯的个人错误或谎言，而是蓄意制造和传播带有政治目的的谎言。虚假信息活动利用各种策略，结合新技术、新媒体和传统媒体，放大分歧、煽动动乱。
塔尔萨大学的网络安全教授约翰·希尔指出，众所周知，脸书、推特、TikTok等平台现在已成为信息战的前线。生成式AI的介入不仅带来新的危险，还放大了现有的危险。
回顾2017年，当名为”深度造假”的用户首次在互联网上发布合成视频时，也许没有人预料到他已经打开了潘多拉魔盒。随着缺乏监管的深度造假技术野蛮生长，其对经济和社会的稳定构成了逐渐加剧的威胁。
深度造假技术利用AI将现有图像、音频或视频中的人物替换成他人，过去这需要专业人士才能完成，但现在在生成式AI的助力下，很多人都能轻松创作出这样的内容。
希尔指出，深度造假技术让别有用心之人能够窃取或盗用他人的声音，并将其嵌入图像或视频中，或以无法检测的方式操纵或更改数字内容。这只是个开始，随着技术不断进步，深度造假技术创作的内容与真实事物之间的差距将越来越小。而且，随着深度造假内容制作的简化，这类内容有可能随时在社交媒体上向大众传播。
希尔强调，这些深度造假内容在社交媒体平台上的无限传播和缺乏管理将导致一场虚假信息运动，影响、说服和误导他人或特定受众。随着相关技术的不断发展，未来可能发生令人极度担忧的情况。
此外，生成式AI加上深度造假可能会给2024年美国总统选举带来真正可怕的后果。它不仅能快速生成有针对性的竞选邮件、文本或视频，还可能被用来误导选民、冒充候选人，并以前所未有的规模和速度破坏选举，诽谤候选人，甚至煽动暴力。
中佛罗里达大学研究生院教授兼副院长提摩太·塞尔诺博士表示，由AI制造出的深度造假内容看起来非常真实，即使对专家来说，确定其真实性也是一项挑战。
与此同时，选民们可能会被淹没在AI捏造的视频中。如果社交媒体平台故意或错误地允许AI修改或生成的信息在其网络上滞留和传播，选民对其信任度可能进一步降低。一家网络安全公司预测，试图干预美国选举的团体将利用AI和合成媒体来侵蚀信任。
生成式AI相关行业正在制定”内容认证”标准，以便用户验证数字内容的来源，但开发和采纳这些标准需要时间。希尔指出，这是数字媒体发展的必经阶段。然而，在浏览或使用社交媒体平台上的内容时，用户必须更加谨慎。此外，社交媒体网站应更积极地监管AI操纵的帖子。
生成式AI提供了颠覆性进步的强大能力，但这种能力必须谨慎使用，以更好地发挥科技向善的力量。
欢迎免费使用GPT对话，感受ChatGPT的魅力！AI爱好者 – 最具实力的中文AI交流社区平台 (aiahz.com)
长按扫描二维码进群领资源
