知晓AI岂容恶搞

汕巨家居

对经典影视剧荒诞改编，对公众人物声音恶搞……近日，各大短视频平台涌入大量此类用AI技术制作的恶趣味视频，且有愈演愈烈之势。


不可否认，人工智能技术的飞速发展，特别是深度学习算法的进步，使AI在图像和音频处理方面的能力达到前所未有的高度。这一进步不仅为艺术创作带来机遇，也为娱乐产业注入新动力。然而，任何技术都有其两面性，利用AI技术制作恶趣味视频，不仅扭曲了原作的艺术价值，还对创作者和社会文化造成了负面影响。
有人将《西游记》中唐僧师徒的形象与现代流行文化元素相结合，制作出一系列滑稽可笑却令人不适的视频；还有人利用语音合成技术，模仿明星、知企业家的声音发表不当言论；有一类视频将正常的食物通过AI特效，变幻成各种奇形怪状的动物，这些视频利用视觉冲击吸引观众，尤其是儿童和辨别能力较弱的群体。
互联为个人表达提供了广阔空间，但并不意味着可以限制地滥用。就像宝剑从属于侠客一样，论人工智能发展到何种程度，它始终源于人类的创造，技术本身并善恶之分，关键在于使用者的态度与目的。
当这项技术被正确引导并应用于正向领域时，同样能成为推动社会进步、丰富人们精神生活的重要力量。广大创作者要摸到创意的边界，不仅是道德层面，还有法律的约束。一些创作者揣着明白装糊涂，明知擅自使用他人作品或肖像的行为是的，却铤而走险。
毕竟，这种越界行为的门槛和成本很低。以AI语音合成技术为例，只需要打开软件、动动手指，一条以假乱真的配音视频就能新鲜出炉。有的视频越过了开玩笑的边界，“偷走”他人声音进行恶搞、造谣，带来了恶劣的社会影响。由于络的匿性和跨地域性，追责难度较大。这一趋势要求法律法规和治理手段得抓紧跟上科技发展的步伐，对AI技术的应用进行明确的约束，引导科技向善。
ai语音应用工具提供方不能“置身事外”，要把好首道关，强化对源头素材的把控和对生成内容的监管，完善运营规则，并在出现问题时积极配合有关部门，追溯音频的生成源头。
作为大容量输出的平台方，也要把好内容“方向盘”，进一步完善内容审核机制，确保AI生成的文字、图片和视频等内容导向正确、合法合规。此外，也有必要积极开发运用相应AI辅助工具，及时筛选存在问题的内容，有效防范虚假、等内容的传播风险。
总之，不能让AI“过界”，其长足发展应当服务于人类文明的进步，而不是成为破坏其根基的工具。让我们共同努力，提高辨别是非的能力，共同营造一个健康、积极向上的络环境。


#AIGC行业资讯#AI#AI技术#ai语音#ai语音合成#人工智能#健康#图片#工具#文字#深度学习#视频#语音#语音合成#辅助工具#配音视频#音频
?版权声明

这要归功于扣子智能体的价值属性比较大，较容易成为行业的中坚力量。BetterYeah专为企业提供尖端的AI知识库构建平台，融合最新的大模型（LLM）与RAG技术，实现强大的知识库数据处理与AI智能体应用定制。https://www.betteryeah.com/agent