快科技2月20日消息,网上存在着一种令人担忧的现象 有人公然叫卖 AI声音克隆 服务以及制作名人换脸视频。
其中,仅需花费200元,就能定制明星语音包;而500元,则可以制作出带有 情绪调节 功能的名人换脸视频。
实际上,这些商家所倚仗的不过是一些AI开源工具罢了。具体来说,只需15分钟的名人原声,便能够训练出声音模型;一段公开演讲视频,也足以生成换脸素材。
那么,针对这种AI 仿冒名人 的现象,我们是否具备自行辨别的能力呢?
对此,微信珊瑚安全为我们科普了一些避雷的小妙招。要知道,AI生成的内容并非完美无缺,其实也是存在瑕疵的。例如,AI语音常常会带有机械尾音,只要多听几分钟,就能够察觉到其中的 AI味 。而且在重音停连方面,其语气也会显得不够自然。
再看AI换脸视频,其中眨眼频率往往是固定的,嘴角肌肉运动可能会显得不自然,并且无法及时与弹幕用户进行互动。如果使用0.5倍速仔细观察微表情,或许就能发现AI的端倪了。
更为重要的是,我们需要在日常生活中保持警惕,留意那些反常场景。比如,当看到明星跑来推销三无产品,或者专家突然跨界推荐理财产品时,有可能已经陷入了AI 仿冒名人 的陷阱之中。