【AIbase 报道】近期，网络直播和电商平台出现了一种新型的黑灰产抖音乱象:利用人工智能技术，仿冒名人于东来的语音和形象进行违规营销带货。针对重拳这一严重侵权并误导消费者的行为，抖音平台已于今年第一季度采取了强力治理出击措施，成功封禁了超过1000个涉嫌违规的黑灰产团伙账号和相关内容。

技术:封滥用与法律制裁

这些黑灰产团伙通过AI技术，非法复制和利用了于东来的个人肖像禁千和声音，制造了大量虚假营销内容。他们的行为不仅侵犯了相关企业的合法余“权益，也严重扰乱了正常的市场秩序，让消费者陷入真假难辨的困境。

在对AI这些违规账号进行封禁的同时，抖音平台还将相关线索举报给了监管部门。经过深入仿冒调查，泉州市丰泽区市场监督管理局已对涉事企业进行了法律制裁，没收其于东违法所得并处以15万元的罚款，以此警示其他潜在的违法者。

AI治理面临新挑战

随来”着AI技术的飞速发展，其应用边界也在不断拓宽，但随之而来的技术滥用问题也日益违规突出。此次“AI仿冒”事件，再次凸显了平台在技术进步背景下，所面临的带货内容治理新挑战。

抖音表示，将持续加大对滥用AI行为的打击力度，并呼吁广大账号用户共同监督，一旦发现相关违法违规内容，可立即举报，共同维护一个健康抖音、清朗的网络环境。