抖音打击不当利用AI生成虚拟人物行为，加强AI安全监管

• 抖音

驱动中国2024年3月28日消息，近日，抖音平台发布公告，针对不当利用人工智能（AI）技术生成虚拟人物的违规行为，采取了一系列治理措施。该公告指出，为了维护网络环境的健康和用户权益，抖音将对违规使用AI生成虚拟人物的视频进行下架处理，并对相关违规账号实施取消投稿和营利权限、抹除账号粉丝、封禁账号等严厉处罚。此外，抖音已经掌握了一些黑产团伙不当使用AI生成虚拟人物进行犯罪活动的线索，并将报警打击。

随着人工智能技术的飞速发展，互联网内容生态日益丰富，但同时也带来了技术滥用的风险。方正证券分析认为，数据安全、隐私保护和知识产权的保护，以及对AI内容的监管，已经成为生成式人工智能发展的重要前提。政府在发挥监管职能的同时，安全厂商也在积极布局，运用技术能力守护安全底线。

国投证券此前的分析也指出，随着人工智能技术在大模型等领域的通用化趋势，AI安全和监管问题将变得更加突出。因此，无论是从产业技术角度还是政策法规角度，AI的安全监管都必将进一步加强，这将带来新的产业需求，并推动AI安全监管产业的发展。

抖音此次的行动是对AI技术滥用行为的一次有力打击，也是对AI安全监管重要性的一次明确表态。通过下架违规视频、处罚违规账号以及利用技术手段进行长期系统的识别和处置，抖音展现了其在维护平台秩序和用户权益方面的决心。同时，这也向其他平台和用户传递了一个明确的信号：AI技术的合理使用和监管是行业发展的必然要求。

在全球化和数字化时代背景下，AI技术的发展为各行各业带来了革命性的变化。然而，技术的双刃剑特性要求我们必须在享受其便利的同时，也要面对由此带来的挑战。抖音的案例只是冰山一角，它揭示了当前AI技术发展中存在的安全隐患和监管盲区。这不仅需要技术开发商和平台的自律，更需要法律、政策的完善和公众意识的提升。

展望未来，AI安全监管将成为一个新的增长点。随着AI技术的不断进步和应用范围的扩大，相关的安全问题和监管需求也将日益增长。这不仅将推动相关法律法规的制定和完善，也将促进安全技术的创新和发展。抖音的举措，无疑为整个行业树立了良好的榜样，也为其他平台提供了宝贵的经验。

总之，AI技术的安全监管是一项系统工程，需要政府、企业和社会各界的共同努力。抖音的行动是对这一理念的积极响应，也是对整个互联网行业健康发展的有力保障。随着AI技术的不断发展，我们期待看到更多类似的积极举措，共同推动AI技术健康、有序、安全地发展。