科技
TikTok推出了图片和视频的AI生成检测功能,同时具备肖像识别功能。
中文译文
TikTok于20日宣布推出两项新功能,以提高AI生成内容的透明度和管理能力。一是引入了"透明度确认"功能,可以确认图像或视频是否是通过TikTok的AI创作功能生成或编辑的;二是启动了"肖像检测"功能的全球推广,该功能用于检测未经本人同意可能使用了其肖像的AI生成内容。
透明度确认功能通过上传图像或视频,即可确认该内容是否使用TikTok的AI创作功能生成或编辑而成。该功能无需TikTok账号即可使用,可通过TikTok的透明度中心访问。
判定过程中,将利用记录内容创作历史等信息的"内容凭证"(Content Credentials)以及TikTok独有的不可见水印技术"VeraDura"。
肖像检测功能是一项选择加入(opt-in)型功能,供目标创作者或公众人物检测并举报TikTok上可能未经授权使用其肖像的AI生成内容。政府机构、政治家及政党账号也包含在可使用对象范围内。
使用该功能需要通过第三方合作伙伴完成身份验证及注册。注册后,当检测到可能使用了本人肖像的内容或账号时,用户将收到通知并可确认相关内容。相应内容可直接举报至TikTok的安全团队,如违反社区准则,将予以删除。
出于隐私保护考虑,该功能将收集的数据控制在最低限度,并表示TikTok不会持续保留用于身份验证的身份证明材料。
TikTok此前已持续推进对AI生成内容的标注工作,累计已为超过50亿条AI生成视频添加了标签。此外,通过"管理主题"功能,用户可以调整"推荐"信息流中显示的AI生成内容的数量。</translated_text>
</invoke>
原文
TikTokは20日、AI生成コンテンツの透明性と管理を高める2つの新機能を発表した。画像や動画がTikTokのAI作成機能で生成・編集されたものかを確認できる「透明性確認」機能を導入したほか、本人の同意なく肖像が使用された可能性のあるAI生成コンテンツを検出する「肖像検出」機能のグローバル展開も開始した。
透明性確認機能は、画像や動画をアップロードすることで、TikTokのAI作成機能を使って生成・編集されたコンテンツかを確認できるもの。TikTokアカウントがなくても利用でき、TikTokの透明性センターからアクセスできる。
判定には、コンテンツの作成履歴などを記録する「コンテンツクレデンシャル」とTikTok独自の不可視ウォーターマーク技術「VeraDura」を活用する。
肖像検出機能は、対象となるクリエイターや公人が、自身の肖像を無断で使用した可能性のあるAI生成コンテンツをTikTok上で検出し、報告できるオプトイン型機能。政府機関や政治家、政党のアカウントも利用対象に含まれる。
利用には、第三者パートナーを通じた本人確認と登録が必要。登録後、自身の肖像が使用されている可能性のあるコンテンツやアカウントが検出されると通知が届き、内容を確認できる。該当するコンテンツはTikTokのセーフティチームに直接報告でき、コミュニティガイドラインに違反している場合は削除される。
プライバシー保護にも配慮し、収集するデータを最小限に抑えるほか、本人確認に使用した身分証明資料をTikTokが継続して保持することはないとしている。
TikTokはこれまでもAI生成コンテンツへのラベル表示を進めており、累計で50億本以上のAI生成動画にラベルを付与している。また、「トピックを管理」機能では、「おすすめ」フィードに表示されるAI生成コンテンツの量を調整できる。

