今天，抖音資訊安全中心釋出【抖音關於不當利用AI生成虛擬人物的治理公告】，近期，抖音站內仍有不當使用AI技術生成虛擬人物釋出內容的帳號，平台進行了嚴厲處置。
↓↓↓
去年，抖音釋出【關於人工智慧生成內容的平台規範暨行業倡議】，明確平台不鼓勵利用AI生成虛擬人物進行低質創作，將嚴格處罰違規使用AI生成虛擬人物釋出違背科學常識、弄虛作假、造謠傳謠的內容。
近期平台發現，站內仍有不當使用AI技術生成虛擬人物釋出內容的帳號，平台進行了嚴厲處置。
其中典型行為包括：
1、生成境外虛假人設，消費愛國心理、博取關註。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。
2、生成俊男美女虛假形象，騙取互動，交友導流。直接稱使用者為「你」「娘」「媽媽」「老公」等，釋出情感誘導、唱情歌、為你謀福利等表達虛假情感的內容，將使用者導流至私人聊天工具，甚至進行詐騙。
3、生成精英人士虛假人設，釋出心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。
針對違規使用AI生成虛擬人物的行為，平台會對違規視訊下架，對違規帳號進行取消其投稿和營利許可權、抹除帳號粉絲、封禁帳號等處置，並利用模型、技術辨識能力等手段，進行長期系統的辨識發現和處置。同時，平台已掌握部份黑產團伙不當使用AI生成虛擬人物用於犯罪的線索，將報警打擊。
人工智慧技術的快速發展，豐富了互聯網內容生態，但也帶來技術濫用的挑戰。平台重申，創作者、主播、使用者、商家、廣告主等平台生態參與者，在抖音套用生成式人工智慧技術時，須遵循以下規範：
1、釋出者應對人工智慧生成內容進行顯著標識，幫助其他使用者區分虛擬與現實，特別是易混淆場景。
2、釋出者需對人工智慧生成內容產生的相應後果負責，無論內容是如何生成的。
3、虛擬人需在平台進行註冊，虛擬人技術使用者需實名認證。
4、禁止利用生成式人工智慧技術創作、釋出侵權內容，包括但不限於肖像權、智慧財產權等。一經發現，平台將嚴格處罰。
5、禁止利用生成式人工智慧技術創作、釋出違背科學常識、弄虛作假、造謠傳謠的內容。一經發現，平台將嚴格處罰。
治理違規內容是抖音的長期工作，平台號召廣大使用者共同監督，如發現不當使用人工智慧生成內容的情況，可以在站內舉報或發送詳情至舉報信箱：[email protected]，平台將在第一時間核實處理。
抖音資訊安全中心
2024年3月27日
