生成式人工智慧正在復興包括前德國獨裁者阿道夫·希特勒在內的偏執者的可怕遺產，TikTok 用戶利用該應用程式的人工智慧工具來復活已故領導人的仇外言論。
這種現象最近被記錄在兩份不同的報告中，其中一份是由非營利監管組織發布的媒體對美國很重要另一個在調查中戰略對話研究所以及 SITE Intelligence Group，由華盛頓郵報。兩者都推出了一個小型帳戶網絡，用於創建和傳播希特勒演講的人工智慧配音翻譯版本。
根據 Media Matters 的研究，人工智慧產生的音訊已累積了數百萬次觀看次數，其中包括嘲笑領導人的影片或將音訊變成迷因的影片。其他帳戶似乎致力於認真地創建和分享這些音頻，有時帶有徹底的反猶太主義信息。使用上述音訊的熱門影片通常以減速和「混響」音訊為風格，最早可追溯至 2024 年 4 月，其中有一些翻譯不當。報告發布後，TikTok 刪除了一名已知上傳者的帳戶，並開始將相關搜尋導向到《關於大屠殺的事實》頁面，記錄了希特勒屠殺數百萬猶太平民、殘疾人、政治犯、LGBTQ+ 人群以及羅姆人血統的人。
這華盛頓郵報報導稱，已知的法西斯團體讚揚使用人工智慧來傳播偏執的宣傳，理由是越來越多的「紅丸」年輕人在網路上參與仇恨言論和右翼社區。專家告訴該出版物，他們擔心平台審核工具，包括 Meta 網站和 X 上的工具，將無法跟上人工智慧輔助的傳播。
可混搭的熱門故事
兩份報告都指出，影片評論部分出現了大量積極情緒，一些用戶直截了當地讚揚了這位歷史人物及其政策，並指出許多這些影片並沒有炫耀明顯的白人至上主義狗哨聲，這引發了人們的擔憂，即使用者在不知不覺中被內容激進化。
去年，在人工智慧的推動下，類似的重寫歷史人物遺產的嘗試也出現在 TikTok 上。六月，一誤洩該應用程式新的人工智慧數位化身工具的內部版本——允許用戶使用創作者的肖像生成廣告——導致了幾個人工智慧生成的影片的傳播，其中的化身背誦著各種白人至上主義言論，包括摘錄我的戰鬥以及奧薩馬·本·拉登的《緻美國的信》。 2023年，TikTok視頻背誦相同的本·拉登聲明，有時與白人至上主義情緒連結在一起，引發跨應用程式恐慌鑑於以色列對加薩巴勒斯坦人的圍困以及該國美國的支持，用戶將這篇演講重新解讀為反帝國論文。
一般來說，監管機構已經記錄了國內外行為者的重複事件透過使用生成人工智慧工具，包括合成數位偽造（或「深度偽造」）。白人至上主義者、親納粹帳號也在該平台上激增，與 Telegram 等網站的網路協同運作，以在社群媒體演算法中增強其內容。
根據一個七月報告根據戰略對話研究所的數據，TikTok 擁有「數百個」親納粹帳戶，這些帳戶累計瀏覽量達數百萬次。該組織表示，該公司行動不夠迅速，無法阻止病毒的傳播。
