生成式AI具備無窮潛力，不僅可以協助創作者在YouTube上揮灑創意，還能改變平台上觀眾和創作者的體驗。但把握這些機會的同時，YouTube必須擔起責任，維護YouTube社群的安全。無論生成或創作內容的方式是什麼，所有上傳至YouTube的內容都必須符合《社群規範》，而YouTube也瞭解AI可能會帶來新風險，因此必須有新的做法來應對。相關工作目前還在初步階段，在逐漸學習並進一步瞭解狀況後，YouTube也將持續改進YouTube的做法。以下是YouTube將於未來幾個月至明年將推出的更新內容。

揭露規定和全新內容標籤

為了符合所有人的利益，YouTube認為需要維護YouTube上健康的資訊生態系統，因此YouTube制定了長遠的政策，禁止透過技術手段操縱、誤導觀眾，並可能造成嚴重傷害風險的內容。不過，AI強大且新穎的敘事形式，也可能被用於產出誤導觀眾的內容，尤其是在觀眾不知道影片經過變造或合成的情況下。為了解決這個問題，YouTube會在未來幾個月內推出更新，讓觀眾在看到這類內容時能夠被提醒。

具體而言，YouTube將提供新選項，要求創作者在上傳內容時，指出該內容是否經過變造、合成、或使用AI工具生成。例如，可能會有AI生成的影片，栩栩如生地描繪了某個從未發生的事件、或是某人從未說過的話、做過的事。若創作者持續選擇不揭露這項資訊，YouTube可能會加以處置，包括移除內容、YouTube合作夥伴計畫資格遭停權等。當然，在這項更新推出之前，YouTube將會與創作者合作，確保他們了解這些新的規範。

如果內容可能經過變造或合成，YouTube會以兩種方式告知觀眾：在說明面板中新增標籤，標示部分內容經過數位修改或生成；至於涉及敏感議題等特定內容類型，YouTube則會在影片播放器中加上更顯眼的標籤。

對於某些合成內容，單單加上標籤可能還是無法減輕帶來傷害的風險，因此不管是否有加上標籤，只要是違反《社群規範》的內容都會從YouTube下架，例如意圖使觀眾受到驚嚇或反感的寫實暴力合成影片，就可能被移除。

隨著這些更新項目的推出，由YouTube生成式AI產品或功能所創作的內容，也都將被明確標示為變更或合成內容。

供觀眾、創作者和藝人使用的新選項

YouTube持續收到來自YouTube社群的意見回饋，觀眾、創作者和藝人都曾對於新興科技可能帶來的影響表示疑慮 — 尤其當自己的臉孔或聲音在未經同意的情況下遭到數位生成，或是當自己的觀點遭到扭曲。

因此，在未來幾個月內，若影片由AI產生、經過合成或修改，且包含臉孔、聲音等可辨識個人身分的模擬內容，使用者就能根據隱私權申訴程序要求移除。YouTube在評估這些申訴要求時會考量多項因素，例如提出申訴要求的人，其身份是否能被正確辨識、內容是否為搞笑模仿或諷刺作品、或者內容是否以公職人員或知名人士為主角等，並非所有內容都會從YouTube移除。

此外，YouTube也會推出新功能供音樂合作夥伴使用：如果發現AI產生的音樂模仿藝人的獨特歌聲或饒舌內容，音樂合作夥伴可以要求移除。在決定是否核准移除要求時，YouTube會將一些因素納入考量，例如內容主題是否為新聞報導、分析或評論等，而這項移除要求將開放給代表參與YouTube早期AI音樂實驗的唱片公司或發布商，YouTube也會在未來幾個月內陸續開放給更多唱片公司或發布商。

部署AI技術，支援內容審核作業

YouTube一向結合人工判讀和機器學習技術來落實《社群規範》，YouTube的系統採用AI分類器，先大規模偵測可能違反規範的內容，再由Google全球超過2萬名審查員確認該內容是否確實違反政策。透過AI，內容審核系統的速度和準確率持續提升中，而其中一項顯著的影響便是辨認新的濫用形式。

當新威脅出現時，YouTube的系統沒有足夠的背景資訊來大規模地理解並加以辨識它們，但透過生成式AI，YouTube迅速擴大了訓練AI分類器的資訊集，而這也意味著YouTube能夠在更短的時間內辨認並找出這類內容。此外，提升系統的速度和準確率，也讓YouTube的人工審查員能夠減少接觸有害內容。

打造負責任的AI工具和功能

當YouTube持續為創作者開發新的AI工具，YouTube在面對重大責任與挑戰時的做法始終不變，YouTube相信重點是花時間把事情做對，而不是追逐第一名的寶座。YouTube正仔細思考如何在多年的基礎上建立能夠處理內容審核作業的團隊和技術，包括投入大量心力，持續開發防護機制，避免AI工具生成不該出現在YouTube上的內容類型。

YouTube也知道，一定會有惡意行為人設法規避這些防護機制，因此YouTube將採納使用者的意見回饋，從中學習並持續改良機制。在YouTube公司內部，像是情報辦公室這樣的專門團隊，也特別著重對抗式測試和威脅偵測，以確保YouTube的系統能夠應對不斷出現的新挑戰。

AI轉變近在眼前

對於在YouTube上運用AI解鎖新型態的創新與創意，YouTube還在這趟旅程的開端，並對這項科技的潛力感到無比興奮，而YouTube也深知在未來幾年內，接下來的變革將在創意產業中產生迴響。在這個關鍵時刻，YouTube正投入心思與時間力求平衡，在這項技術帶來龐大效益的同時，確保YouTube持續維護這個社群的安全，YouTube將與創作者、藝人、以及創意產業的各方人士攜手打造一個人人受惠的未來。

文章轉載自Google台灣官方部落格

延伸閱讀：
Google Pixel 7a輕旗艦新機14,990元開賣！效能、拍照升級亮點一次看
Google於《Google I/O開發者大會》推出旗下首款折疊式手機Pixel Fold｜同場加映Pixel Tablet平板電腦
全能工作筆電 MacBook Air M2 開箱動手玩
Apple推出搭載A17 Pro晶片、動作按鈕、USB-C的鈦金屬iPhone 15 Pro｜15 Pro Max