AI深偽影像氾濫 美執行「刪除非合意親密影像法」
(中央社華盛頓19日綜合外電報導)美國今天開始執行「刪除非合意親密影像法」,要求科技平台移除情色「深偽」合成影像和其他未經同意的私密影像,但有專家警告此法仍有不足且可能引發網路審查疑慮。
法新社報導,美國總統川普去年簽署「刪除非合意親密影像法案」(Take It Down Act),將未經同意的情色影像網路傳播視為犯罪行為。這些影像往往是利用廉價且容易取得的人工智慧(AI)工具和「深偽」(deepfake)技術製作。
美國聯邦貿易委員會(FTC)表示,科技平台今天起必須建立申訴程序,讓受害者能夠請求移除這類內容,且平台收到有效請求後必須在48小時內下架,否則將面臨罰則,包括每次違規最高可能面臨5萬3088美元(約新台幣169萬元)的民事罰款。
聯邦貿易委員會主席佛格森(Andrew Ferguson)在致函Meta、TikTok、X、Snapchat等10多家科技公司後說:「我們已準備好監督是否合規、調查違規行為,並執行『刪除非合意親密影像法』。」
他表示:「保護弱勢免於這種有害的濫用行為是本單位和本屆政府的首要任務之一,尤其是保護兒童。」
社群平台X安全帳號(Safety account)昨天發文說:「我們的社會不容加害人未經他人同意散布私密照片和影片。X對於非合意親密影像、不當性內容或任何形式的剝削行為零容忍。」
科技大亨馬斯克(Elon Musk)旗下AI工具Grok今年稍早因在未經同意下將女性與未成年人影像「數位脫衣」事件引發國際反彈聲浪。研究人員表示,Grok在短短數天內據估生成300萬張女性及孩童的性化不雅照。
儘管如此,部分專家警告,「刪除非合意親密影像法」遠非完美的解決方案。
史丹佛大學人本人工智慧研究中心(Stanford HAI)政策研究員普費佛康(Riana Pfefferkorn)表示,此法會形成一種「先刪再說,不問原因」的態勢。
她在聚焦調查數位詐欺的電子報「指標」(Indicator)中表示,這種誘因結構的「方向就是刪、刪、刪」。
普費佛康也表示擔憂此法可能被用來對付跨性別者、同意分享內容的性工作者,甚至被用於打壓政府不認同的政治言論。
此法的下架規定也引發其他言論自由倡議人士不安,他們警告,這可能會促使科技公司為了降低風險而對非冒犯性內容過度審核。(編譯:盧映孜)1150520