美國聯邦第8巡迴上訴法院周五(2日)暫時阻止明尼蘇達州執行全美首個針對AI「裸化」(nudification)技術的禁令,使馬斯克旗下xAI與明尼蘇達州之間的憲法訴訟出現重大進展。法院裁定在xAI提出的法律挑戰持續期間,暫緩執行這項8月1日生效的法律。

這項法律禁止網站營運商、軟體開發商及其他服務提供者允許使用者利用AI,將可辨識個人的原始照片修改或生成為逼真的裸露或性化影像,包括讓原本沒有呈現的私密身體部位出現在影像中。明尼蘇達州議會今年通過相關法案後,該州成為全美第一個直接禁止這類AI「裸化」服務的州。

xAI在訴訟中主張,這項法律違反美國憲法第一修正案所保障的言論自由,並認為法律涵蓋範圍過廣,可能限制部分受憲法保護的AI生成內容。xAI表示,旗下Grok Imagine已設置防護措施,禁止生成未經同意的真人裸露或性化影像,公司也已對涉嫌繞過相關限制的使用者採取法律行動。

明尼蘇達州則主張,立法目的是遏止利用AI製造及散播非自願性色情影像,尤其是涉及兒童的性虐待材料。州政府認為,AI裸化工具讓使用者能夠以極低技術門檻製造逼真的虛假色情影像,傳統上針對影像散播者的法律已不足以處理這項新技術所帶來的風險。

第8巡迴上訴法院此次裁定,接受xAI提出的禁制令請求,暫時停止明尼蘇達州執行相關法律。不過,這並非對該法律是否違憲作出最終判決,xAI針對法律提出的憲法挑戰仍將繼續審理。

這起案件的關鍵法律爭議之一,在於明尼蘇達州法律對「裸化」的定義。法規將其界定為修改或生成影像或影片,使可辨識個人的私密部位出現在原始未修改內容中不存在的狀態,而且生成結果必須逼真到合理人士會相信該私密部位屬於該名可辨識個人。

法律同時禁止網站、應用程式、軟體、程式或其他服務讓使用者存取、下載或使用相關服務進行裸化,或代表使用者直接進行裸化。不過,若完成相關影像處理需要使用者本身具備技術能力,法律則設有例外。

若違反這項法律,明尼蘇達州檢察長可提出民事執法行動,每一項違規最高可處50萬美元民事罰款,並可要求法院核發禁制令及其他救濟措施。

這次上訴法院的裁定也推翻了xAI在下級法院遭遇的暫時性挫折。明尼蘇達州聯邦地區法院法官Donovan Frank在9月4日拒絕xAI提出的初步禁制令申請,認為xAI沒有證明若法律持續執行將遭受不可彌補的損害,並指出xAI在法律通過後一段時間才提出緊急救濟請求。

Frank當時也認為,xAI所主張的500,000美元單次違規罰款屬於金錢損失,即使未來遭到處罰,若法律最終被判違憲,相關損失仍可能透過法律程序追回,因此不足以構成不可彌補的損害。由於xAI已在明尼蘇達州停用相關裸化功能,地區法院也認為實際遭到罰款的風險受到限制。

地區法院同時指出,案件涉及的第一修正案問題相當複雜,尤其AI生成技術仍在快速發展,法院需要進一步審理相關憲法問題。當時法院並未就xAI最終是否勝訴作出判斷,而是以xAI未能證明不可彌補損害以及其他禁制令要件未獲滿足為由,拒絕暫停法律執行。

xAI之後向第8巡迴上訴法院提出上訴,並反駁地區法院認為公司延誤提出救濟的判斷。xAI也再次強調,Grok Imagine已設有嚴格防護機制,目的在阻止使用者利用服務生成真人裸露或性化影像。

這起案件的背景與生成式AI影像工具快速普及有關。明尼蘇達州議會在立法過程中曾引用相關研究,指出AI裸化工具已被廣泛使用。根據法院先前引用的資料,RAINN提供的一項研究發現,某社群網站推出AI影像編輯工具後的前11天,使用者生成約300萬張寫實性化影像,約占同期生成照片的65%,平均每分鐘約190張。

法院文件也指出,Internet Watch Foundation曾通報大量利用生成式AI製造兒童性虐待材料的案例。該組織資料顯示,2024年上半年曾收到約6,800起涉及生成式AI兒童色情內容的通報,截至2025年6月,相關通報數已超過40萬起。不過,這些數據是法院在審理下級法院禁制令時引用的資料,並非本次上訴法院對相關規模作出的獨立認定。

Grok Imagine是xAI旗下影像生成及編輯工具,可透過文字或語音指令生成影像與影片。xAI表示,Grok Imagine的使用範圍包括藝術、動畫家庭照片、迷因、產品模型、政治諷刺及宗教影像等,同時公司的使用政策禁止非法、有害或濫用行為,包括對真人影像進行裸化、將真人影像改為性化情境以及性化或剝削兒童。

xAI近來也開始對涉嫌規避Grok防護措施的使用者提起訴訟,指控這些使用者試圖生成未經當事人同意的性化影像。公司因此主張,平台已透過技術防護及使用規範處理相關風險,而明尼蘇達州法律仍將責任直接施加在提供AI工具的業者身上。

明尼蘇達州則認為,僅依靠平台事後封鎖違規內容或追究使用者責任不足以應對AI裸化技術的快速擴散。州政府主張,法律直接限制提供相關生成能力的服務,是針對AI技術所造成特殊風險所採取的監管方式。

目前第8巡迴上訴法院的暫緩執行命令僅影響法律的執行,並未結束xAI與明尼蘇達州之間的訴訟。案件後續仍將圍繞第一修正案適用範圍、州政府監管AI生成內容的權限,以及平台業者是否能因使用者生成的內容承擔法律責任等問題展開。

隨著美國各州陸續尋求規範AI生成色情影像、深偽影像及未經同意的性化內容,這起案件可能成為法院界定AI生成內容監管與憲法言論自由界線的重要案例。最終判決是否支持明尼蘇達州法律,以及其他州能否採取類似監管措施,仍有待後續司法程序決定。