對加州洛斯巴諾斯的代課老師路易斯·迪聖地亞哥(Luis DeSantiago)來說,這一切始於幾則簡訊。3月12日,當他在咖啡店兼職時,手機亮了起來。一位同事說,社群媒體上流傳著一張AI照片,她的表妹想知道那是不是迪聖地亞哥。
起初,迪聖地亞哥並不擔心,他認為不雅照片違反TikTok的社群準則,通常會很快被移除。迪聖地亞哥告訴WIRED:「當我最終看到那張照片時,感覺就像被重擊了一拳。」照片的部分內容,與他大學時在工作場合拍的一張鏡子自拍照很像。但照片中的他沒有穿工作制服,而是穿著內衣,並且不像原圖中那樣正常站立,而是擺出煽情姿勢。
這些簡訊開啟了一場長達數月的事件,涉及兩所學校、學生和行政人員。迪聖地亞哥絕不是唯一一位以這種方式受害的教育工作者。WIRED採訪了另外三位老師,他們聲稱學生可能利用AI製作了他們的性化照片和影片。他們表示,這些事件讓他們深感痛苦與失望,在某些情況下,甚至讓他們重新評估他們對工作的看法以及與學生的關係。
「這可能也包括其他學生」
收到簡訊後,迪聖地亞哥開始拼湊出幕後主使。其中一個分享照片的帳號在TikTok個人資料中使用了真實姓名,那是迪聖地亞哥認識的一名當地國中生,他經常在那裡代課。根據追蹤和互動該帳號的人,以及他對學生朋友圈的了解,迪聖地亞哥懷疑另外兩名學生也參與其中。他隔天正好要到那所國中工作。
迪聖地亞哥向副校長報告了這起事件,副校長向他保證學校會「處理好」。當天晚上,他決定在TikTok上搜尋自己的名字,尋找那張照片。他發現另一名學生創建了一個冒充他的帳號,使用了他稍微拼錯的名字,並將同一張照片作為個人資料圖片。
迪聖地亞哥說,在接下來的幾週裡,他與學校行政人員、學生家長,甚至警方來回溝通。迪聖地亞哥寫信給校長說:「如果這些學生不害怕生成和發布我的這些圖像,我擔心他們可能會透過簡訊和群組聊天室私下傳播什麼。請記住,這也可能包括其他學生。」
一名承認製作照片的學生被處以校內停學處分。迪聖地亞哥後來被告知,這張照片也在Snapchat上分享。但迪聖地亞哥說,這張照片繼續擴散,其他學生也開始發布。他還說,他的TikTok帳號收到了幾條粗俗、帶有性意味的評論。
迪聖地亞哥告訴行政人員,在「徹底解決」此事之前,他不想在國中代課。學區沒有回應WIRED的置評請求。他接受了當地高中代課的任務,但問題也隨之而來。在一堂課上,他收到了一張AirDrop傳送的同一張AI生成照片,但很快就被撤回。他知道這張照片正在班級中流傳。
校長告訴他,學校正在「立即展開調查」,並提出與迪聖地亞哥會面或提供學校輔導員協助,但迪聖地亞哥表示,他今年可能不會再回到該學區。他告訴WIRED,至少目前,他不覺得這樣做是安全的。
「這讓你質疑一切」
當未經同意的成年人假裸照被散布時,這可能構成網路跟蹤,並違反聯邦的《下架法案》(Take It Down Act),該法案規定在網路上發布未經同意的「個人親密視覺圖像,無論是真實的還是電腦生成的」均屬犯罪行為。
在WIRED採訪的大多數案例中,教師們沒有直接向內容出現的平台舉報。Snap發言人莫妮克·貝拉米(Monique Bellamy)分享了該公司關於騷擾和色情內容的政策,該政策禁止分享AI生成或篡改的內容以羞辱或性騷擾他人。她告訴WIRED,該公司「建立了既定流程」來舉報此類內容,並且它將繼續「開發旨在支持我們社群安全、隱私和福祉的功能和工具」。TikTok在發布前沒有提供評論。
退休的勞工權益律師唐娜·巴爾曼(Donna Ballman)告訴WIRED,如果學生製作並分享老師的性化圖像,這構成工作場所性騷擾的「明確案例」。巴爾曼說,根據聯邦反歧視法,雇主有義務創造一個沒有性騷擾的工作環境。在學校裡,這可能意味著處罰學生或將他們轉到不同的班級。
然而,她補充說,學校如何應對這些事件「沒有藍圖」。行政人員甚至不必告訴受害老師學生可能受到了什麼處罰。巴爾曼說:「他們只需要為受害者創造一個安全的環境。」
一位二十多歲的國中老師告訴WIRED,她看到太多AI生成內容被用來騷擾老師,她正在為下一波浪潮做好準備。(她要求匿名,因為她沒有得到學區的許可談論她的經歷。)她說,去年,學生們找到了一位六十多歲老師的公開照片,操控這些照片,讓她看起來像在進行性行為,並在Snapchat群組聊天室中互相分享。
這位老師說,幾個月前,她從一名學生那裡得知一個冒充她的TikTok帳號。它看起來像是AI生成的,她的臉有AI生成內容特有的平滑感,她的嘴巴不自然地移動,而且她的聲音與她自己的聲音不符。有些影片顯示她在做跳傘或後空翻之類的事情。但另一些則描繪她在談論她進行並喜歡的性行為。
她說她把這個帳號告訴了校長,校長向她保證會「看看我們能做什麼」。一整天,學生們繼續警告她這個帳號。她說,有些學生告訴她,他們知道誰創建了這個帳號,他們的一個同學。她說這個學生以行為問題而聞名。
她告訴WIRED:「我知道很多向我舉報的學生真心相信那是我的帳號,而且我說了那些話。我當時想,『天哪,你們,那不是我。』」她要求他們向TikTok舉報,她說這個帳號很快就被下架了。儘管對這起事件感到不安,她在下一次月度教師會議上提到了這個TikTok帳號。一位同事說,他看到了一段看似AI生成的自己被捕的假影片,他認為也是同一個學生製作的。
她說,隨著時間的推移,她成為了同一個學生不斷升級的當面騷擾的目標,這個學生開始「咒罵我、辱罵我、叫我滾開、罵我婊子」。她在下一次教職員會議上提出了這個問題,副校長說,同一個學生在半夜打電話和發簡訊給他們,並將明顯是AI生成的照片發布到TikTok上。
她說校長將該學生從她的班級中移除,並試圖限制他接近她。但她說,騷擾一直持續到該學生最終離開了學區,TikTok也移除了該帳號。她說,這些行為問題並非這個特定學生獨有。她說:「我們正在處理這些問題,這並不奇怪,因為這些孩子就是很難管。我只是擔心這種情況會再次發生。」
其他老師表示,他們的經歷從根本上改變了他們與學生互動的方式。愛麗絲(Alice),她要求只透露她的名字,在英國一所學院工作,該學院培訓16至19歲的學生學習建築等行業技能。她的工作結合了行政職責,例如點名,以及學院輔導員的角色。她說她每年會單獨會見大約150名學生,並為自己能夠成為傾聽者、給予他們建議並擔任導師而感到自豪。
她說,今年冬天,學校行政人員告訴她,一名學生提交了一份報告,聲稱有兩段影片在他的同學之間流傳。其中一段似乎是真的,顯示她正在與一名學生交談。他們說,另一段似乎是第一段的篡改版本。但影片中她沒有與學生交談,而是脫掉衣服,穿著內衣或比基尼跳舞。
愛麗絲告訴WIRED,作為一名合格的青少年工作者,她的部分工作通常涉及談論學生可能「羞於告訴父母」的事情,例如毒品、派對或安全性行為。她說她與她懷疑製作影片的學生進行了幾次這樣的對話。當行政人員詢問時,該學生否認了,並很快退學。(該學院沒有回應WIRED的置評請求。)
她說:「這也讓我想起那些對話,思考他是否認為我們可以越界,因為我們正在進行這些討論?這讓你質疑一切。」之後,學院允許她離開班級幾週,並採取措施教育學生關於製作或散布深偽內容的危險。但她說,當她回來時,氣氛變得冷淡。她說:「我確實與我的學生有很好的關係,我現在仍然與我的學生有很好的關係。」她仍然熱愛她的工作。「但這確實讓我變得更加謹慎、更加警惕。」
「這越界了」
和迪聖地亞哥一樣,亞利桑那州的六年級老師路克·瑞德(Luke Red)說,他的學生在他的公開TikTok帳號評論區散布了一張他的AI生成照片。照片描繪了他和另一位男老師互相親吻。瑞德說他向TikTok舉報了這些帳號,不是因為內容違規,而是因為未滿13歲的最低年齡,但他說TikTok沒有移除這些帳號。
他說學校立即展開調查,並很快確認了該學生,該學生承認製作並分享了這張照片。該學生被處以三天停學處分,根據學區手冊,這是該年齡段孩子首次性騷擾違規所能受到的最嚴厲懲罰。學區沒有回應WIRED的置評請求。
瑞德告訴WIRED,反思這段經歷「讓我陷入低潮」。他說,他的擔憂不一定是他身上發生的事情。他們更關注學生中圍繞AI使用的熱情、放任的文化。瑞德說:「這只是到了學生們覺得製作不雅圖像足夠自在的地步。顯然,當你讓你的老師在這些圖像中做性行為時,這就越界了。」
最終,他為學生感到比為自己更抱歉。瑞德說:「很明顯,現在很多孩子根本不明白他們所做的事情不僅會如何影響他人,也不明白網路上會發生什麼以及它有多危險。」



