科技公司面臨兒童安全訴訟，AI入校園引發疑慮

科技公司多年來向家長保證，他們正努力讓產品對兒童更安全。然而，針對Meta、Google和Snap等公司的持續陪審團審判、和解及相關訴訟表明，他們做得還不夠。

本週又出現了最新的案例：Snap秘密和解了一起案件，該案聲稱其技術導致兩名青少年用戶遭受嚴重的心理困擾。Meta、TikTok和YouTube此前已與同一訴訟的原告達成和解。

Google本週也遭到起訴，一名兒童的父母聲稱孩子在使用Google Classroom中的Gemini AI聊天機器人後，經歷了心理危機。隨著人工智慧公司追求兆美元估值，並將先進AI模型推向課堂，相關擔憂正日益加劇。

發展心理學家凱特·布洛克（Kate Blocker）表示，旨在最大化用戶參與度的產品和功能可能對用戶產生有害影響，因此需要「在科技設計上進行更廣泛的系統性變革，尤其是在兒童使用時」。

非營利組織「兒童與螢幕」（Children and Screens）的研究與專案主任布洛克表示：「我認為，在設計這些產品（包括AI、社群媒體等）時，考量兒童安全至關重要，而不是等到問題出現後才來處理。」

McNicholas & McNicholas 訴訟部門主任約瑟夫·麥克納利（Joseph McNally）表示，Snap本週的和解讓執行長伊凡·史匹格（Evan Spiegel）免於在洛杉磯法庭作證。這延續了科技公司試圖避免因今年多起備受矚目的兒童安全相關審判而受到公眾審查的普遍趨勢。

此案是Meta和YouTube今年稍早敗訴的社群媒體人身傷害審判相關的數起訴訟之一，更多審判預計將於三月開始。

曾任加州中區代理聯邦檢察官的麥克納利說：「我認為這次和解以及該領域的其他和解，是科技公司試圖扭轉局面的努力。這不僅因為存在真正的法律挑戰，也因為其產品和公司的聲譽確實受到了打擊。」

Snap發言人在一份聲明中表示：「雙方很高興能以友好的方式解決此事。」

Snap發言人表示：「我們已建立防護措施，推出安全教學，並與專家合作。由於安全工作永無止境，我們將持續致力於加強社群的安全、隱私和福祉。」

然而，目前仍有一宗聯邦案件涉及Meta、TikTok、Snap和YouTube，以及全國各地的學區，還有各州檢察長的訴訟。去年八月，Meta同意支付近170億美元，與一群州檢察長就一起兒童心理健康案件達成和解。

一些州檢察長仍在對Meta的競爭對手提起類似訴訟。

麥克納利表示，社群媒體訴訟有助於讓家長和公眾了解該產業如何設計青少年和兒童使用的產品。他說：「這是一場持續的科技軍備競賽，通常缺少的是如何在參與這場軍備競賽的同時，平衡實用性與產品安全。」

Google本週因行動過快而受到更多批評。《紐約時報》週二報導，不允許學生使用Google AI工具的K-12學校將失去搜尋功能。Google教育副總裁克里斯·菲利普斯（Chris Phillips）告訴《泰晤士報》：「搜尋和AI已深度整合。」

這與針對Google的新訴訟同時發生，該訴訟的核心是一名青少年據稱因該公司的Gemini AI而產生自殺危機。原告律師聲稱，「儘管Gemini存在已知風險，Google仍倉促地將其整合」到學童使用的Chromebook電腦中。

Google發言人在一份聲明中表示：「我們正在審查訴訟中的主張，並非常嚴肅地對待此事。我們已與醫療專業人員和學術專家廣泛合作，開發有助於年輕人在需要時找到關鍵支持和可信資源的功能。」

Google及其網路同業數十年來一直能依賴《通訊規範法》第230條。這項於1996年通過的聯邦立法，保護社群媒體公司免於因用戶發布的內容而被起訴。

這就是為什麼原告律師和州檢察長一直專注於科技平台設計所造成的損害，而非其內容。一些原告正對AI公司採取相同的策略。

OpenAI面臨來自州檢察長和原告律師的數起訴訟，這些訴訟借鑒了社群媒體案件，聲稱ChatGPT的設計可能對兒童構成風險。隨著OpenAI計劃進行潛在的重磅首次公開募股（IPO），這些訴訟可能成為日益增長的財務風險。

OpenAI的競爭對手Anthropic，也計劃於本月上市，其招股說明書中也強調了這個問題，儘管Claude的開發者禁止兒童使用其產品。舊金山大學法學院教授米歇爾·奈茨（Michele Neitz）表示：「這清楚表明，科技公司預計會面臨比十年前更多的訴訟風險。」

布洛克表示，目前AI驅動的聊天應用程式高度個人化的特性，使得預測這些應用程式會對孩子說什麼「有點不可預測」。她強調，從一開始就對這些產品進行測試和評估，以確保兒童的發展安全至關重要，「而不是等到傷害發生後才來處理」。

布洛克說，這些集體訴訟有助於教育公眾了解不良產品設計選擇的潛在陷阱，並可能成為科技產業變革的催化劑。

布洛克說：「當然，我們希望這能推動真正的系統性變革，無論是從監管角度還是公司內部決策角度來看。」