AI 正在讓醫師們在不知情的情況下，成為深偽影片的主角，這些影片用於推銷可疑產品或散播不實資訊，促使臨床醫師們呼籲制定更多隱私與透明度法規。重要性：社群媒體平台上充斥的 AI 內容，恐進一步侵蝕大眾對醫療體系的信任。它也可能被用於助長保險詐欺、竊取資料，並危及病患安全。
最新進展：美國醫學會（American Medical Association, AMA）上週呼籲聯邦與州立法者，應彌補法律漏洞並更新身份保護措施，以應對其執行長 John Whyte 所稱的「公共衛生與安全危機」。該醫師團體也要求嚴厲打擊深偽內容的創作者，並制定規則強制科技平台更快地移除冒用內容。
加州已採取措施，例如要求 AI 生成廣告揭露資訊，並正在討論一項將明確禁止醫師深偽內容的法案。賓州醫學委員會週二處理了另一種形式的 AI 冒用，要求一家科技公司停止並終止其行為，因為該公司的一個聊天機器人冒充醫師，聲稱擁有在該州執業的執照。
醫師們表示，他們越來越常發現自己的身份被用於推廣保健品、延壽補充劑以及未經批准的醫療器材。Whyte 表示：「這正變得越來越普遍。每個人都認識受此影響的人。」「實際發生的情況可能比我們聽到的更多，因為人們對此感到尷尬。」受害者之一包括 CNN 的 Sanjay Gupta，他表示利用其形象推廣突破性阿茲海默症療法等產品的深偽內容，已變得如此逼真，甚至連一些熟人都被騙了。
Gupta 最近在 CNN 的《服務條款》（Terms of Service）節目中表示：「這次不同之處在於這些廣告的品質。」「這真的相當令人震驚。」威脅程度：Whyte 指出，如果病患因服用假冒產品或遵循非真實醫師提供的建議而受害，醫師可能會面臨訴訟。
AMA 正在尋求指導，以了解受害醫師應如何應對，以及醫療事故險和網路責任險能提供何種幫助。深偽內容不僅限於個人。醫療系統也正在發現偽造的診斷影像和其他臨床資料，這些可能在內部造成嚴重破壞。《放射學》（Radiology）期刊最近一項研究發現，大多數臨床醫師未能辨識出深偽的 X 光片。
即使被警告要留意不自然的軟組織紋理和過於平滑的骨骼表面等特徵，仍有四分之一的醫師未能發現這些偽造影像。西奈山伊坎醫學院（Icahn School of Medicine at Mount Sinai）的主要作者 Mickael Tordjman 表示，這些偽造內容可能被用於詐騙保險公司或煽動訴訟。
他說：「如果駭客入侵醫院網路並植入合成影像，以操縱病患診斷或造成廣泛的臨床混亂，也存在重大的網路安全風險。」總結：AI 正在侵蝕一個信譽攸關生死的專業領域的信任基礎。Whyte 表示：「我們不應該讓大眾成為偵探，來判斷某個東西是否為深偽內容。」
