當電話響起時，Tarini Padmanabhuni 的祖父以為他在和自己的兄弟通話。電話那頭的聲音聲稱他兄弟被綁架了，唯一的贖金方式就是支付贖金。
她的祖父支付了錢，後來才發現他的兄弟當時在完全不同的地方，對這一切毫不知情。原來，那個聲音是深偽（deepfake），一種由 AI 生成的模仿。
Padmanabhuni 回憶起這起事件時說：「讓我耿耿於懷的不是錢，而是他根本無法辨別真偽。」大約兩年前發生了這件事。她表示，如今她創立的舊金山公司 DetectifAI，目標是確保其他人不會以同樣的方式受騙。
這是一個龐大且日益嚴重的問題，市場需求也隨之增長。根據 FBI 的數據，美國人去年因 AI 驅動的詐騙損失近 9 億美元，比 2024 年增加了 24%。60 歲及以上的人群損失的金額是 50 至 59 歲人群的兩倍。
深偽語音偵測領域的競爭者眾多，包括 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety 和 Nuance（微軟旗下公司）。但 Padmanabhuni 指出，目前的偵測產品多在雲端伺服器上運行，手機製造商無法將其直接內建到裝置中，這使得受害者幾乎沒有防禦能力。
DetectifAI 不像其他公司那樣將大型雲端模型縮小以適應手機，而是從一開始就設計出足夠小巧的 AI 模型。這些模型可以直接在智慧型手機的作業系統內部運行。
其目標是在通話、語音訊息和其他音訊中，即時判斷聲音是否由 AI 生成，且音訊無需離開裝置。
DetectifAI 首先將產品銷售給手機製造商，授權其軟體工具，以便將偵測功能作為手機作業系統的內建功能出貨。Padmanabhuni 以 AT&T 在初代 iPhone 發布時的角色做類比，當時 AT&T 的獨家協議使其脫穎而出：她認為，第一家搭載 DetectifAI 的手機製造商將獲得競爭優勢。
該產品的核心是 DetectifAI 的軟體開發套件（SDK），這是一個其他公司可以整合到其產品中的程式碼包，可透過現有管道授權。Padmanabhuni 表示，第二個收入來源將是將該技術授權給企業和防詐騙公司。
Padmanabhuni 透露，這家新創公司已經有早期收入，每月為印度金融機構處理超過 10 萬通電話。這些電話由 AI 語音代理處理債務催收和貸款文件追蹤，每通電話都包含深偽偵測和說話者驗證（確認來電者身份）。Padmanabhuni 以保密協議為由，拒絕透露客戶名稱。
Padmanabhuni 表示，她從 12 歲開始從事機器學習工作，後來在印度馬尼帕爾理工學院學習網路實體系統（將軟體與實體機械連結的技術）。她說，她成為了印度第一個無人駕駛賽車部門在 Formula Student（一項國際學生工程競賽）中最年輕的團隊負責人。
DetectifAI 迄今已從投資者 Josh Constine（前 TechCrunch 編輯）和諮詢服務公司 KM Growth 的負責人 Manohar Kamath 那裡籌集到少量種子資金。這家公司是 TechCrunch 編輯團隊審核通過，將參加 10 月 13 日至 15 日在舊金山市中心舉行的 TechCrunch Disrupt 知名 Startup Battlefield 競賽的新創公司之一。
