使用AI克隆拜登聲音，被罰600萬美元

美國聯邦通信委員會（FCC）計劃對在新罕布什爾州初選期間，利用語音克隆技術冒充拜登總統撥打非法自動電話的詐騙行為處以高達600萬美元的罰款。這次行動主要針對非法自動撥號行為，而非人工智能本身，但FCC此舉顯然是為了對所有可能的高科技詐騙分子發出強烈警告。

今年1月，新罕布什爾州許多居民接到了看似來自拜登總統的電話，內容要求他們不要在即將舉行的初選中投票。這些電話實際上是利用聲音克隆技術偽造的。近年來，聲音克隆技術的普及使得通過生成式AI平臺制作任意人的聲音變得異常簡單，且幾乎沒有限制或監管。僅需少量拜登演講音頻，就能輕松生成以假亂真的“拜登之聲”，而這些音頻素材在網上隨處可見。

FCC及多家執法機構明確表示，不會容忍通過偽造的拜登聲音，利用非法自動電話系統來干預選舉、誤導選民或竊取敏感信息的行為。FCC執法局負責人洛亞安·埃加爾在聲明中強調，任何企圖濫用人工智能技術通過電信網絡進行選舉干預、欺騙公眾或泄露數據的不法行為將面臨迅速而嚴厲的法律制裁。

此次事件的主要策劃者是名為史蒂夫·克萊默的“政治顧問”，他得到了如Life Corporation等信譽存疑的公司的支持，這家公司曾因非法自動撥號電話被指控。還有多家電信公司如Lingo（其名下有多個別稱）為其提供協助。盡管克萊默顯然違反了多項法規，目前他本人及其同伙尚未面臨刑事起訴。這反映出FCC權限的局限性：他們需要與其他地方或聯邦執法部門合作，才能強化其在追究責任方面的權威。

600萬美元的罰款雖然象征著最高處罰額度，但實際支付金額通常因各種因素而遠低于此，即便如此，這依然是一筆不小的數目。接下來，克萊默需要對這些指控作出回應，而Lingo則面臨可能包括罰款或吊銷營業執照在內的單獨法律程序。

值得注意的是，這一事件促使FCC在2019年明確規定，使用AI生成的聲音在自動電話中屬于法律禁止的“人造”聲音范疇，體現了FCC對新興技術應用監管的前瞻性和嚴謹態度。

▲ 滑動查看往期內容