菲律賓軍方禁止使用AI生成人物照片的應用程式
需要使用者上傳個人照片,然後利用人工智慧技術來創建使用者數位複製人的應用程式,現在菲律賓國防部已下令禁止軍方人員使用。國防部長吉爾伯托·特奧多羅二世警告,這類應用程式可能存在安全風險。
上週五,軍方官員證實已傳開的國防部長備忘錄的真實性。不過,部門沒有透露更多有關禁令的細節。
在備忘錄中,國防部長提到一款應用程式,它利用AI技術根據使用者上傳10張照片後,可以“模擬真實個人的說話和動作方式”來創建一個“數位人物”。
“這似乎無害而有趣的AI應用程式實際上可能被惡意利用,用於製造假個人資料導致個人資料盜用、社會工程學、釣魚式攻擊和其他惡意活動。”特奧多羅寫道,並表示他已知道有相關案例。
他敦促下屬在網路上分享資訊時一定要謹慎。
上月,美國國家安全局和聯邦調查局就“深假技術”可能被利用滲透軍方和其他敏感目標的電腦系統而發出威脅警報。
“操縱真實多媒體的工具和技術本身不是新鮮事,但網路惡意分子利用這些技術的程度和規模正在增加。”國家安全局數學家坎迪斯·洛克威爾·格斯特納在聲明中表示。她建議美國公司學會檢測深假內容,並制定應對計畫以防這種技術被用於攻擊。
除企業外,美國安全機構以及五角大樓和國防承包商也面臨風險,警報指出。
文件另一重要觀點是,“合成媒體也可能透過散佈錯誤政治、社會、軍事或經濟議題的假消息,引發公眾動盪。”