菲律賓國防部長下令所有國防人員和16.3萬名軍人必須停止使用利用人工智慧技術生成個人肖像的數位應用程式,因為它們可能會造成安全風險。
國防部長吉爾伯托·特奧多羅在10月14日發出的備忘錄中下達這項命令,因為菲律賓部隊一直在努力削弱長期存在的共產主義和穆斯林叛亂勢力,並保護南海領土主權的爭議地位。
國防部周五證實了備忘錄的真實性,但沒有提供其他細節,包括特奧多羅下達禁令的原因。
特奧多羅特別警告不要使用需要用戶上傳至少10張自己照片,然後利用人工智慧技術創建「一個真實個人的數位表現,模仿真實個人的語言和動作」的數位應用程式。這類應用程式存在「重大的隱私和安全風險」,他說。
「這看似無害和有趣的人工智慧動畫應用程式,其實可以惡意用於創建假帳戶,可能導致身份盜用、社交工程、釣魚式攻擊和其他惡意活動,」特奧多羅說。「已經有一起類似案例報告。」
特奧多羅下令所有
「必須停止使用人工智慧照片生成應用程式,並在網上分享信息時保持警覺,行為必須符合菲律賓國防部的價值觀和政策。」