立法院外交及国防委员会今(18)日邀请国家安全局等单位报告「AI技术在资安、深伪（Deepfake）影片及错假讯息之影响评估及因应」，并备质询。
林忆君今(18)日质询时首先指出，近日网路疯传一段疑似前立委高嘉瑜批判时政的影片，经证实，该影片是透过「AI深伪仿声技术」造假的影片，且其来源是中国抖音；今年总统大选后，网路更疯传「习近平致电祝贺赖清德当选中华民国台湾第16任总统」的影音，后续也证实为虚构资讯。
林忆君强调，面对资安与国安疑虑，除了政府要积极考量前述直接与间接的限制措施之外，民众与使用者本身的资安意识与数位素养，也相当重要，未来应采取有效行动，让国人有办法明辨真伪，透过教育或宣导的方式，来遏止中国越来越猛烈的认知作战，避免未来发生更大的国安问题；否则，中国造假影片、认知作战的新型态作战模式将是未来趋势，国安局应认真思考如何因应中共「非传统式-AI技术武器化」的攻击与渗透模式。
国安局局长蔡明彦回应，针对AI生成技术，国安团队已建立跨单位机制在网路查找，运用新技术于社群平台查找有问题帐号、讯息去做通报，目前每周找到的假讯息逾4万件，同时也与社群媒体平台meta公司合作，在前三季协助下架10万件假讯息。
林忆君质疑，数发部耗费预算上百亿，却不见改善诈骗现况，打诈成效不彰、甚至成为国家打诈「猪队友」，难怪成为网路民怨声量最高、最「顾人怨」的部会。林忆君痛批，2023年民众被诈骗金额累积高达88.78亿元，创下史上新高，赖清德总统也在今年出席「2024全面阻绝诈骗论坛」，强调「打诈视同作战，不成功绝不罢休」，但近年台湾诈骗集团却反而越来越猖獗。林忆君呼吁各单位应善尽责任通力合作防堵诈骗，莫再互踢皮球，让「打诈国家队」变成「诈骗国家队」的笑话。
