据《卫报》9月30日报道，随着AI生成图像日益普遍，美国选举面临深度伪造和虚假信息威胁。佐治亚州学院公园市市长比安卡·莫特利·布鲁姆的伪造照片在Facebook广泛传播，照片显示她在酒吧亲吻一名并非其丈夫的男子。该照片为假，但先被数千人看到，事实核查随后才追上。
莫特利·布鲁姆称，这是对民主和政治话语现状的悲哀注解，也在强化关于女性领导人的陈旧刻板印象。报道说，六年前她首次就任这个亚特兰大郊区市长时，伪造政客尴尬照片至少需要图像编辑软件的基本技能；如今只需电脑和向AI生成器输入提示词。
深度伪造和AI虚假信息已成为立法者、倡导者和公众关切。Rad Campaign与Women Who Tech六月中旬民调显示，约71%受访者担心AI生成的深度伪造和虚假信息影响选举，三分之二担心AI被用于性化女性。Rad Campaign创始人艾莉森·卡平说，美国人更担心AI被用于深度伪造、选举虚假信息和性化妇女儿童，而非其工作或经济影响；对前者的担忧约为对AI影响工作的三倍。
报道称，特朗普政府有使用AI图像倾向。今年1月，白宫在X官方账号发布篡改后的Nekima Levy Armstrong图片。她因与扰乱明尼苏达州圣保罗教堂礼拜的示威有关被捕，原图显示她平静被DHS人员护送，修改后她看似哭泣、皮肤被加深。白宫副通讯主任Kaelan Dorr后称该图为“meme”。2月，X上一“parody”账号传播纽约市长Zohran Mamdami假图，错误显示他与母亲和名誉扫地金融家Jeffrey Epstein在一起。路透社用Google SynthID揭穿，但其他账号已当真实图片转发，助长阴谋论。
佐治亚州民主党参议员拉斐尔·沃诺克在Facebook视频中说，网上流传的深度伪造图片错误显示他有健康问题、抱着一群不存在的孙辈、还有浓密头发；他说这有趣也有问题。沃诺克说，工具越强大，区分事实与虚构越难，恶意行为者正尽力分裂和迷惑公众，这对民主有巨大影响。他问，若选举前几小时有人用AI生成候选人的假图假故事，选民如何知道真假。报道说，沃诺克是一些参议院民主党人之一，他们在模拟可能选举干预场景的政治回应，首要场景是社交媒体传播伪造图片或视频驱动的虚假信息。
即将离任的美国参议员、路易斯安那州共和党人约翰·肯尼迪上周提法案，要求AI公司为失控AI安装“kill switch”。肯塔基州参议员兰德·保罗阻止，称无更多行业意见为时过早。众议院民主党少数党领袖哈基姆·杰弗里斯本月早些时候对SiriusXM说，政府应“紧急”推进AI监管，呼吁“护栏保护美国人民免受恶意行为者和不良行为”，并称应是高优先级。杰弗里斯指出，共和党去年试图立法阻止各州监管AI，作为One Big Beautiful Bill一部分；修正案在参议院以99票对1票失败。
报道还说，在广泛两党公众反对声中，州立法机构也在应对AI监管。一些州已有类似田纳西州Elvis Act的法律，保护政治人物和居民免受AI声音克隆和数字肖像复制，依据该州因纳什维尔唱片业形成的强大公开权保护。