近日，美国国防部首席数字和人工智能办公室（CDAO）宣布，已成功完成一项旨在识别在使用大型语言模型（LLM）增强军事医疗服务过程中漏洞的生成人工智能试点项目。该试点项目由Humane Intelligence组织通过其众包AI红队保证计划实施，吸引了超过200名参与者，其中包括临床医师和医疗保健分析师。试点过程中发现，在使用LLM进行临床记录总结和医疗咨询聊天机器人等应用时，存在800多个潜在的漏洞和偏见。CDAO表示，这些发现未来将用于评估供应商和工具的性能，并帮助制定国防部关于负责任使用生成式人工智能（GenAI）的政策和最佳实践。此次试点项目是CDAO加速和扩展人工智能工具在国防部部署进程中的重要一步。
美国国防部宣布完成识别医疗人工智 能漏洞的试点
Previous: 美国公司研究发现新的人工智能高效 越狱方法
Next: 印度发布数据保护规则草案强化隐私 与安全